Deepfake: Vũ khí đáng sợ có thể thay đổi cục diện chiến tranh

Video giả lan truyền

Vào ngày 16/3,ũkhíđángsợcóthểthayđổicụcdiệnchiếars một video giả mạo đột nhiên được lan truyền nhanh chóng trên mạng xã hội. Trong video là Tổng thống Ukraine Volodymyr Zelensky, đứng sau bục tổng thống, mặc áo sơ mi màu xanh lá cây sẫm nói chuyện một cách chậm rãi. Ngoại trừ phần đầu, cơ thể của ông hầu như không cử động khi nói.

Ông Volodymyr Zelensky đã kêu gọi người Ukraine đầu hàng Nga với chất giọng lại méo mó và khàn: “Tôi yêu cầu các bạn hạ vũ khí và trở về với gia đình. Cuộc chiến này không đáng để chết. Tôi đề nghị các bạn hãy tiếp tục sống và tôi cũng sẽ làm như vậy”.

Ngay sau đó, đoạn clip này nhanh chóng được xác định là một video giả mạo sử dụng deepfake - công nghệ thu thập hình ảnh khuôn mặt của một đối tượng, sau đó ghép vào mặt của một người khác trong video nhằm gây nhiễu loạn thông tin.

Ngoài video giả mạo tổng thống Ukraine, một video deepfake khác với nội dung Tổng thống Nga Vladimir Putin tuyên bố hòa bình trong cuộc chiến Ukraine cũng được lan truyền rộng rãi.

Kỹ thuật ngày càng tinh vi

Trong nhiều năm, các chuyên gia về thông tin sai lệch và xác thực nội dung đã tỏ ra quan ngại về khả năng lan truyền tin tức giả và tình trạng hỗn loạn thông tin thông qua các video deepfake, đặc biệt là khi chúng ngày càng trông giống như thật.

Trên thực tế, các video deepfake trở nên tinh vi hơn rất nhiều chỉ trong một thời gian ngắn. Chẳng hạn, các video lan truyền về cảnh Tom Cruise giả tung đồng xu và cover các bài hát của ban nhạc Dave Matthews vào năm 2021 đã cho thấy deepfake có thể xuất hiện một cách thuyết phục như thế nào.

Các video giả mạo ông Zelensky hay Putinkhông lan truyền mạnh như video của Tom Cruise vì chúng có độ phân giải thấp, đây là cách thức phổ biến để che đậy những sai sót. Tuy nhiên, các chuyên gia vẫn đánh giá rằng chúng rất nguy hiểm vì thông tin sai lệch dùng công nghệ cao có thể nhanh chóng lan truyền trên toàn cầu.

“Một khi ranh giới này bị xóa mờ, sự thật sẽ không tồn tại. Bạn sẽ mất niềm tin vào những gì thấy bất cứ điều gì mình thấy, mọi thứ lúc đó trong mắt bạn sẽ chỉ toàn là giả dối", Wael Abd-Almageed, Giám đốc sáng lập Phòng thí nghiệm phân tích đa phương tiện và trí tuệ thị giác Đại học Nam California chia sẻ.

Vào năm 2019, nhiều người lo ngại cho rằng các video deepfakesẽ ảnh hưởng đến cuộc bầu cử tổng thống Mỹ năm 2020, nhưng cuối cùng điều đó đã không xảy ra.

Siwei Lyu, Giám đốc phòng thí nghiệm học máy và thị giác máy tính tại Đại học Albany, cho rằng điều này là do công nghệ tại thời điểm đó chưa phát triển. Để tạo ra một video deepfake giống như thật không hề dễ dàng, nó đòi hỏi các kỹ thuật phải che giấu được những đặc điểm dễ bị phát hiện là giả mạo và giọng nói phải thật tự nhiên. Tuy nhiên, giờ đây việc tạo ra các bản deepfake giống thật đã trở nên dễ dàng hơn rất nhiều. 

Việc chúng đang được sử dụng để gây ảnh hưởng đến một cuộc giao tranh là điều đặc biệt nguy hiểm. Ông Lyu chia sẻ trong những trường hợp bình thường, video deepfake không có nhiều tác động ngoài việc thu hút sự quan tâm và thu hút sự chú ý trên mạng. Nhưng trong những tình huống nguy cấp như chiến tranh hoặc thảm họa quốc gia, khi mọi người không thể suy nghĩ thấu đáo và ít chú ý, đó là lúc nó trở thành một vấn đề nghiêm trọng.

Nina Schick, tác giả của "Deepfakes: The Coming Infocalypse" cho rằng các video giả mạo Tổng thống Ukraine và Nga chỉ là “phần nổi của tảng băng chìm”. Vấn đề sai lệch thông tin trực tuyến thực tế lớn hơn nhiều, thậm chí các công ty truyền thông xã hội không đủ sức để giải quyết.

Không gì qua mắt được con người

Khi các video deepfake trở nên ngày càng giống thật, các nhà nghiên cứu và các công ty đang cố gắng cập nhật các công cụ để phát hiện ra chúng.

Abd-Almageed và Lyu sử dụng các thuật toán để phát hiện các video deepfake. Ông Lyu tạo ra phần mềm “DeepFake-o-meter”, cho phép bất kỳ ai tải video lên để kiểm tra tính xác thực của nó, mặc dù có thể mất vài giờ để có kết quả. Một số công ty, chẳng hạn như nhà cung cấp phần mềm an ninh mạng Zemana, cũng đang phát triển phần mềm của riêng họ để giải quyết vấn đề này.

Tuy nhiên, ông Lyu tin rằng con người vẫn sẽ tốt hơn trong việc phát hiện các video giả mạo so với các phần mềm. Ông nói: “Chúng ta sẽ thấy video deepfake nhiều hơn trong tương lai và việc dựa vào các công ty truyền thông xã hội như Google, Facebook, Twitter là không đủ. Không gì có thể qua mắt được con người”.

Hương Dung(Theo CNN)

Trí tuệ nhân tạo trở thành tiền đồn trong xung đột Nga - Ukraine

Chiến tranh là điều khủng khiếp, nhưng nó thường đóng vai trò quan trọng trong việc phát triển và thử nghiệm công nghệ mới. Cuộc xung đột Nga - Ukraine đã cho thấy vai trò của trí tuệ nhân tạo (A.I) ngày càng rõ rệt.

很赞哦!（76286）