Làn sóng MC deepfake tung tin giả trên mạng xã hội

“Chúng tôi đang phỏng vấn TikToker Krishna Sahay, người sống sót duy nhất sau vụ xả súng ở trường học gần đây,” Anne-Marie Green, Tin tức CBS neo, cho biết trong một video được đăng bởi TikToker Sahay. Trong một video khác, CNN người dẫn chương trình hỏi Sahay làm thế nào anh ta sống sót sau vụ nổ súng. Cả hai video nhanh chóng thu hút hàng trăm nghìn lượt xem và trở thành hiện tượng trên mạng xã hội.

Tuy nhiên, theo Forbes , Sahay chỉ là một trong số rất nhiều TikTokers và YouTubers đang sử dụng giả sâu Công nghệ phát tán tin giả. Nhờ sự hỗ trợ của AI, họ tạo ra những MC có khuôn mặt và giọng nói giống hệt người dẫn chương trình của các hãng thông tấn lớn, sau đó xây dựng các kịch bản giật gân, sai sự thật để thu hút sự tương tác từ cộng đồng mạng. Nhiều video thậm chí còn có logo của kênh tin tức khiến người xem lầm tưởng rằng tin tức đó là xác thực hoặc độc quyền.

Tuần trước, Clarissa Ward, một CNN phóng viên, trở thành nạn nhân của deepfake khi đưa tin gần biên giới Gaza - Israel. Đoạn video cô tránh tên lửa chứa đầy âm thanh giả, dẫn đến một số hiểu lầm về tình hình xung đột. Đầu tháng 10, Gayle King, MC của CBS sáng nay , bất ngờ xuất hiện trong một video do AI tạo ra, mô tả cách cô quảng cáo một sản phẩm mà cô chưa từng thử. Trên nền tảng Truth Social, Donald Trump cũng đề cập đến một video deepfake trong đó những phát biểu không có thật của ông được trích dẫn bởi CNN người dẫn chương trình Anderson Cooper.

Forbes cho biết các bản tin do MC deepfake tổ chức đang xuất hiện rộng rãi và thường thu hút nhiều tương tác hơn nội dung đăng trên tài khoản của chủ sở hữu. Ví dụ: một video của TikToker Krishna Sahay về Margaret Brennan, MC của chương trình Đối mặt với quốc gia , có 300.000 lượt thích. Trong khi đó, video phổ biến nhất trên Đối mặt với quốc gia Kênh TikTok chính thức của chỉ đạt 7.000 lượt thích. Tài khoản của Sahay và nhiều TikToker khác hiện đã bị xóa do vi phạm quy định, nhưng nội dung deepfake của họ vẫn tồn tại trên mạng vì được nhiều người chia sẻ.

Tin giả do deepfake tạo ra đã xuất hiện từ lâu. Tuy nhiên, giới chuyên môn cho rằng khi gắn liền với hình ảnh MC nổi tiếng, chúng có sức lan tỏa mạnh mẽ và gây ra những hậu quả khó lường. “Video từ các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình đã quen thuộc và được khán giả tin tưởng. Giao diện tin tức cũng làm cho nội dung trở nên quen thuộc và đáng tin cậy. đáng tin cậy hơn,” giáo sư Hany Farid tại UC Berkeley giải thích.

Ariane Selliers, đại diện của TikTok , khẳng định nền tảng này luôn cấm các video sử dụng deepfake để tạo ảnh chân dung cá nhân với mục đích xấu. Công ty yêu cầu người sáng tạo phải dán nhãn riêng trí tuệ nhân tạo nội dung nhằm cảnh báo người xem. Nếu họ không tuân thủ, TikTok sẽ xóa video với lý do “nội dung gây hiểu lầm” hoặc “mạo danh cá nhân để gây tổn hại”.

Selliers nói: “Chúng tôi không muốn những người có ảnh hưởng và khán giả của họ bị lạm dụng hoặc lừa dối trong các vấn đề liên quan đến chính trị hoặc tiền bạc.

Tương tự, Elena Hernandez, YouTube đại diện, cho biết nền tảng này cũng đã xây dựng “chính sách thông tin sai lệch” để chống lại tin tức giả mạo AI.

Deepfake là sự kết hợp giữa deep learning và giả mạo. Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, sau đó tái tạo và chỉnh sửa để tạo ra những bức ảnh hoặc video trông như thật. Theo Kevin Goldberg, luật sư tại Freedom Forum, hệ thống pháp luật cần có những quy định mới để xử lý sự lan truyền của tin tức deepfake, bất kể chúng được sử dụng cho mục đích gây hại hay giải trí. Ngoài ra, các chuyên gia cho rằng người dùng cần nâng cao khả năng đánh giá thông tin, kiểm tra các liên kết và URL để đảm bảo nhận được tin tức từ các nguồn chính thống.

Hoàng Giang