Luật mới được chính phủ Trung Quốc ban hành ngày 29/11. Theo đó, cả nhà cung cấp và người dùng dịch vụ âm thanh, video trực tuyến đều không được phép sử dụng công nghệ trí tuệ nhân tạo (AI), như học sâu (deep learning) và thực tế ảo (AR), để sản xuất hoặc và phát tán tin giả, trong đó có deepfake.
Deepfake là thuật ngữ kết hợp giữa "deep learning" và "fake", chỉ hệ thống máy học (machine learning) được thiết kế để quét video và ảnh chân dung của một người, hợp nhất nó với video riêng biệt bằng thuật toán và thay thế các chi tiết trên gương mặt như mắt, mũi, miệng... Nói cách khác, deepfake có thể gán khuôn mặt của người này sang người khác với độ chân thực gần như tuyệt đối.
Các quy định mới nói trên dự kiến có hiệu lực vào ngày 1-1-2020.
Sự xuất hiện của deepfake được giới chuyên gia nhận định là rất nguy hiểm khi công nghệ này sử dụng AI để tạo ra các đoạn video giống y như thật, trong đó một người dường như nói hoặc làm điều gì đó dù chuyện này không xảy ra trong thực tế.
Đã từng có không ít sản phẩm được tạo ra bởi công nghệ deepfake khiến giới công nghệ giật mình. Có thể kể tới như đoạn video với một người đeo mặt nạ silicon của Ngoại trưởng Pháp - ông Jean-Yves Le Drian để làm video xin tiền các tỷ phú. Với cái cớ “viện trợ nước Pháp chuộc con tin”, kẻ lừa đảo đã nhận được tới cả chục triệu USD trước khi bị bắt.
Theo đại diện của CAC cho biết, trong bối cảnh công nghệ phát triển nhanh như hiện nay, trong đó trí tuệ nhân tạo được ứng dụng ngày một nhiều. Tuy nhiên đi cùng với sự phát triển ấy là việc xuất hiện rất nhiều sản phẩm được tạo ra bởi công nghệ deepfake
Các nhà chức trách Trung Quốc bắt đầu lo ngại về sự phát triển của công nghệ sản xuất video deepfake kể từ tháng 9/2019, khi ứng dụng Zao cho phép người dùng ghép khuôn mặt với các nhân vật trong phim trở nên phổ biến. Chỉ trong hai ngày ra mắt, sản phẩm của nhà phát triển Momo đã nhanh chóng trở thành ứng dụng được tải xuống nhiều nhất trên kho ứng dụng App Store.
Khi smartphone và các ứng dụng máy ảnh ngày càng tiên tiến, người dùng phổ thông cũng có thể tự tạo hiệu ứng cho ảnh, video như làm trắng da, thay đổi màu mắt hay thậm chí là biến trẻ thành già như ứng dụng FaceApp "gây bão" giữa năm nay.
Trung Quốc không phải quốc gia duy nhất quan ngại về hiểm họa từ video deepfake. Tháng trước, bang California khép tội hình sự với hành vi sản xuất và phân phối video, hình ảnh hoặc âm thanh giả mạo chính trị gia trong chiến dịch tranh cử. Hồi tháng 4, Liên minh châu Âu (EU) cũng đã mở cuộc điều tra các loại hình thông tin sai lệch phát tán trên mạng.