Việc một ứng dụng như vâỵ gây sốt nhanh chóng và vấp phải phản ứng từ một số người dùng cho thấy công nghệ trí tuệ nhân tạo đang gây ra những lo ngại mới về nhận dạng như thế nào.
Theo tờ South China Morning Post, các bài đăng với #zao đã nhận được hơn 8 triệu lượt xem trên Weibo, phiên bản Twitter của China. Và theo các bản tin của Bloomberg, Zao đã bước lên vị trí đầu bảng xếp hạng phần mềm miễn phí của iOS App Store ở Trung Quốc vào Chủ nhật vừa qua và hiện vẫn chưa có dấu hiệu sụt giảm.
Dựa trên các hình ảnh được người dùng cung cấp, ZAO có thể biến họ trở thành nhân vật chính trong các bộ phim đình đám, chương trình truyền hình hay bất kì video nào có người nổi tiếng.
Theo Hãng tin AFP, tính đến ngày 2-9, ZAO đã trở thành app được tải về nhiều nhất tại thị trường Trung Quốc. Trên mạng xã hội Weibo, nhóm phát triển ZAO cho biết các máy chủ của ZAO gần như đã bị sập vì có quá nhiều người tải xuống cùng lúc.
Ứng dụng Zao hoạt động cực kỳ dễ dàng, đến mức đáng sợ. Người dùng chỉ cần trao cho ứng dụng một bức ảnh selfie, và gương mặt họ sẽ được “gắn” vào thân hình của một ngôi sao phim ảnh nổi tiếng như Leonardo DiCapiro, Sheldon trong The Big Bang Theory, hay John Bradley trong Game of Thrones. Người dùng chỉ có thể tải lên ảnh gương mặt vào những cảnh phim hay TV có sẵn trong ứng dụng – chứ không thể thêm gương mặt của ai đó vào một cảnh quay khác, như một vụ phạm tội hay một sự kiện chính trị.
Người dùng Twitter "Allan Xia" đã thử dùng ứng dụng để thay thế gương mặt DiCaprio trong các cảnh từ các bộ phim như Titanic và Baz Lurhmann trong Romeo + Juliet. Theo anh, tất cả đều diễn ra chỉ trong vòng 8 giây. Và chất lượng của các video deepfake là cực cao. Người dùng Twitter Matthew Brennan cũng thử thay gương mặt mình vào nhân vật Sheldon, và dù nó không xuất sắc như video trên, đoạn video deepfake được tạo ra chỉ trong vài giây.
Tuy nhiên, nhiều người đã bắt đầu lên tiếng lo ngại về chính sách quyền riêng tư của ZAO. Họ nhấn mạnh đến một điều khoản trong đó ZAO có quyền "truy cập miễn phí, vĩnh viễn và không thể hủy ngang" tất cả các nội dung do người dùng tạo ra, thậm chí "có thể chuyển nhượng".
"Chúng tôi hiểu những lo ngại về quyền riêng tư. Chúng tôi đã nhận được phản hồi và sẽ khắc phục các vấn đề mà chúng tôi không xem xét, sẽ mất một chút thời gian", ZAO tuyên bố ngày 1-9.
Công nghệ deepfake đã được cảnh báo tiềm ẩn nhiều nguy cơ gây bất ổn xã hội bởi nó cho phép tạo ra những video giả với độ chân thật gần như 100%. Giới chuyên gia cảnh báo deepfake có thể bị lợi dụng để tạo ra những video giả để thao túng bầu cử, phỉ báng ai đó hoặc kích động bất ổn bằng cách truyền bá thông tin sai lệch trên quy mô lớn.
Nhà phát hành cho biết Zao đã cập nhật "Thỏa thuận người dùng" thêm lần nữa, khẳng định bất kỳ bức ảnh selfie hay video nào được thêm vào ứng dụng sẽ không được dùng vào bất kỳ việc gì khác ngoài cải tiến ứng dụng hoặc bất kỳ việc gì khác ngoài những việc người dùng đã đồng ý trước đó. Quan trọng là, ứng dụng cho biết bất kỳ nội dung nào được xóa bởi người dùng sẽ bị xóa khỏi máy chủ của Zao, dù điều này nghe có phần không đúng.
Nền tảng tin nhắn WeChat của Trung Quốc đã chặn toàn bộ các nội dung chia sẻ từ Zao. Người dùng đã đúng khi quan ngại về vấn đề quyền riêng tư trong các ứng dụng đổi mặt và tạo deepfake. Nền tảng mới là FaceApp - cho phép người dùng xem lúc mình già đi hoặc chuyển giới tính sẽ ra sao – cũng đã bị chỉ trích kịch liệt vì những chính sách về quyền riêng tư với nhiều vấn đề phức tạp cùng một số thứ khác.
Bản thân deepfake cũng đã gây ra nhiều tranh cãi. Dù chúng có thể khá thú vị, chúng ngày càng đáng sợ hơn trong bối cảnh công nghệ deepfake ngày một tinh vi - và với Zao, ngày một nhanh hơn. Thông tin giả gây hại lan nhanh như cháy rừng, và nếu một ứng dụng gây bão mạng có thể đẩy nhanh tốc độ lây lan của ngọn lửa đó, chúng ta chắc chắn sẽ gặp rắc rối.
ZAO khẳng định sẽ giải quyết những quan ngại đó.
ZAO được xuất bản bởi Momo, nhà phát triển ứng dụng mạng xã hội được biết đến nhiều nhất qua một ứng dụng hẹn hò rồi sau đó chuyển thành dịch vụ live streaming. Công ty này bắt đầu niêm yết trên sàn chứng khoán New York từ năm 2014.