Theo khảo sát của Tạp chí Y khoa BMJ, các tên tuổi lớn như bác sĩ Hilary Jones, Rangan Chatterjee, và thậm chí cả chuyên gia tư vấn sức khỏe đã qua đời Michael Mosley, đã bị lợi dụng để quảng bá thuốc và thực phẩm chức năng trên các nền tảng như Facebook, YouTube, X, và TikTok. Những video này thường sử dụng hình ảnh và giọng nói giả mạo để thuyết phục người xem.
John Cormack, một bác sĩ đã nghỉ hưu tại Essex và thành viên nhóm khảo sát của BMJ, nhận định rằng việc tạo ra video deepfake rẻ hơn nhiều so với việc nghiên cứu và phát triển sản phẩm một cách chân chính. Ông cũng là nạn nhân của deepfake khi hình ảnh của mình bị sử dụng để quảng cáo thực phẩm chức năng. Dù đã thuê chuyên gia để tìm và gỡ bỏ các video này, ông vẫn chưa thể xử lý triệt để.
Theo Cormack, các sản phẩm được quảng bá bởi các "bác sĩ deepfake" thường là thuốc chữa huyết áp cao, bệnh tiểu đường hoặc kẹo dẻo chiết xuất từ thực vật. Những sản phẩm này có thể không gây hại ngay lập tức, nhưng về lâu dài, nếu là hàng kém chất lượng, có thể ảnh hưởng nghiêm trọng đến sức khỏe người tiêu dùng.
Chris Stokel-Walker, nhà báo công nghệ chuyên về AI, cho rằng deepfake khai thác cảm xúc của mọi người. Khi những người nổi tiếng và uy tín trong lĩnh vực y tế nói về "một loại thuốc thần kỳ", người xem dễ bị thuyết phục hơn so với việc nhận thông tin từ người xa lạ. Henry Ajder, chuyên gia về công nghệ deepfake tại Anh, cho biết sự bùng nổ của AI đã khiến công nghệ này trở nên dễ tiếp cận hơn, nhưng cũng đồng thời bị lợi dụng để sao chép giọng nói và tạo video gian lận.
Ajder cảnh báo rằng việc phát hiện deepfake ngày càng khó khăn vì công nghệ này liên tục được cải tiến. Mặc dù khó có thể đo lường chính xác hiệu quả của việc gian lận bằng deepfake, nhưng số lượng video ngày càng tăng trên mạng xã hội cho thấy mức độ thành công của những kẻ xấu.
Người phát ngôn của Meta cho biết sẽ điều tra các thông tin mà BMJ công bố và khuyến khích người dùng báo cáo nếu phát hiện nội dung đáng ngờ. Tuy nhiên, các nền tảng khác như YouTube, X, TikTok chưa đưa ra bình luận về vấn đề này.
Deepfake là công nghệ tiên tiến nhưng cũng tiềm ẩn nhiều rủi ro khi bị lợi dụng. Người dùng mạng xã hội cần cảnh giác và tỉnh táo để tránh trở thành nạn nhân của những chiêu trò gian lận, mạo danh nguy hiểm.