Meta vừa giới thiệu công cụ phát hiện ảnh AI mới cùng mô hình tạo ảnh Muse Image, với mục tiêu giúp người dùng xác minh liệu một bức ảnh có được tạo bởi trí tuệ nhân tạo hay không. Tuy nhiên, một thử nghiệm độc lập của Reuters cho thấy độ tin cậy của hệ thống vẫn còn nhiều hạn chế.
Trong quá trình đánh giá, Reuters tạo ra 40 hình ảnh bằng Muse Image và đưa chúng vào công cụ nhận diện của Meta. Kết quả ban đầu khá khả quan khi hệ thống xác định chính xác toàn bộ ảnh gốc là sản phẩm của AI. Tuy nhiên, sau khi các ảnh này được cắt còn khoảng một phần ba đến một nửa kích thước ban đầu, công cụ không còn nhận diện được 55% số ảnh đã chỉnh sửa.
Watermark vô hình chưa đủ mạnh
Meta cho biết công cụ của hãng hoạt động dựa trên công nghệ watermark vô hình mang tên Content Seal, được nhúng vào mọi hình ảnh do Muse Image tạo ra. Theo tuyên bố của công ty, dấu hiệu nhận diện này được thiết kế để tồn tại ngay cả khi ảnh bị chỉnh sửa hoặc cắt xén.
Tuy nhiên, kết quả thử nghiệm cho thấy chỉ cần thay đổi tương đối phổ biến như cắt khung hình cũng có thể làm suy yếu hoặc loại bỏ tín hiệu nhận diện. Phản hồi trước phát hiện của Reuters, Meta cho biết công cụ hiện mới ở giai đoạn thử nghiệm (preview) và thừa nhận watermark có thể bị mất hiệu lực khi ảnh bị chỉnh sửa mạnh.
Bài toán khó của toàn ngành AI
Những hạn chế của Meta phản ánh thách thức rộng lớn hơn mà toàn ngành công nghệ đang đối mặt: làm thế nào để xác định chính xác nội dung do AI tạo ra sau khi đã qua chỉnh sửa.
Các hãng công nghệ lớn như Google và OpenAI cũng từng cảnh báo rằng các hệ thống nhận diện dựa trên watermark hoặc tín hiệu kỹ thuật không phải là giải pháp tuyệt đối, bởi người dùng có thể vô tình hoặc cố ý làm suy giảm các dấu hiệu nhận diện này thông qua các thao tác chỉnh sửa ảnh thông thường.
Các chuyên gia được Reuters phỏng vấn nhận định watermark vẫn là một công cụ hữu ích nhằm tăng tính minh bạch cho nội dung AI. Tuy nhiên, hiệu quả của phương pháp này phụ thuộc rất lớn vào việc hình ảnh có còn giữ nguyên trạng hay không. Khi nội dung bị chỉnh sửa, khả năng xác thực sẽ giảm đáng kể.
Nguy cơ đối với cuộc chiến chống deepfake
Vấn đề trở nên đáng chú ý hơn trong bối cảnh các hình ảnh giả mạo bằng AI ngày càng phổ biến trên mạng xã hội và có thể được sử dụng để thao túng thông tin hoặc gây ảnh hưởng đến dư luận.
Nếu những hình ảnh AI có thể dễ dàng vượt qua các hệ thống nhận diện chỉ bằng các thao tác chỉnh sửa cơ bản, nỗ lực ngăn chặn deepfake và thông tin sai lệch sẽ gặp thêm nhiều khó khăn. Reuters nhận định đây là một thách thức đặc biệt quan trọng trong năm có nhiều cuộc bầu cử lớn, bao gồm cuộc bầu cử giữa nhiệm kỳ tại Mỹ.
Sự cố cũng đặt ra câu hỏi về tính hiệu quả của các giải pháp gắn nhãn và xác thực nội dung AI hiện nay. Khi chất lượng hình ảnh do AI tạo ra ngày càng tiệm cận ảnh thật, cuộc đua giữa công nghệ tạo sinh và công nghệ phát hiện dường như vẫn chưa có hồi kết.