Các nhà nghiên cứu hy vọng công cụ này có thể giúp “khôi phục niềm tin" trong thời đại mà các kỹ thuật giả mạo khuôn mặt ngày càng phổ biến trên mạng.
Nhóm đã đào tạo một mạng lưới thần kinh tích chập (convolutional neural network - CNN) để phát hiện những thay đổi trong hình ảnh được tạo ra bằng tính năng Face Away Liquify của Photoshop, tính năng này được dùng để để thay đổi mắt, miệng và các đặc điểm khác trên khuôn mặt. Khi đưa vào thử nghiệm, mạng lưới thần kinh đã phát hiện các hình ảnh bị thay đổi lên tới 99%. Trong khi đó, chỉ 53% người nhìn thấy những bức ảnh tương tự chỉ phát hiện ra thay đổi. Công cụ này cũng có thể đưa ảnh về lại trạng thái ban đầu.
Trước đây, Adobe cũng từng dùng AI để phát hiện những hình ảnh đã qua Photoshop, nhưng lần này sẽ tập trung vào khuôn mặt. Công ty cho biết đang rất tập trung nghiên cứu dự án này và AI này chỉ mới là bước khởi đầu.
Adobe cho biết họ không có kế hoạch ngay lập tức biến công cụ này thành sản phẩm thương mại, nhưng người phát ngôn nhấn mạnh rằng đó chỉ là một trong nhiều nỗ lực của Adobe giúp phát hiện tốt hơn các hình ảnh, video, âm thanh và tài liệu bị can thiệp.
Trong một tuyên bố đăng trên blog, Adobe cho biết “trong khi chúng tôi tự hào về tác động của Photoshop và nhiều công cụ sáng tạo khác của Adobe đã đóng góp cho thế giới, chúng tôi cũng nhận ra ý nghĩa đạo đức trong công nghệ của mình. Nội dung giả mạo là một vấn đề nghiêm trọng và ngày càng cấp bách”.