Kevin Bankston, Giám đốc Chính sách quyền riêng tư của Facebook và nhà hoạt động nổi tiếng tại Mỹ, là người đầu tiên phát hiện vấn đề này. Ngày 10/7, trên mạng xã hội X, ông viết: "Tôi vừa xem tờ khai thuế của mình trong Google Docs và không cần yêu cầu, Gemini vẫn tóm tắt nó. Vậy Gemini đang tự quét tài liệu này ngay cả khi nó là file riêng tư? Tôi phải đi cài đặt để tắt thứ nhảm nhí này." Bài đăng của ông đã nhận được hơn 2,3 triệu lượt xem.
Sau khi điều tra thêm, Bankston tiếp tục tiết lộ rằng vấn đề không chỉ dừng lại ở Google Docs, mà còn bao gồm toàn bộ tài liệu lưu trữ trên Google Drive. "Dù vấn đề ban đầu chỉ với Google Docs, nó diễn ra với toàn bộ những gì lưu trữ ở Google Drive," ông viết ngày 15/7.
Trên mạng xã hội X, nhiều người dùng khác cũng phản ánh rằng tài liệu của họ, đặc biệt là các tập tin PDF, bị Gemini tự động quét và tóm tắt nội dung, bao gồm cả những tài liệu mang tính "nhạy cảm." Họ lo ngại rằng dữ liệu cá nhân của mình có thể bị sử dụng để huấn luyện AI hoặc cho các mục đích khác mà không có sự đồng ý.
Bankston nghi ngờ rằng Gemini không phân biệt được các cài đặt quyền riêng tư của người dùng, dẫn đến việc AI này quét tệp PDF mà không được phép.
Đáp lại những phản ánh này, Google đã nhanh chóng vô hiệu hóa tính năng tóm tắt bằng Gemini trên Gmail, Drive và Docs. Trong thông báo phản hồi với Tom's Hardware ngày 16/7, đại diện Google khẳng định: "Các tính năng AI tạo sinh của chúng tôi được thiết kế để cung cấp cho người dùng quyền lựa chọn và giúp họ kiểm soát dữ liệu. Gemini trong Google Workspace thường yêu cầu người dùng chủ động bật tính năng này. Khi họ thực hiện, quyền riêng tư của nội dung sẽ được bảo vệ và không bị lưu trữ nếu không được phép."
Google đã giới thiệu các phiên bản của Gemini tại sự kiện Google I/O 2024 vào tháng 5. AI này dự kiến sẽ xuất hiện trên hầu hết các dịch vụ của công ty. Tuy nhiên, ngay từ khi ra mắt, Gemini đã gặp phải nhiều chỉ trích về việc đưa ra lời khuyên không chính xác. Theo một cựu nhân viên Google, công ty đã vội vã tung ra AI mới "trong hoảng loạn," chọn đi đường tắt bất chấp cảnh báo về an toàn vì lo ngại bị đối thủ bỏ lại phía sau.
Vụ việc này đặt ra nhiều câu hỏi về quyền riêng tư và an toàn dữ liệu trong bối cảnh công nghệ AI ngày càng phát triển và lan rộng. Người dùng có quyền đòi hỏi sự minh bạch và bảo vệ từ các công ty công nghệ khi sử dụng dịch vụ của họ.