Snap đang bị điều tra ở Anh về những rủi ro tiềm ẩn về quyền riêng tư liên quan đến chatbot trí tuệ nhân tạo tổng hợp của công ty.
Văn phòng Ủy viên Thông tin (ICO), cơ quan quản lý bảo vệ dữ liệu của Anh quốc, đã đưa ra thông báo thực thi sơ bộ vào thứ Sáu, cáo buộc rủi ro mà chatbot, My AI, có thể gây ra cho người dùng Snapchat, đặc biệt là những người dùng từ 13 tuổi đến 17 tuổi.
Ủy viên Thông tin John Edwards cho biết: “Những phát hiện tạm thời trong cuộc điều tra của chúng tôi cho thấy Snap đã thất bại đáng lo ngại trong việc xác định và đánh giá đầy đủ các rủi ro về quyền riêng tư đối với trẻ em và những người dùng khác trước khi tung ra ‘My AI’”.
Các phát hiện vẫn chưa có kết luận cuối cùng và Snap sẽ có cơ hội giải quyết những lo ngại tạm thời trước khi đưa ra quyết định cuối cùng. Nếu phát hiện tạm thời của ICO dẫn đến thông báo thực thi, Snap có thể phải ngừng cung cấp chatbot AI cho người dùng ở Vương quốc Anh cho đến khi khắc phục được các lo ngại về quyền riêng tư.
“Chúng tôi đang xem xét chặt chẽ quyết định tạm thời của ICO. Giống như ICO, chúng tôi cam kết bảo vệ quyền riêng tư của người dùng”, người phát ngôn của Snap nói với CNBC trong email. “Theo cách tiếp cận tiêu chuẩn của chúng tôi để phát triển sản phẩm, My AI đã trải qua quá trình xem xét quyền riêng tư và pháp lý chặt chẽ trước khi được cung cấp công khai.”
Công ty công nghệ cho biết họ sẽ tiếp tục làm việc với ICO để đảm bảo tổ chức này cảm thấy thoải mái với các quy trình đánh giá rủi ro của Snap. Chatbot AI chạy trên ChatGPT của OpenAI có các tính năng cảnh báo phụ huynh nếu con họ đang sử dụng chatbot. Snap cho biết họ cũng có những hướng dẫn chung để các bot tuân theo để hạn chế những bình luận xúc phạm.
ICO không đưa ra bình luận bổ sung, trích dẫn tính chất tạm thời của những phát hiện này.
Cơ quan này trước đó đã ban hành “Hướng dẫn về AI và bảo vệ dữ liệu” và tiếp theo là thông báo chung vào tháng 4, liệt kê các câu hỏi mà nhà phát triển và người dùng nên hỏi về AI.
Theo The Washington Post, chatbot AI của Snap đã phải đối mặt với sự giám sát kỹ lưỡng kể từ khi ra mắt vào đầu năm nay vì những cuộc trò chuyện không phù hợp, chẳng hạn như khuyên một đứa trẻ 15 tuổi cách che giấu mùi rượu và cần sa.
Snap cho biết trong thu nhập gần đây nhất của mình rằng hơn 150 triệu người đã sử dụng bot AI.
Các dạng AI sáng tạo khác cũng phải đối mặt với sự chỉ trích gần đây như tuần này. Chẳng hạn, AI tạo ra hình ảnh của Bing đã được bảng tin nhắn cực đoan 4chan sử dụng để tạo ra những hình ảnh phân biệt chủng tộc, theo 404 đưa tin.