Văn phòng Ủy viên Thông tin (ICO) cho biết nếu công ty công nghệ của Mỹ này không giải quyết thỏa đáng những lo ngại của cơ quan quản lý, thì chatbot "My AI" vừa ra mắt vào tháng 4 của họ có thể bị cấm ở Vương quốc Anh.
Ủy viên Thông tin John Edwards cho biết: “Những phát hiện tạm thời trong cuộc điều tra của chúng tôi cho thấy Snap đã thất bại đáng lo ngại trong việc xác định và đánh giá đầy đủ các rủi ro về quyền riêng tư đối với trẻ em và những người dùng khác trước khi tung ra My AI”.
Tháng 4 vừa qua, công ty Snap chủ quản nền tảng nhắn tin với hình ảnh hoặc video Snapchat đã mở quyền truy cập chatbot tùy biến mang tên “My AI” cho tất cả người dùng. Tính năng này được xây dựng dựa trên AI và nền tảng ngôn ngữ ChatGPT, trước đây chỉ khả dụng cho những tài khoản đăng ký Snapchat+ có trả phí. My AI có thể đưa ra các đề xuất, trả lời các câu hỏi, giúp người dùng lập kế hoạch hay thậm chí có thể sáng tác một bài thơ haiku trong vòng vài giây. Công ty Snap cho biết tất cả các cuộc trò chuyện với My AI sẽ được Snapchat lưu trữ và có thể được phân tích để cải thiện tính năng sản phẩm. Snap cũng lưu ý người dùng không nên chia sẻ các thông tin bí mật với My AI.
Cơ quan giám sát dữ liệu của Anh dẫn kết quả điều tra cho rằng Snap chưa đánh giá đầy đủ những rủi ro đe dọa quyền riêng tư của trẻ em và những người dùng khác trước khi ra mắt tính năng My AI. Cơ quan này cảnh báo có thể cấm My AI ở Anh nếu công ty công nghệ có trụ sở ở Mỹ không giải quyết mối quan ngại này.
Snap cho biết họ đang xem xét thông báo của ICO và cam kết bảo vệ quyền riêng tư của người dùng. Người phát ngôn của Snap cho biết: “My AI đã trải qua quá trình xem xét quyền riêng tư và pháp lý mạnh mẽ trước khi được cung cấp công khai”.
ICO hiện đang tiến hành điều tra về cách mà tính năng My AI trên Snapchat xử lý thông tin cá nhân của khoảng 21 triệu người dùng tại Anh, bao gồm cả trẻ em từ 13-17 tuổi.
"My AI" được hỗ trợ bởi ChatGPT của OpenAI, trường hợp điển hình nhất về AI sáng tạo mà các nhà hoạch định chính sách trên toàn cầu đang tìm cách điều chỉnh trước những lo ngại về quyền riêng tư và an toàn.
Snap là một công ty truyền thông xã hội mới nhất đã giới thiệu công cụ trò chuyện AI cho người dùng. Từ đầu tháng 2, nhiều công ty công nghệ khác cũng đã ra mắt các chatbot sử dụng AI cho trình duyệt tìm kiếm của họ, bao gồm Microsoft và Google.