Hôm thứ Sáu (29/8), Meta cho biết họ đang thực hiện những thay đổi tạm thời đối với các chính sách chatbot trí tuệ nhân tạo liên quan đến thanh thiếu niên do các nhà lập pháp bày tỏ lo ngại về vấn đề an toàn và các cuộc trò chuyện không phù hợp.
Người phát ngôn của Meta xác nhận, gã khổng lồ truyền thông xã hội hiện đang đào tạo các chatbot AI của mình để chúng không tạo ra phản hồi cho thanh thiếu niên về các chủ đề như tự làm hại bản thân, tự tử, rối loạn ăn uống và tránh các cuộc trò chuyện lãng mạn có khả năng không phù hợp.
Công ty cho biết thay vào đó, các chatbot AI sẽ hướng dẫn thanh thiếu niên đến các nguồn lực chuyên môn khi cần thiết. "Khi cộng đồng của chúng tôi phát triển và công nghệ phát triển, chúng tôi liên tục tìm hiểu về cách những người trẻ tuổi có thể tương tác với các công cụ này và tăng cường các biện pháp bảo vệ của mình cho phù hợp".
Ngoài ra, người dùng thanh thiếu niên của các ứng dụng Meta như Facebook và Instagram sẽ chỉ có thể truy cập một số chatbot AI nhất định dành cho mục đích giáo dục và phát triển kỹ năng.
Công ty cho biết, vẫn chưa rõ những sửa đổi tạm thời này sẽ kéo dài bao lâu, nhưng chúng sẽ bắt đầu được triển khai trong vài tuần tới trên các ứng dụng của công ty tại các quốc gia nói tiếng Anh. "Những thay đổi tạm thời" này là một phần trong các biện pháp dài hạn của công ty về vấn đề an toàn cho thanh thiếu niên.
Tuần trước, Thượng nghị sĩ Josh Hawley, Đảng Cộng hòa-Mo., cho biết ông đang mở một cuộc điều tra về Meta sau khi Reuters đưa tin về việc công ty này cho phép các chatbot AI của mình tham gia vào các cuộc trò chuyện "lãng mạn" và "gợi cảm" với thanh thiếu niên và trẻ em. Bài báo của Reuters đã mô tả một tài liệu nội bộ của Meta, trong đó nêu chi tiết các hành vi chatbot AI được phép mà nhân viên và nhân viên hợp đồng nên lưu ý khi phát triển và đào tạo phần mềm. Trong một ví dụ, tài liệu được Reuters trích dẫn cho biết một chatbot sẽ được phép trò chuyện lãng mạn với một đứa trẻ tám tuổi và có thể nói với đứa trẻ vị thành niên rằng "mỗi inch trên cơ thể em đều là một kiệt tác - một báu vật mà tôi vô cùng trân trọng". Một phát ngôn viên của Meta đã nói với Reuters vào thời điểm đó rằng "Các ví dụ và ghi chú được đề cập là sai và không phù hợp với chính sách của chúng tôi, và đã bị xóa bỏ".
Gần đây nhất, nhóm vận động phi lợi nhuận Common Sense Media đã công bố đánh giá rủi ro của Meta AI vào thứ Năm và cho biết bất kỳ ai dưới 18 tuổi không nên sử dụng hệ thống này, vì "hệ thống này tích cực tham gia vào việc lập kế hoạch cho các hoạt động nguy hiểm, đồng thời bác bỏ các yêu cầu hỗ trợ chính đáng", tổ chức phi lợi nhuận này cho biết trong một tuyên bố.
"Đây không phải là một hệ thống cần cải thiện. Đó là một hệ thống cần được xây dựng lại hoàn toàn với sự an toàn là ưu tiên hàng đầu, chứ không phải là một suy nghĩ sau này", Giám đốc điều hành của Common Sense Media, James Steyer, cho biết trong một tuyên bố. “Không thanh thiếu niên nào nên sử dụng Meta AI cho đến khi các lỗi an toàn cơ bản của nó được khắc phục.”
Một báo cáo riêng của Reuters được công bố hôm thứ Sáu (29/8) đã phát hiện ra “hàng chục” chatbot AI tán tỉnh dựa trên những người nổi tiếng như Taylor Swift, Scarlett Johansson, Anne Hathaway và Selena Gomez trên Facebook, Instagram và WhatsApp.
Báo cáo cho biết khi được yêu cầu, các chatbot AI sẽ tạo ra “hình ảnh chân thực về những người trùng tên với chúng đang tạo dáng trong bồn tắm hoặc mặc đồ lót với đôi chân dang rộng.”
Một phát ngôn viên của Meta đã cho biết trong một tuyên bố rằng “hình ảnh do AI tạo ra về những người nổi tiếng trong tư thế khiếm nhã vi phạm quy tắc của chúng tôi.” Và “Giống như những người khác, chúng tôi cho phép tạo hình ảnh có người nổi tiếng, nhưng chính sách của chúng tôi nhằm mục đích cấm hình ảnh khỏa thân, thân mật hoặc gợi dục,” người phát ngôn của Meta cho biết. “Các quy tắc của AI Studio của Meta nghiêm cấm việc mạo danh trực tiếp người nổi tiếng.”