Malaysia và Indonesia đã chặn quyền truy cập vào chatbot trí tuệ nhân tạo Grok của Elon Musk vào cuối tuần qua do lo ngại công cụ này đang được sử dụng để tạo ra nội dung khiêu dâm không được sự đồng ý.
Các cơ quan quản lý của Malaysia đã ra lệnh áp đặt các hạn chế tạm thời đối với chatbot của xAI vào Chủ nhật sau “những thất bại liên tiếp của X Corp” trong việc giải quyết các rủi ro liên quan đến công cụ trí tuệ nhân tạo này.
Động thái này diễn ra chỉ một ngày sau khi Indonesia can thiệp để tạm dừng quyền truy cập vào Grok vì những lo ngại tương tự và triệu tập các quan chức của X về vấn đề này.
Các hành động của các quốc gia Đông Nam Á này diễn ra sau khi phát hiện ra rằng Grok của xAI cho phép người dùng dễ dàng tạo và chia sẻ hình ảnh trực tuyến bao gồm hình ảnh khiêu dâm không được sự đồng ý và tài liệu lạm dụng tình dục trẻ em (CSAM).
Công ty của Musk gần đây đã cập nhật các tính năng Grok Imagine, cho phép tạo hình ảnh dễ dàng hơn từ các lời nhắc dựa trên văn bản trên chatbot, được tích hợp với nền tảng mạng xã hội X của Musk, mang lại cho nó phạm vi tiếp cận rộng lớn.
Trong bối cảnh lo ngại ngày càng gia tăng về chính sách kiểm duyệt nội dung của Grok, xAI đã thông báo sẽ giới hạn các tính năng tạo và chỉnh sửa hình ảnh chỉ dành cho người dùng trả phí, nhằm vá các lỗ hổng bảo mật cho phép đăng tải nội dung khiêu dâm.
Ông Musk, khi phản hồi trên X, cũng khẳng định rằng người dùng tạo nội dung bất hợp pháp thông qua Grok sẽ phải đối mặt với hậu quả tương đương với việc tải trực tiếp những nội dung đó lên nền tảng mạng xã hội.
CNBC đã cố gắng liên hệ với xAI để bình luận về những diễn biến này vào cuối tuần. Một email báo chí gửi đến công ty đã trả về một tin nhắn tự động có nội dung “Những lời dối trá của truyền thông cũ”.
Phản hồi “không thỏa đáng”
Các phản hồi công khai và riêng tư của X trong bối cảnh tranh cãi đã không đáp ứng được mối lo ngại của các cơ quan quản lý ở Indonesia và Malaysia, cũng như các cơ quan khác đã tiến hành điều tra.
Ủy ban Truyền thông và Đa phương tiện Malaysia cho biết các phản hồi “không thỏa đáng” của X “chủ yếu dựa vào các cơ chế báo cáo do người dùng khởi xướng và không giải quyết được những rủi ro vốn có do thiết kế và hoạt động của công cụ AI gây ra”.
“Do đó, việc hạn chế này được áp đặt như một biện pháp phòng ngừa và tương xứng trong khi các quy trình pháp lý và quy định đang diễn ra,” cơ quan giám sát cho biết. “Việc truy cập vào Grok sẽ vẫn bị hạn chế cho đến khi các biện pháp bảo vệ hiệu quả được thực hiện, đặc biệt là để ngăn chặn nội dung liên quan đến phụ nữ và trẻ em.”
Cả Indonesia và Malaysia đều duy trì luật chống khiêu dâm nghiêm ngặt, cấm chia sẻ nội dung khiêu dâm và tình dục trực tuyến nói chung.
Trong khi đó, Bộ trưởng Bộ Truyền thông và Kỹ thuật số Indonesia, ông Meutya Hafid, cho biết rằng “Chính phủ coi các video giả mạo tình dục không có sự đồng thuận là một sự vi phạm nghiêm trọng quyền con người, phẩm giá và an ninh của công dân trong không gian kỹ thuật số.”
Ông Hafid cũng phân loại việc lạm dụng trí tuệ nhân tạo để tạo ra nội dung khiêu dâm giả mạo là một hình thức “bạo lực dựa trên kỹ thuật số”, theo các tuyên bố được hãng thông tấn nhà nước Antara News chia sẻ.
Các nhà chức trách ở các khu vực pháp lý khác, bao gồm Liên minh Châu Âu, Anh, Brazil và Ấn Độ, cũng đã kêu gọi điều tra vai trò của Grok trong việc tạo điều kiện cho các video giả mạo khiêu dâm.
Tổ chức giám sát Internet của Anh, Internet Watch Foundation, tuần trước cho biết các nhà phân tích của họ đã phát hiện ra “hình ảnh phạm tội” về trẻ em từ 11 đến 13 tuổi, dường như được tạo ra bằng Grok.
Một số nhà lập pháp đảng Dân chủ ở Washington đã khuyến nghị các cửa hàng ứng dụng tạm ngừng hoạt động công cụ trí tuệ nhân tạo này, ít nhất là cho đến khi Musk thực hiện những thay đổi lớn.
Trong một email tuần trước, Bộ Tư pháp cho biết trong một tuyên bố rằng “chúng tôi xem xét vấn đề tài liệu lạm dụng tình dục trẻ em do trí tuệ nhân tạo tạo ra một cách cực kỳ nghiêm túc và sẽ truy tố mạnh mẽ bất kỳ nhà sản xuất hoặc người sở hữu CSAM nào.”
“Chúng tôi tiếp tục tìm cách tối ưu hóa việc thực thi pháp luật trong lĩnh vực này để bảo vệ trẻ em và buộc những cá nhân lợi dụng công nghệ để gây hại cho những người dễ bị tổn thương nhất phải chịu trách nhiệm,” tuyên bố cho biết thêm.