Động thái này diễn ra sau khi các chính phủ và cơ quan quản lý từ châu Âu đến châu Á lên án và một số đã mở cuộc điều tra về nội dung tình dục trên ứng dụng này.
xAI, công ty khởi nghiệp đứng sau Grok, hôm thứ Năm cho biết họ đang hạn chế việc tạo và chỉnh sửa hình ảnh chỉ dành cho người dùng trả phí khi họ cố gắng khắc phục các lỗ hổng bảo mật đã cho phép tạo ra các sản phẩm có nội dung khiêu dâm, bao gồm cả hình ảnh trẻ em ăn mặc hở hang.
"Chính phủ coi hành vi tạo video giả mạo tình dục không được sự đồng thuận là vi phạm nghiêm trọng nhân quyền, phẩm giá và an ninh của công dân trong không gian kỹ thuật số", Bộ trưởng Truyền thông và Kỹ thuật số Meutya Hafid cho biết trong một tuyên bố.
Bộ cũng đã triệu tập các quan chức của X để thảo luận về vấn đề này.
Elon Musk nói trên X rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp.
xAI đã trả lời email của báo giới yêu cầu bình luận bằng một phản hồi dường như là tự động: "Những lời dối trá của truyền thông cũ". X không trả lời ngay lập tức yêu cầu bình luận.
Indonesia, quốc gia có dân số Hồi giáo lớn nhất thế giới, có những quy định nghiêm ngặt cấm chia sẻ trực tuyến các nội dung bị coi là khiêu dâm.