Ủy ban Bảo vệ Thông tin Cá nhân Hàn Quốc (PIPC) đã khởi động một cuộc điều tra sơ bộ về Grok sau khi có các cáo buộc được báo cáo, theo một tờ báo địa phương, Electronic Times, hôm Chủ nhật.
Quá trình sơ bộ nhằm xác nhận xem liệu hành vi vi phạm có thực sự xảy ra hay không và liệu vấn đề có thuộc thẩm quyền của PIPC trước khi tiến hành một cuộc điều tra chính thức. Động thái này diễn ra sau một loạt các báo cáo xuất hiện ở nước ngoài cáo buộc Grok được sử dụng để tạo ra các hình ảnh deepfake khiêu dâm và không được sự đồng ý, trong đó có một số hình ảnh liên quan đến người thật và trẻ vị thành niên.
Theo thông tin được biết, PIPC sẽ xem xét các bước tiếp theo sau khi xem xét lời giải thích và các tài liệu hỗ trợ của Grok, đồng thời xem xét các xu hướng quy định toàn cầu. Theo Luật Bảo vệ Thông tin Cá nhân, việc chỉnh sửa hoặc tạo ra hình ảnh khiêu dâm của các cá nhân có thể nhận dạng được mà không có sự đồng ý có thể cấu thành hành vi xử lý dữ liệu cá nhân bất hợp pháp.
Dịch vụ AI này, được tích hợp với nền tảng mạng xã hội X và cung cấp cả việc tạo văn bản và hình ảnh trên nền tảng này, đã phải đối mặt với chỉ trích vì hình ảnh giả mạo (deep fake) của người thật kể từ cuối năm ngoái.
Theo Trung tâm Chống lại Sự thù hận Kỹ thuật số (Center for Countering Digital Hate), một tổ chức phi chính phủ toàn cầu, Grok ước tính đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm từ ngày 29 tháng 12 năm 2025 đến ngày 8 tháng 1 năm nay. Trong số đó, khoảng 23.000 hình ảnh liên quan đến trẻ vị thành niên.
Trung tâm cảnh báo rằng sự lan truyền nhanh chóng của các hình ảnh do AI của Grok tạo ra đã dẫn đến việc lưu hành rộng rãi nội dung khiêu dâm trực tuyến, làm dấy lên những lo ngại nghiêm trọng về an toàn trẻ em.
Do đó, một số quốc gia, bao gồm Hoa Kỳ, Vương quốc Anh, Pháp và Canada, đã tiến hành điều tra, trong khi Indonesia, Malaysia và Philippines đã chặn quyền truy cập vào Grok.
Trước những tranh cãi, xAI đã thông báo hồi đầu tháng này rằng họ đã triển khai các biện pháp kỹ thuật ngăn chặn cả người dùng miễn phí và trả phí chỉnh sửa hoặc tạo ra hình ảnh người thật, đồng thời cho biết thêm rằng sẽ có thêm các biện pháp bảo vệ khác trong tương lai.
Tại Hàn Quốc, Ủy ban Truyền thông và Thông tin (KMCC) đã yêu cầu xAI tăng cường các biện pháp bảo vệ trẻ em vào ngày 14 tháng 1. Cơ quan quản lý đã thông báo cho nền tảng mạng xã hội này rằng dịch vụ AI của họ phải xây dựng và đệ trình một kế hoạch để ngăn chặn việc tạo ra nội dung bất hợp pháp hoặc có hại bằng Grok, và hạn chế trẻ vị thành niên truy cập vào những nội dung đó.
Hiện tại, xAI đã chỉ định một cán bộ bảo vệ trẻ em tại Hàn Quốc theo luật định và nộp báo cáo hàng năm về việc tuân thủ các quy định liên quan.
KMCC đã yêu cầu thêm tài liệu liên quan đến các giao thức an toàn của Grok, lưu ý rằng việc tạo ra và phân phối hình ảnh tình dục không được sự đồng ý trên nền tảng này, đặc biệt là liên quan đến trẻ vị thành niên, là một tội hình sự ở Hàn Quốc.
Ủy ban đã đặt ra thời hạn hai tuần. Nếu xAI không phản hồi hoặc phớt lờ yêu cầu, ủy ban có thể áp dụng mức phạt hành chính lên đến 10 triệu won (6.870 đô la Mỹ).