Công ty xAI của Elon Musk đã vấp phải phản ứng dữ dội từ người dùng sau khi chatbot trí tuệ nhân tạo Grok của họ tạo ra những hình ảnh khiêu dâm trẻ em để đáp lại yêu cầu của người dùng.
Một phản hồi của Grok gửi đến một người dùng trên X vào thứ Sáu cho biết họ đang “khẩn trương khắc phục” vấn đề và gọi các tài liệu lạm dụng tình dục trẻ em là “bất hợp pháp và bị cấm”.
Trong các phản hồi cho người dùng, bot này cũng đăng tải rằng một công ty có thể phải đối mặt với các hình phạt hình sự hoặc dân sự nếu cố tình tạo điều kiện hoặc không ngăn chặn loại nội dung này sau khi được cảnh báo.
Các bài đăng của Grok là tin nhắn do AI tạo ra và không thay thế cho các tuyên bố chính thức của công ty.
xAI của Musk, công ty đã tạo ra Grok và sáp nhập với X năm ngoái, đã gửi một phản hồi tự động cho yêu cầu bình luận: “Truyền thông truyền thống nói dối”.
Người dùng trên X đã bày tỏ lo ngại trong những ngày gần đây về nội dung khiêu dâm trẻ em, bao gồm cả trẻ em mặc quần áo hở hang, được tạo ra bằng công cụ Grok.
Trang mạng xã hội này đã thêm nút “Chỉnh sửa hình ảnh” vào ảnh cho phép bất kỳ người dùng nào cũng có thể chỉnh sửa ảnh bằng cách nhập văn bản mà không cần sự đồng ý của người đăng ban đầu.
Một bài đăng từ Parsa Tajik, thành viên nhóm kỹ thuật của xAI, cũng đã thừa nhận vấn đề này. “Chào! Cảm ơn vì đã báo cáo. Nhóm đang xem xét việc thắt chặt hơn nữa các biện pháp bảo vệ của chúng tôi,” Tajik viết trong một bài đăng.
Hôm thứ Sáu, các quan chức chính phủ ở Ấn Độ và Pháp đã đưa ra tuyên bố hứa sẽ xem xét vấn đề này. Ủy ban Thương mại Liên bang từ chối bình luận trong khi Ủy ban Truyền thông Liên bang không trả lời ngay lập tức yêu cầu bình luận từ báo giới.
Sự bùng nổ của các nền tảng tạo hình ảnh bằng AI kể từ khi ChatGPT ra mắt vào năm 2022 đã làm dấy lên lo ngại về việc thao túng nội dung và an toàn trực tuyến trên diện rộng. Nó cũng góp phần làm tăng số lượng các nền tảng tạo ra ảnh khỏa thân giả mạo của người thật.
David Thiel, một nhà nghiên cứu về lòng tin và an toàn, người từng là thành viên của Đài quan sát Internet Stanford (nay đã giải thể), cho biết rằng các luật khác nhau của Hoa Kỳ thường cấm việc tạo ra và phân phối một số hình ảnh khiêu dâm nhất định, bao gồm cả những hình ảnh mô tả lạm dụng tình dục trẻ em hoặc hình ảnh thân mật không được sự đồng ý.
Ông Thiel cho biết, các quyết định pháp lý về hình ảnh do AI tạo ra, như những hình ảnh do Grok tạo ra, có thể phụ thuộc vào các chi tiết cụ thể của nội dung được tạo ra và chia sẻ.
Trong một bài báo mà ông đồng tác giả có tựa đề “Học máy tạo sinh và CSAM: Hàm ý và biện pháp giảm thiểu”, các nhà nghiên cứu của Stanford lưu ý rằng “sự xuất hiện của hình ảnh trẻ em bị lạm dụng đã đủ để khởi tố” trong các vụ án tạo tiền lệ ở Mỹ.
Trong khi các chatbot khác cũng gặp phải những vấn đề tương tự, xAI đã nhiều lần vướng vào rắc rối vì bị lạm dụng hoặc có những lỗi rõ ràng trong thiết kế hoặc công nghệ nền tảng của Grok. “Có một số điều mà các công ty có thể làm để ngăn chặn các công cụ AI của họ bị sử dụng theo cách này”, Thiel nói, “Điều quan trọng nhất trong trường hợp này là loại bỏ khả năng chỉnh sửa hình ảnh do người dùng tải lên. Cho phép người dùng chỉnh sửa hình ảnh đã tải lên là công thức dẫn đến NCII (hình ảnh riêng tư không được sự đồng ý). Việc khỏa thân hóa hình ảnh từ trước đến nay luôn là trường hợp sử dụng chính của các cơ chế như vậy.”
NCII đề cập đến hình ảnh riêng tư không được sự đồng ý.
Vào tháng 5, XAI phải đối mặt với phản ứng dữ dội sau khi Grok đưa ra những bình luận không được yêu cầu về "nạn diệt chủng người da trắng" ở Nam Phi. Hai tháng sau, Grok đăng tải những bình luận bài Do Thái và ca ngợi Adolf Hitler.
Mặc dù gặp phải những vấp ngã, xAI vẫn tiếp tục đạt được các thỏa thuận và hợp đồng hợp tác.
Bộ Quốc phòng Hoa Kỳ đã bổ sung Grok vào nền tảng các tác nhân AI của mình vào tháng trước, và công cụ này là chatbot chính cho các nền tảng cá cược dự đoán Polymarket và Kalshi.