Chỉ vài ngày sau khi ra mắt, cửa hàng ứng dụng trực tuyến GPT của OpenAI đã phải đối mặt với những thách thức lớn về kiểm duyệt. Khi tìm kiếm với cụm từ "girlfriend" (bạn gái) trên GPT Store, hệ thống hiển thị hàng loạt nội dung về chủ đề này, chẳng hạn "Korean Girlfriend", "Virtual Sweetheart", "Your girlfriend Scarlett" hay "Your AI Girlfriend".
GPT Store là nơi người dùng đăng lên các phiên bản tùy chỉnh của họ dựa trên mô hình ChatGPT, nhưng một số người đã tạo ra những con bot vi phạm nguyên tắc của OpenAI. Các phần mềm này có chức năng của một bạn gái ảo. Trong đó, hai chatbot được tải nhiều nhất là "AI Girlfriend" và "GPT-girl friend" với hơn 1.000 lượt tải.
Theo đó khi nhấp vào chatbot “Người yêu ảo”, người dùng sẽ nhận được những lời nhắc bắt đầu như “Cô gái trong mơ của bạn trông như thế nào?” và “Chia sẻ với tôi bí mật đen tối nhất của bạn".
Các bot bạn gái AI đang đi ngược lại chính sách sử dụng của OpenAI, chính sách này đã được cập nhật khi cửa hàng GPT ra mắt ngày 10/1. Công ty cấm GPT “dành riêng cho việc thúc đẩy tình bạn lãng mạn hoặc thực hiện các hoạt động được quản lý”.
Tại Hoa Kỳ, 7 trong số 30 ứng dụng chatbot AI được tải xuống vào năm 2023 từ cửa hàng Apple hoặc Google Play có liên quan đến bạn bè, bạn gái hoặc bạn đồng hành AI, theo dữ liệu được chia sẻ với Quartz từ data.ai, một công ty phân tích ứng dụng di động.
Trước đó, sự xuất hiện của GPT Store được đánh giá tích cực. Cửa hàng chatbot mang đến tiềm năng mới cho ChatGPT, giúp mở rộng hệ sinh thái của OpenAI. Hiện người dùng có thể lên cửa hàng, truy cập và sử dụng trực tiếp phần mềm. Nhưng để tự tạo chatbot và kiếm tiền, người dùng phải đăng ký gói GPT Plus giá 20 USD mỗi tháng. Công ty cũng sẽ triển khai chương trình tạo doanh thu cho những người xây dựng GPT trong quý I/2024, trước tiên tại Mỹ. Chi tiết kế hoạch chưa được công bố, nhưng người dùng sẽ được trả tiền dựa trên mức độ tương tác của người dùng với GPT của họ.
Dù OpenAI đã cố gắng ngăn chặn bằng cách cập nhật chính sách của cửa hàng. Nhưng vi phạm chính sách ngay trong ngày thứ hai cho thấy việc kiểm duyệt có thể khó khăn như thế nào.
OpenAI cho biết họ đã kết hợp giữa hệ thống đánh giá tự động, thủ công và báo cáo của người dùng để đánh giá các ứng dụng được tải lên GPT Store. Những con bot bị đánh giá là có hại có thể bị cảnh cáo hoặc cấm bán. Nhưng sự tồn tại dai dẳng của bot bạn gái khiến cho tuyên bố này trở nên đáng ngờ.
Trong năm qua, các công ty công nghệ đã phát hành các công cụ AI ở chế độ “beta” và lưu ý rõ ràng rằng sản phẩm của họ có thể mắc lỗi. Ví dụ: trong màn hình trò chuyện ChatGPT, OpenAI có một dòng ở cuối ghi: “ChatGPT có thể mắc lỗi. Hãy cân nhắc việc kiểm tra những thông tin quan trọng”.
Tuy nhiên, OpenAI cần hành động cứng rắn hơn khi sự cạnh tranh từ các đối thủ trong cuộc đua giành trí tuệ nhân tạo ngày càng căng thẳng. Quản trị đúng cách là điều vô cùng quan trọng.