Hôm thứ Ba (20/1) , OpenAI cho biết họ đang triển khai mô hình dự đoán độ tuổi cho gói dịch vụ ChatGPT dành cho người dùng cá nhân để giúp công ty trí tuệ nhân tạo này xác định các tài khoản thuộc về người dùng dưới 18 tuổi.
OpenAI cho biết mô hình này dựa trên sự kết hợp giữa các tín hiệu cấp tài khoản và tín hiệu hành vi. Một số tín hiệu đó bao gồm các mẫu sử dụng theo thời gian, thời gian tài khoản tồn tại, thời gian hoạt động điển hình trong ngày của người dùng và độ tuổi mà người dùng khai báo.
OpenAI đã triển khai một số tính năng an toàn mới trong những tháng gần đây khi họ phải đối mặt với sự giám sát ngày càng tăng về cách họ bảo vệ người dùng, đặc biệt là trẻ vị thành niên.
Công ty khởi nghiệp AI này và các công ty công nghệ khác đang phải đối mặt với cuộc điều tra từ FTC về việc chatbot AI của họ có thể ảnh hưởng tiêu cực đến trẻ em và thanh thiếu niên như thế nào, và OpenAI bị nêu tên trong một số vụ kiện tử vong oan uổng, bao gồm một vụ kiện xoay quanh cái chết do tự tử của một thiếu niên.
Một khi mô hình dự đoán độ tuổi của OpenAI cho thấy người dùng dưới 18 tuổi, OpenAI cho biết, ChatGPT sẽ tự động áp dụng các biện pháp bảo vệ được thiết kế để giảm thiểu việc tiếp xúc với “nội dung nhạy cảm”, chẳng hạn như hình ảnh tự gây hại.
Nếu người dùng bị xác định nhầm là dưới 18 tuổi, họ có thể sử dụng dịch vụ xác minh danh tính Persona để khôi phục quyền truy cập đầy đủ.
Persona được các công ty công nghệ khác sử dụng, bao gồm cả Roblox, công ty cũng đang phải đối mặt với áp lực từ các nhà lập pháp về việc bảo vệ trẻ em tốt hơn trên nền tảng của mình.
Vào tháng 8, OpenAI cho biết họ sẽ phát hành các công cụ kiểm soát của phụ huynh để giúp họ hiểu và định hình cách con cái họ sử dụng ChatGPT. Tháng sau, OpenAI đã triển khai các công cụ kiểm soát của phụ huynh và cho biết họ đang nỗ lực xây dựng một hệ thống dự đoán tuổi.
Công ty cũng đã triệu tập một hội đồng gồm tám chuyên gia vào tháng 10 để cung cấp những hiểu biết về cách trí tuệ nhân tạo có thể ảnh hưởng đến sức khỏe tinh thần, cảm xúc và động lực của người dùng.
OpenAI cho biết hôm thứ Ba rằng họ sẽ tiếp tục cải thiện độ chính xác của mô hình dự đoán tuổi theo thời gian.
Mô hình này sẽ được triển khai tại Liên minh Châu Âu trong những tuần tới “để đáp ứng các yêu cầu của khu vực”.