CNN trích dẫn báo cáo an toàn của OpenAI, trong đó nhấn mạnh rằng giọng nói của ChatGPT hiện nay nghe rất thật, với khả năng phản hồi theo thời gian thực và tạo ra những âm thanh tự nhiên như tiếng cười hay tiếng "hmm" thường thấy trong các cuộc trò chuyện. AI này còn có thể nhận diện trạng thái cảm xúc dựa trên giọng điệu của người nói, một tính năng tạo nên sự gần gũi nhưng đồng thời cũng dẫn đến những lo ngại về sự phụ thuộc quá mức của người dùng.
Ngay sau khi tính năng giọng nói của ChatGPT được công bố, nhiều người đã liên tưởng đến bộ phim "Her" (2013), nơi nhân vật chính phải lòng một giọng nói AI. Tình huống trong phim tưởng chừng như chỉ là hư cấu, nhưng báo cáo của OpenAI cho thấy điều này đang dần trở thành hiện thực. Theo quan sát của OpenAI, nhiều người dùng đã bắt đầu nói chuyện với ChatGPT bằng ngôn ngữ mang tính liên kết tình cảm, điều này có thể dẫn đến sự giảm tương tác với con người thực sự.
Báo cáo nhấn mạnh rằng mối quan hệ xã hội với AI có thể mang lại lợi ích cho những người cô đơn, nhưng cũng đặt ra nguy cơ tiềm ẩn đối với các mối quan hệ lành mạnh trong xã hội. Ngoài ra, việc nghe thông tin từ một AI có giọng nói giống như con người có thể làm tăng mức độ tin tưởng của người dùng, một điều đặc biệt nguy hiểm khi AI có xu hướng mắc sai lầm.
OpenAI cũng cảnh báo rằng, trong cuộc đua phát triển và triển khai các công cụ AI của các công ty công nghệ lớn, chưa ai thực sự hiểu rõ hậu quả có thể xảy ra. Như những tiến bộ công nghệ trước đây, cách mà người dùng thực sự sử dụng công cụ thường khác xa so với những gì được hình dung ban đầu, và đôi khi, điều này dẫn đến những hậu quả không mong muốn.
Một số người đã bắt đầu hình thành "mối quan hệ lãng mạn" với các chatbot AI, điều này khiến nhiều chuyên gia bày tỏ sự lo ngại. Liesel Sharabi, Giáo sư Đại học Tiểu bang Arizona chuyên nghiên cứu về công nghệ và giao tiếp giữa con người, chia sẻ với CNN: "Tôi lo lắng về những người đang tạo ra mối liên kết sâu sắc với một công nghệ có thể không tồn tại lâu dài và liên tục phát triển."
OpenAI khẳng định rằng họ cam kết xây dựng AI "một cách an toàn" và sẽ tiếp tục nghiên cứu về khả năng "phụ thuộc cảm xúc" của người dùng vào các công cụ của mình. Họ cũng thừa nhận rằng tương tác của người dùng với ChatGPT có thể ảnh hưởng đến những gì được coi là bình thường trong các tương tác xã hội.
Trong bối cảnh công nghệ AI đang phát triển với tốc độ chóng mặt, báo cáo của OpenAI đưa ra lời cảnh báo rõ ràng: khi ranh giới giữa con người và máy móc ngày càng mờ nhạt, việc duy trì sự cân bằng trong các mối quan hệ xã hội là điều cần thiết để tránh những hệ lụy không mong muốn.