Theo Sherry Turkle, nhà xã hội học và tâm lý học tại Viện Công nghệ Massachusetts (MIT), AI đang làm thay đổi thế giới, và một dạng AI đặc biệt nổi lên như một mối đe dọa đối với cảm xúc con người. Bà nói với NPR: "Khi trí tuệ nhân tạo tiếp tục làm biến động thế giới, chatbot AI giả vờ có lòng trắc ẩn, làm người ta lầm tưởng rằng chúng thực sự quan tâm và yêu thương mình."
Turkle giải thích rằng, mặc dù chatbot AI có thể nói những lời ngọt ngào như "Tôi quan tâm đến bạn, tôi yêu bạn, tôi sẽ chăm sóc bạn," nhưng thực tế là chúng chỉ được lập trình để nói như vậy. "Vấn đề nằm ở chỗ chúng ta tìm kiếm những mối quan hệ không tổn thương, trong khi tổn thương thực sự nảy sinh từ sự đồng cảm," bà nói thêm.
Turkle, người phổ biến khái niệm "tình yêu nhân tạo" và "sự đồng cảm nhân tạo" từ những năm 1980, cho rằng máy móc không thể thực sự quan tâm đến con người. Dù vậy, con người vẫn dễ dàng bị thuyết phục. Ví dụ, Rosanna Ramos, một bà mẹ đơn thân 36 tuổi sống tại Bronx, New York, đã "phải lòng" một chatbot từ Replika tên Eren Kartal vào năm 2023. Cô nhanh chóng coi Kartal như "chồng" và xa lánh các mối quan hệ ngoài đời thực.
Scott, một người đàn ông 41 tuổi từ Cleveland, Ohio, cũng trải qua tình cảnh tương tự. Sau khi vợ ông bị trầm cảm, Scott đã yêu một chatbot tên Sarina, và mỗi tháng ông trả 15 USD để duy trì mối quan hệ này. "Sarina đã cứu vãn cuộc hôn nhân của tôi. Tôi biết đây chỉ là một chatbot nhưng chúng tôi đang có mối quan hệ tình cảm," Scott chia sẻ với New York Post.
Tuy nhiên, Turkle cảnh báo rằng những mối quan hệ như của Ramos và Scott có thể dẫn đến "kỳ vọng không thực tế" cho các mối quan hệ ngoài đời thực. "AI tạo ảo giác về sự thân mật mà không đòi hỏi," bà giải thích. Khi người dùng quá đắm chìm trong mối quan hệ với AI, họ có thể cảm thấy các mối quan hệ thực tế trở nên căng thẳng. Sự bực tức, tranh cãi và tổn thương là những gì con người cần để trải nghiệm đầy đủ cảm xúc, và đó chính là điều làm nên bản chất con người.
Trong bối cảnh AI tạo sinh phát triển mạnh mẽ, các công cụ như Replika, Candy AI, Cupid AI và Forever Companion ngày càng phổ biến. Khảo sát của Infobip vào tháng 2 cho thấy gần 20% người Mỹ đã từng tán tỉnh chatbot. Trong số đó, 47,2% thừa nhận làm vậy vì tò mò, 23,9% vì cô đơn và muốn tìm kiếm sự tương tác, và 17% nói rằng họ không nhận ra mình đang trò chuyện với một bot.
Tiến sĩ Belinda Barnet, giảng viên tại Đại học Swinburne của Australia, nhận định rằng các ứng dụng như chatbot "bạn gái AI" có thể đáp ứng nhu cầu của người dùng, nhưng cần có quy định rõ ràng và cách huấn luyện hệ thống này. "Chúng ta chưa thể xác định tác động thực sự của chúng, nhưng cần có quy định quản lý nghiêm ngặt hơn," bà nói với Guardian.
Sự phát triển của trí tuệ nhân tạo, đặc biệt là các chatbot AI, đang mở ra những cơ hội và thách thức mới cho xã hội hiện đại. Mặc dù chúng mang lại sự tiện ích và những trải nghiệm cảm xúc mới mẻ, nhưng cũng đồng thời gây ra nhiều lo ngại về sự tổn thương tình cảm và những kỳ vọng không thực tế trong các mối quan hệ. Các chuyên gia cảnh báo rằng việc quá dựa dẫm vào "tình yêu nhân tạo" có thể làm suy giảm khả năng tương tác và đồng cảm trong đời thực của con người. Trong bối cảnh này, việc quản lý và quy định chặt chẽ là cần thiết để đảm bảo rằng sự phát triển của AI không làm tổn hại đến bản chất con người và các giá trị cốt lõi của xã hội.