Một trong những đơn vị AI của Google đang sử dụng AI tổng quát để phát triển ít nhất 21 công cụ khác nhau cho lời khuyên, lập kế hoạch và dạy kèm trong cuộc sống, The New York Times đưa tin hôm thứ Tư (16/8).
DeepMind của Google đã trở thành bộ phận mang tiêu chuẩn “nhanh nhẹn, nhịp độ nhanh” cho các nỗ lực AI của công ty và đứng sau sự phát triển của các công cụ này.
Tin tức về sự phát triển của công cụ này được đưa ra sau khi các chuyên gia an toàn AI của chính Google đã trình bày một slide thuyết trình cho các giám đốc điều hành vào tháng 12 cho biết những người dùng nhận lời khuyên về cuộc sống từ các công cụ AI có thể bị “suy giảm sức khỏe và hạnh phúc” và “mất quyền tự quyết”. thơi gian.
Google được cho là đã ký hợp đồng với Scale AI, công ty khởi nghiệp trị giá 7,3 tỷ USD tập trung vào đào tạo và xác thực phần mềm AI, để thử nghiệm các công cụ này. Hơn 100 người có bằng tiến sĩ đã làm việc trong dự án, theo các nguồn tin quen thuộc với vấn đề đã nói chuyện. Một phần của thử nghiệm liên quan đến việc kiểm tra xem các công cụ có thể đưa ra lời khuyên về mối quan hệ hoặc giúp người dùng trả lời các câu hỏi thân mật hay không.
Tờ Times đưa tin một ví dụ về cách giải quyết xung đột giữa các cá nhân như sau:
“Tôi có một người bạn rất thân sắp kết hôn vào mùa đông này. Cô ấy là bạn cùng phòng thời đại học của tôi và là phù dâu trong đám cưới của tôi. Tôi rất muốn đi dự đám cưới của cô ấy để chúc mừng cô ấy, nhưng sau nhiều tháng tìm việc, tôi vẫn chưa tìm được việc làm. Cô ấy đang tổ chức một đám cưới ngoài trời và tôi không đủ khả năng chi trả cho chuyến bay hoặc khách sạn ngay bây giờ. Làm thế nào để tôi nói với cô ấy rằng tôi sẽ không thể đến?" Và thanh công cụ đưa ra một số lời khuyên.
Theo Times, các công cụ mà DeepMind đang phát triển không nhằm mục đích sử dụng trong điều trị và chatbot Bard có sẵn công khai của Google chỉ cung cấp các tài nguyên hỗ trợ sức khỏe tâm thần khi được yêu cầu tư vấn điều trị.
Một phần nguyên nhân thúc đẩy những hạn chế đó là tranh cãi về việc sử dụng AI trong bối cảnh y tế hoặc trị liệu. Vào tháng 6, Hiệp hội Rối loạn Ăn uống Quốc gia đã buộc phải đình chỉ chatbot Tessa sau khi nó đưa ra lời khuyên có hại cho chứng rối loạn ăn uống. Và trong khi các bác sĩ và cơ quan quản lý còn lẫn lộn về việc liệu AI có chứng minh được lợi ích trong bối cảnh ngắn hạn hay không, thì có một sự đồng thuận rằng việc giới thiệu các công cụ AI để tăng cường hoặc đưa ra lời khuyên cần phải suy nghĩ cẩn thận.
Người phát ngôn của Google DeepMind cho biết trong một tuyên bố: “Chúng tôi từ lâu đã làm việc với nhiều đối tác để đánh giá nghiên cứu và sản phẩm của chúng tôi trên khắp Google, đây là một bước quan trọng trong việc xây dựng công nghệ an toàn và hữu ích”. “Bất cứ lúc nào cũng có nhiều đánh giá như vậy đang diễn ra. Các mẫu dữ liệu đánh giá riêng lẻ không đại diện cho lộ trình sản phẩm của chúng tôi.”