Trong bối cảnh công nghệ thông tin đang phát triển với tốc độ chóng mặt, Google, gã khổng lồ trong lĩnh vực tìm kiếm và AI, đã đối mặt với làn sóng chỉ trích từ cộng đồng mạng sau chuỗi sự cố liên quan đến mô hình AI của mình. Công ty đã chính thức phản hồi, thừa nhận sự cố và đưa ra giải pháp khắc phục.
Google đã công bố một bản cập nhật quan trọng đối với các mô hình AI của mình, được biết đến với tên gọi AI Overviews, sau khi nhận được phản hồi từ người dùng về những lỗi không mong muốn. Các mô hình này, không chỉ giới hạn ở việc cung cấp câu trả lời dựa trên dữ liệu đã được đào tạo, mà còn kết hợp hệ thống xếp hạng các trang web cốt lõi để nâng cao chất lượng tìm kiếm. Điều này cho phép AI Overviews không chỉ đưa ra thông tin bằng văn bản mà còn bao gồm các liên kết có liên quan, mở rộng khả năng khám phá cho người dùng.
Google khẳng định rằng AI Overviews đã được thiết kế để tránh tình trạng bịa đặt thông tin, một vấn đề phổ biến trong các sản phẩm ngôn ngữ lớn khác. Tuy nhiên, công ty cũng không ngần ngại thừa nhận rằng, trong một số trường hợp, AI Overviews đã hiểu nhầm các truy vấn hoặc sắc thái ngôn ngữ, dẫn đến việc cung cấp thông tin không chính xác.
Trước đó, theo báo cáo từ 9to5Google, AI Overviews đã từng đưa ra những khuyến nghị kỳ quặc như bôi keo lên bánh pizza hay nấu thịt gà ở nhiệt độ chỉ 38,8 độ C. Thậm chí, mô hình AI này còn khuyên người dùng nên ăn một viên đá mỗi ngày để tăng cường Vitamin, một lời khuyên không chỉ sai lệch mà còn nguy hiểm.
Để đối phó với tình trạng này, Google đã nhanh chóng cải tiến thuật toán của mình. Đại diện của Google cho biết, công ty sẽ tạm thời "hạn chế đưa nội dung châm biếm và hài hước" vào dữ liệu đào tạo để tránh gây nhầm lẫn cho AI, đặc biệt là trong các vấn đề nhạy cảm như sức khỏe, nơi mà sự chính xác là yếu tố quan trọng nhất.
Tại sự kiện I/O 2024, Google đã giới thiệu các phiên bản mới của mô hình Gemini, đánh dấu bước tiến quan trọng trong việc tích hợp AI vào sản phẩm của mình. Tuy nhiên, sự lo ngại từ người dùng đã nổi lên khi các phiên bản này liên tục bị phát hiện có thông tin sai lệch.
Business Insider đã mô tả tình hình của Google như một "vòng lặp sai lầm", nơi sản phẩm mới được hỗ trợ bởi AI ra mắt, người dùng phát hiện sai sót và chia sẻ trên mạng xã hội, và cuối cùng là Google phải thừa nhận và tạm dừng hoạt động của AI để sửa chữa. Các chuyên gia cảnh báo rằng, việc mô hình AI liên tục gặp lỗi không chỉ ảnh hưởng đến lòng tin của người dùng mà còn tiềm ẩn nguy cơ gây ra hậu quả nghiêm trọng nếu thông tin sai lệch được tin tưởng và theo dõi.
Google đang nỗ lực đưa AI vào các sản phẩm của mình, như thể hiện qua việc ra mắt AI Overviews và các phiên bản mới của mô hình Gemini. Mặc dù những nỗ lực này đã thu hút sự chú ý của người dùng, nhưng những lỗi và thông tin sai lệch phát sinh trong các mô hình AI đã khiến Google đối mặt với những lời chỉ trích và sự nghi ngờ từ cộng đồng mạng. Việc Google phải tạm dừng hoạt động của AI để sửa lỗi và thừa nhận sự cố cho thấy sự phức tạp trong việc phát triển AI và tầm quan trọng của việc đảm bảo độ chính xác và đáng tin cậy.
Sự cố này cũng làm dấy lên câu hỏi về tương lai của AI và vai trò của các công ty công nghệ trong việc phát triển và kiểm soát công nghệ này. Cần có những nỗ lực chung từ phía các doanh nghiệp và chính phủ để xây dựng một hệ sinh thái AI an toàn, đáng tin cậy và phục vụ lợi ích con người.