Động thái cho thấy những thách thức ngày càng lớn trong việc cân bằng giữa đổi mới AI và kiểm soát nội dung trên các nền tảng số.

Google xác nhận đã tạm ngừng tính năng tạo ảnh bằng trí tuệ nhân tạo (AI) trên Google Earth sau khi phát hiện một số người dùng khai thác công cụ để tạo ra các hình ảnh không phù hợp, vi phạm chính sách sử dụng của công ty. 

Theo Google, đây là biện pháp tạm thời nhằm rà soát và tăng cường các lớp bảo vệ trước khi tính năng được kích hoạt trở lại.

Tính năng mới nhanh chóng bị lạm dụng

Công cụ AI mới cho phép người dùng tạo hình ảnh dựa trên dữ liệu bản đồ và không gian địa lý của Google Earth bằng các câu lệnh mô tả (prompt).

Mục tiêu của Google là hỗ trợ trực quan hóa quy hoạch đô thị, giáo dục, nghiên cứu môi trường và nhiều ứng dụng sáng tạo khác. Tuy nhiên, chỉ sau thời gian ngắn triển khai, một số người dùng đã tìm cách tạo ra các hình ảnh vi phạm quy định về nội dung của nền tảng.

Google không công bố chi tiết các hình ảnh vi phạm cũng như số lượng tài khoản liên quan, nhưng cho biết các trường hợp này đã khiến hãng quyết định tạm dừng dịch vụ để đánh giá lại hệ thống kiểm duyệt. 

Bài toán quen thuộc của AI tạo sinh

Sự cố của Google Earth phản ánh thách thức chung mà các công ty công nghệ đang đối mặt khi tích hợp AI tạo sinh vào các sản phẩm phổ biến.

Các mô hình AI ngày càng có khả năng tạo ra hình ảnh chân thực chỉ từ vài dòng mô tả, nhưng đồng thời cũng có nguy cơ bị lợi dụng để tạo nội dung giả mạo, gây hiểu nhầm hoặc vi phạm các tiêu chuẩn an toàn.

Trong những năm gần đây, Google, OpenAI, Microsoft và nhiều doanh nghiệp AI khác đều liên tục điều chỉnh các cơ chế kiểm soát nhằm hạn chế việc tạo ra nội dung độc hại hoặc lạm dụng công nghệ.

Google ưu tiên an toàn trước khi mở rộng AI

Việc chủ động tạm dừng tính năng ngay sau khi phát hiện rủi ro cho thấy Google đang lựa chọn cách tiếp cận thận trọng hơn trong quá trình triển khai AI.

Thay vì duy trì dịch vụ trong khi xử lý sự cố, công ty quyết định tạm ngắt tính năng để hoàn thiện các bộ lọc, cơ chế phát hiện vi phạm và quy trình kiểm duyệt trước khi đưa công cụ trở lại.

Động thái này cũng phản ánh xu hướng chung của ngành công nghệ, khi các doanh nghiệp không chỉ cạnh tranh về năng lực AI mà còn về khả năng quản trị rủi ro, đảm bảo công nghệ được sử dụng đúng mục đích và tuân thủ các quy định ngày càng chặt chẽ trên toàn cầu.