Meta đang mở rộng nỗ lực xác định các hình ảnh được trí tuệ nhân tạo chỉnh sửa khi tìm cách loại bỏ thông tin sai lệch và tin giả trước các cuộc bầu cử sắp tới trên khắp thế giới.
Công ty đang xây dựng các công cụ để xác định nội dung do AI tạo ra trên quy mô lớn khi nó xuất hiện trên Facebook, Instagram và Threads, công ty đã công bố nội dung này hôm thứ Ba (6/2).
Cho đến thời điểm hiện tại, Meta chỉ dán nhãn những hình ảnh do AI tạo ra được phát triển bằng các công cụ AI của riêng mình. Giờ đây, công ty cho biết họ sẽ tìm cách áp dụng các nhãn đó cho nội dung từ Google, OpenAI, Microsoft, Adobe, Midjourney và Shutterstock. Các nhãn sẽ xuất hiện bằng tất cả các ngôn ngữ có sẵn trên mỗi ứng dụng. Nhưng sự thay đổi sẽ không diễn ra ngay lập tức.
Trong bài đăng trên blog, Nick Clegg, chủ tịch phụ trách các vấn đề toàn cầu của Meta, đã viết rằng công ty sẽ bắt đầu gắn nhãn các hình ảnh do AI tạo ra có nguồn gốc từ các nguồn bên ngoài “trong những tháng tới” và tiếp tục giải quyết vấn đề “trong năm tới”.
Clegg viết: Cần thêm thời gian để làm việc với các công ty AI khác nhằm “điều chỉnh các tiêu chuẩn kỹ thuật chung báo hiệu khi một phần nội dung được tạo bằng AI”.
Thông tin sai lệch liên quan đến bầu cử đã gây ra khủng hoảng cho Facebook sau cuộc bầu cử tổng thống năm 2016 vì cách các tác nhân nước ngoài, phần lớn đến từ Nga, có thể tạo và truyền bá nội dung không chính xác và có tính chất cao. Nền tảng này đã bị khai thác nhiều lần trong những năm sau đó, đáng chú ý nhất là trong đại dịch Covid, khi mọi người sử dụng nền tảng này để truyền bá một lượng lớn thông tin sai lệch. Những người phủ nhận Holocaust và những người theo thuyết âm mưu QAnon cũng hoạt động tràn lan trên trang này.
Meta đang cố gắng chứng tỏ rằng họ đã chuẩn bị sẵn sàng cho những kẻ xấu sử dụng các dạng công nghệ tiên tiến hơn trong chu kỳ năm 2024.
Mặc dù một số nội dung do AI tạo ra có thể dễ dàng bị phát hiện nhưng không phải lúc nào cũng như vậy. Các dịch vụ tuyên bố xác định văn bản do AI tạo ra, chẳng hạn như các bài tiểu luận, đã được chứng minh là thể hiện sự thiên vị đối với những người không nói tiếng Anh bản xứ. Hình ảnh và video không dễ dàng hơn nhiều, mặc dù thường có các dấu hiệu.
Meta đang tìm cách giảm thiểu sự không chắc chắn bằng cách chủ yếu hợp tác với các công ty AI khác sử dụng hình mờ vô hình và một số loại siêu dữ liệu nhất định trong hình ảnh được tạo trên nền tảng của họ. Tuy nhiên, có nhiều cách để xóa hình mờ, một vấn đề mà Meta dự định giải quyết.
Clegg viết: “Chúng tôi đang nỗ lực phát triển các bộ phân loại có thể giúp chúng tôi tự động phát hiện nội dung do AI tạo ra, ngay cả khi nội dung đó thiếu các điểm đánh dấu vô hình”. “Đồng thời, chúng tôi đang tìm cách làm cho việc xóa hoặc thay đổi các hình mờ vô hình trở nên khó khăn hơn.”
Âm thanh và video thậm chí còn khó giám sát hơn hình ảnh vì chưa có tiêu chuẩn ngành nào để các công ty AI thêm bất kỳ số nhận dạng vô hình nào. Clegg viết: “Chúng tôi chưa thể phát hiện những tín hiệu đó và gắn nhãn nội dung này từ các công ty khác.
Meta sẽ thêm một cách để người dùng tự nguyện tiết lộ khi họ tải lên video hoặc âm thanh do AI tạo ra. Bài đăng cho biết nếu họ chia sẻ nội dung deepfake hoặc dạng nội dung khác do AI tạo ra mà không tiết lộ nội dung đó, công ty “có thể áp dụng các hình phạt”.
Clegg viết: “Nếu chúng tôi xác định rằng nội dung hình ảnh, video hoặc âm thanh được tạo hoặc thay đổi bằng kỹ thuật số có nguy cơ đặc biệt cao trong việc đánh lừa công chúng về một vấn đề quan trọng, chúng tôi có thể thêm nhãn nổi bật hơn nếu thích hợp”.