Động thái này diễn ra trong bối cảnh các quảng cáo sử dụng chuyên gia giả mạo hoặc hình ảnh người nổi tiếng giả mạo đang lan rộng trên các nền tảng mạng xã hội, đặc biệt là trong lĩnh vực thực phẩm và dược phẩm.
Gần đây, các nền tảng mạng xã hội xuất hiện nhiều quảng cáo sử dụng hình ảnh bác sĩ do trí tuệ nhân tạo (AI) tạo ra để giới thiệu thực phẩm chức năng hoặc thuốc, khiến người tiêu dùng lầm tưởng rằng chúng được các chuyên gia y tế chứng thực. Một số trường hợp thậm chí còn liên quan đến hình ảnh giả mạo (deepfake) của người nổi tiếng.
Theo Bộ An toàn Thực phẩm và Dược phẩm (MFDS), năm 2021 có 58.782 trường hợp quảng cáo trực tuyến do AI tạo ra cho các sản phẩm thực phẩm và dược phẩm, và con số này đã tăng lên 96.762 vào năm ngoái. Tính đến tháng 9 năm nay, đã có 68.952 trường hợp được phát hiện.
Để chống lại các quảng cáo như vậy, Ủy ban Truyền thông và Thông tin Hàn Quốc sẽ yêu cầu người tạo nội dung phải gắn nhãn lên nội dung do AI tạo ra để ngăn chặn việc đánh lừa người tiêu dùng.
Theo quy định mới, bất kỳ ai sản xuất, chỉnh sửa hoặc tải lên nội dung do AI tạo ra đều phải ghi rõ rằng ảnh hoặc video đó được tạo ra bằng AI. Việc xóa hoặc can thiệp vào các nhãn này sẽ bị cấm.
Các nhà điều hành nền tảng sẽ phải đảm bảo người tạo nội dung tuân thủ các quy định về gắn nhãn bằng cách cung cấp các phương pháp gắn nhãn tiêu chuẩn và thông báo cho người dùng về nghĩa vụ của họ.
Cục Quản lý Thực phẩm và Dược phẩm (MFDS) và Ủy ban Thương mại Công bằng sẽ làm rõ các tiêu chuẩn để xác định quảng cáo do AI tạo ra nào là hợp pháp.
Ví dụ về các quảng cáo do trí tuệ nhân tạo tạo ra có hình ảnh các chuyên gia y tế giả mạo.
Ví dụ, nếu một quảng cáo do AI tạo ra đề xuất một sản phẩm mà không nêu rõ rằng người đề xuất là một “người ảo”, thì nó sẽ bị coi là quảng cáo không công bằng. Tương tự, các quảng cáo có hình ảnh bác sĩ hoặc chuyên gia khác do AI tạo ra đề xuất các sản phẩm thực phẩm hoặc dược phẩm sẽ bị coi là lừa đảo.
Để giải quyết vấn nạn lan truyền thông tin độc hại, sai lệch hoặc bị thao túng, chính phủ dự định đưa ra mức phạt tiền lên đến gấp năm lần thiệt hại thực tế. Các hình phạt theo luật quảng cáo hiện hành cũng sẽ được tăng lên đáng kể.
Để đạt được mục tiêu đó, chính phủ dự định thúc đẩy việc sửa đổi Luật Mạng Thông tin và Truyền thông và Luật Ghi nhãn và Quảng cáo Công bằng trong nửa đầu năm tới.
Nghĩa vụ ghi nhãn sẽ được thực hiện khi Luật Cơ bản về AI của Hàn Quốc có hiệu lực vào tháng 1 năm sau. “Thông qua các biện pháp này, chính phủ (Hàn Quốc) sẽ giảm thiểu các tác dụng phụ của công nghệ mới và thiết lập một trật tự thị trường phù hợp với kỷ nguyên AI”, Thủ tướng Kim Min-seok cho biết.