TikTok đang giới thiệu một cách mới để người dùng phân biệt được nội dung được tạo bằng các công cụ trí tuệ nhân tạo. Tính năng này được người dùng phát hiện lần đầu tiên vào tháng trước và được TikTok công bố ngày 20/9 trong một bài đăng trên blog.
Tính năng mới sẽ nhắc người sáng tạo gắn nhãn để người xem biết nếu video và ảnh được tạo bằng phần mềm AI. Nhãn dán AI sẽ xuất hiện bên dưới tên người dùng ở góc video.
Chính sách này có thể tác động đáng kể đến những người sáng tạo sử dụng công cụ AI. Nó nhằm mục đích ngăn chặn sự lan truyền của nội dung deepfake, vốn đang trở thành mối lo ngại ngày càng tăng trên các nền tảng truyền thông xã hội.
Deepfake là những video sử dụng AI để chỉnh sửa hình ảnh, clip hoặc thay thế khuôn mặt, giọng nói của những người trong video để làm nội dung thêm mới lạ và đa dạng hơn, song chúng có thể được sử dụng để tạo ra tin tức giả, xuyên tạc hoặc nhằm mục đích xấu khác. Bằng cách yêu cầu người sáng tạo gắn nhãn nội dung do AI tạo ra, TikTok đang giúp người xem phân biệt giữa nội dung thật và giả.
Chính sách mới của TikTok là một phần trong nỗ lực không ngừng nhằm thúc đẩy tính minh bạch và tính xác thực trên nền tảng của mình. Công ty trước đây bị chỉ trích vì thiếu minh bạch về các thuật toán và việc kiểm duyệt nội dung. Bằng cách yêu cầu người sáng tạo khai báo việc họ có sử dụng AI hay không, TikTok đang hướng tới tính minh bạch và trách nhiệm cao hơn.
Lời nhắc cũng thể hiện nội dung có thể bị xóa nếu nội dung đó không được gắn nhãn là được tạo bởi công cụ AI. Công ty cũng cho biết, trong tuần này, họ sẽ bắt đầu thử nghiệm một cách gắn nhãn nội dung do AI tạo tự động.
Hiện tại, tính năng này đang trong giai đoạn phát triển và mới chỉ được thử nghiệm trên một số lượng nhỏ người dùng.
Vào tháng 3 năm nay, TikTok đã phát hành một bộ lọc khuôn mặt có tên Bold Glamour, nhưng từ chối xác nhận rằng liệu nó có sử dụng AI để tạo hiệu ứng hay không. Giờ đây, các hiệu ứng sử dụng công cụ AI sẽ phải bao gồm nhãn dán “AI” trong tên và công ty sẽ yêu cầu những người tạo hiệu ứng phải tuân theo.
Theo Nguyên tắc cộng đồng của TikTok, nội dung AI không bị cấm trên nền tảng, miễn là người dùng phải chú thích rằng nội dung mà họ tạo ra có hỗ trợ bởi công nghệ trên. Tuy nhiên, nền tảng không khuyến khích việc đăng nội dung và video deepfakes, đặc biệt là có liên quan đến các nhân vật trong thế giới thực được tạo ra để đánh lừa công chúng.
Sự trỗi dậy của AI bên cạnh vô số những giá trị mà nó có thể mang lại thì cũng tạo ra không ít các hệ luỵ. Một trong những điều này là nạn tin giả, hình ảnh giả mạo hay cả những hình ảnh mạo danh do AI tạo ra với mục đích xấu.
Với các nền tảng mạng xã hội, khi đây hiện là “điểm đến hàng đầu” của những kẻ lừa đảo, nhờ vào sự hỗ trợ của các công nghệ AI, điều này càng trở nên thách thức hơn bao giờ hết.
Gần đây, mạng xã hội Instagram cũng đang thử nghiệm tính năng mơi cho phép người dùng nhận diện những hình ảnh do AI (trí tuệ nhân tạo) tạo ra hoặc hình ảnh có sự can thiệp của AI.
Điều này có nghĩa là bất cứ khi nào người dùng nhìn thấy một hình ảnh do AI tạo ra, họ sẽ được thông báo rằng hình ảnh đó không phải do con người tạo ra. Mục đích chính của thông báo này là để ngăn chặn sự lừa đảo, cảnh báo các chiến dịch quảng cáo không sử dụng hình ảnh thật và vô số những chiêu trò gian lận khác trên mạng xã hội.