Deepfake là một video được sản xuất bởi công nghệ máy học và trí tuệ nhân tạo, và liên quan đến việc thay đổi hình ảnh và âm thanh để làm sai lệch danh tính, lời nói hoặc hành động của ai đó.
Các chuyên gia cho rằng cần phải có những hình phạt cứng rắn hơn khi lạm dụng deepfakes vì càng khó phân biệt đâu là sự thật với sự phát triển nhanh chóng của công nghệ deepfake và các video bị thao túng có thể được sử dụng để lừa gạt mọi người và các tổ chức.
Họ nói rằng chính phủ cũng cần phát triển một cách để phát hiện trước các lỗ hổng sâu và ngăn chặn sự lây lan của nội dung giả mạo, tương tự như cách phần mềm chống vi-rút chặn các cuộc tấn công mạng.
Theo một nghiên cứu gần đây của công ty an ninh mạng Hà Lan Deeptrace Labs, 25% đối tượng tham gia phim khiêu dâm là nữ ngôi sao Kpop. Công ty cho biết các ngôi sao Hàn Quốc ngày càng nổi bật trong các video bị thao túng vì sự phổ biến bùng nổ của họ trên toàn cầu.
Để bảo vệ những nạn nhân như vậy, Dân biểu Park Dae-chul của Đảng Tự do Hàn Quốc đã đề xuất một "dự luật sâu sắc" để sửa đổi Đạo luật hiện hành về Tội phạm tình dục, để họ có thể đưa ra hình phạt lên tới bảy năm tù cho những người phân phối video giả.
"Công nghệ AI, cốt lõi để tạo ra các sản phẩm sâu, rất quan trọng đối với sự phát triển của đất nước, nhưng tôi đã đề xuất dự luật để chủ động trả lời những người lạm dụng công nghệ này", nhà lập pháp nói. Tuy nhiên, một nhà nghiên cứu lập pháp đã giúp các nhà lập pháp đề xuất dự luật deepfake cho biết sẽ cần thời gian để dự luật chính thức có luật vì cần phải trải qua nhiều bước hơn.
Kim Yoo-hyang, nói: "Để biến dự luật thành luật, các nhà lập pháp phải trải qua một vài bước nữa. Họ phải chia sẻ những gì quan trọng với công nghệ với các cơ quan chính phủ và tổ chức các buổi điều trần công khai để cải thiện nhận thức xã hội về các vấn đề". giám đốc nhóm truyền thông khoa học và viễn thông tại Cơ quan nghiên cứu quốc hội (NARS).
"Với dự luật tin tức giả mạo về việc truyền bá thông tin cố ý vẫn đang chờ xử lý, sẽ mất nhiều thời gian hơn cho dự luật deepfake", NARS là một cơ quan nhà nước cung cấp các khuyến nghị chính sách cho các nhà lập pháp.
Trong khi dự luật cần thêm thời gian để nộp, bà Kim nói rằng nó mang một ý nghĩa quan trọng. "Nhiều phụ nữ trở thành nạn nhân của các video bị thao túng bằng công nghệ deepfake. Công nghệ này cũng có thể làm mất ổn định các cuộc bầu cử. Vì vậy, đề xuất sửa đổi deepfake là bước đầu tiên có ý nghĩa đối với xã hội", cô nói.
Giám đốc nói thêm cần có các biện pháp công nghệ có thể ngăn chặn sự xuất hiện và lây lan của các hố sâu. "Hoa Kỳ, nơi có giá trị cao về tự do ngôn luận, không có luật cấm phổ biến tin tức giả, trong khi nhiều quốc gia khác đang ngày càng chuyển sang ban hành biện pháp đó thành luật. Nhưng khi nói đến vấn đề sâu sắc, bốn dự luật đã được đệ trình lên các hội đồng nhà nước và năm dự luật đã được chuyển cho chính phủ liên bang. Vì vậy, Hàn Quốc cũng cần cải thiện khả năng trừng phạt một cách hiệu quả và hợp pháp những người xâm phạm quyền riêng tư của người khác bằng cách sử dụng công nghệ deepfake. phát hiện các video bị thao túng ", đạo diễn nói.
Lee Dong-hwi, giáo sư khoa an ninh thông tin tại Đại học Dongshin, đồng ý rằng nước này cần luật pháp để bảo vệ nạn nhân của các vụ lừa đảo, nhưng xã hội cần có cách tiếp cận cẩn thận khi quyết định phạm vi của mình vì nó có thể gây nguy hiểm cho quyền tự do ngôn luận.
"Lý do tại sao các nhà lập pháp đề xuất dự luật deepfake là bởi vì thật khó để phân biệt đâu là thật và đâu là giả. Vì một đoạn phim sâu là một video cho thấy điều gì đó không thực sự xảy ra, phải có luật có thể bảo vệ Các nạn nhân. Nhưng chính phủ cũng nên cẩn thận trong việc quyết định phạm vi của luật bởi vì nó có thể gây tổn hại cho quyền tự do ngôn luận", giáo sư nói.