Một trong những thay đổi tức thời nhất là việc đưa ra quy định bắt buộc công khai nội dung do AI tạo ra, yêu cầu các nhà cung cấp dịch vụ AI — được định nghĩa là các thực thể phát triển hoặc sử dụng AI cho mục đích thương mại — phải thông báo cho người dùng thông qua thông báo hoặc các biện pháp kỹ thuật như hình mờ. Yêu cầu này nhằm mục đích hạn chế việc lạm dụng deepfake, thông tin sai lệch, quảng cáo lừa đảo và các hành vi lạm dụng khác của công nghệ AI tạo sinh.
Luật cũng định nghĩa các hệ thống AI tác động cao là những hệ thống được đào tạo với sức mạnh tính toán khổng lồ — ít nhất một trăm tỷ tỷ phép toán dấu phẩy động — và đánh giá chúng dựa trên các tiêu chí chi tiết, bao gồm lĩnh vực ứng dụng, rủi ro tiềm tàng đối với các quyền cơ bản và mức độ nghiêm trọng của những rủi ro đó.
AI tác động cao phải tuân thủ các yêu cầu an toàn phù hợp với các chuẩn mực toàn cầu và những tiến bộ trong công nghệ AI.
Các nhà điều hành các hệ thống như vậy sẽ phải chịu trách nhiệm cao hơn, bao gồm việc thiết lập các kế hoạch quản lý rủi ro, giám sát liên tục các tác động xã hội và tăng cường giám sát quy định của chính phủ. Các cơ quan chức năng cũng sẽ được trao quyền yêu cầu cung cấp dữ liệu và tiến hành kiểm tra tại chỗ khi cần thiết, tạo hiệu lực pháp lý cho các cơ chế giám sát trước đây thiếu tính khả thi.
Quản trị tập trung, giám sát
Bản sửa đổi này trao địa vị pháp lý rõ ràng và tăng cường quyền hạn cho Hội đồng Chiến lược Trí tuệ Nhân tạo Quốc gia của Tổng thống, thiết lập nó như cơ quan điều phối trung tâm về chính sách AI. Hội đồng sẽ điều phối các bộ, thảo luận và quyết định các chính sách quan trọng, và giám sát việc thực hiện, thể chế hóa việc giám sát vốn trước đây chỉ dựa vào các hướng dẫn không ràng buộc.
Các cơ quan chức năng cũng sẽ có quyền giám sát chính thức, cho phép họ yêu cầu dữ liệu và tiến hành kiểm tra tại chỗ các doanh nghiệp AI khi cần thiết. Nhiệm vụ điều tra này được coi là một công cụ để đảm bảo an toàn và bảo vệ quyền lợi trong kỷ nguyên AI. Tuy nhiên, nó cũng làm tăng áp lực tuân thủ đối với các công ty vận hành các hệ thống quy mô lớn.
Thúc đẩy đổi mới, ứng dụng AI
Luật sửa đổi mở đường cho nghiên cứu AI tiên tiến bằng cách cho phép không chỉ Bộ Khoa học mà cả các trường đại học và các công ty tư nhân thành lập và vận hành các viện nghiên cứu AI. Điều này nhằm mục đích tăng cường năng lực AI chủ quyền của Hàn Quốc bằng cách mở rộng cơ sở hạ tầng R&D chuyên dụng ra ngoài khu vực công.
Trong khu vực công, luật này coi nhu cầu của chính phủ là động lực tăng trưởng cho thị trường, với việc các tổ chức công hiện được yêu cầu ưu tiên các sản phẩm và dịch vụ AI khi mua sắm giải pháp hoặc ủy thác dự án.
Để giảm bớt tâm lý ngại rủi ro và đẩy nhanh việc áp dụng trong các dịch vụ chính phủ, các công chức đưa hệ thống AI vào sử dụng sẽ được miễn trách nhiệm pháp lý cá nhân đối với thiệt hại nếu không có ý định cố ý hoặc sơ suất nghiêm trọng.
Luật sửa đổi nhấn mạnh đến khả năng tiếp cận AI cho các nhóm yếu thế, chẳng hạn như người khuyết tật, người cao tuổi và những người khác gặp khó khăn trong việc sử dụng AI. Luật yêu cầu chính phủ nỗ lực phản ánh quan điểm của họ trong việc hoạch định chính sách AI quốc gia và đánh giá tác động.
Luật cũng cung cấp cơ sở pháp lý cho chính phủ trung ương và địa phương trợ cấp các sản phẩm và dịch vụ AI cho những người gặp rào cản tài chính, biến những cam kết rộng lớn thành hỗ trợ cụ thể.
Những lo ngại ngày càng tăng từ ngành công nghiệp và xã hội
Để giảm bớt khó khăn trong quá trình chuyển đổi, chính phủ đã công bố thời gian ân hạn ít nhất một năm sau khi luật có hiệu lực, trong đó sẽ ưu tiên hướng dẫn, giảm giá cho các chứng nhận an toàn và độ tin cậy, và tư vấn chuyên gia về đánh giá tác động của AI hơn là các biện pháp trừng phạt.
Tuy nhiên, bất chấp cách tiếp cận theo từng giai đoạn, những lo ngại vẫn còn tồn tại, với ngành công nghiệp chỉ ra rằng luật này có thể làm tăng gánh nặng quy định một cách khó lường và cản trở sự đổi mới.
Một báo cáo gần đây của tổ chức phi lợi nhuận Startup Alliance cảnh báo rằng các định nghĩa mơ hồ về trí tuệ nhân tạo (AI) có tác động lớn và các nghĩa vụ tuân thủ liên quan có thể đặt gánh nặng không cân xứng lên các công ty khởi nghiệp giai đoạn đầu, đặc biệt nếu các chức năng thông thường như dịch máy hoặc công cụ chỉnh sửa ảnh phải tuân theo yêu cầu đóng dấu bản quyền.
Họ kêu gọi các cơ quan quản lý làm rõ các tiêu chí kỹ thuật và từng bước áp dụng các nghĩa vụ dựa trên quy mô kinh doanh và rủi ro triển khai thay vì sức mạnh tính toán thô, cảnh báo rằng sự không chắc chắn về quy định nếu không sẽ kìm hãm sự thử nghiệm, đầu tư và thâm nhập thị trường.
Một số nhà phê bình cũng lập luận rằng khung pháp lý nghiêng quá nhiều về việc thúc đẩy công nghiệp, thay vì cung cấp các biện pháp bảo vệ có thể thực thi cho các cá nhân bị ảnh hưởng bởi hệ thống AI. Với các nghị định thực thi vẫn đang được sửa đổi và khung giám sát chưa được thiết lập đầy đủ, vẫn còn những câu hỏi về việc liệu Hàn Quốc có đang tiến quá nhanh đến việc thực thi trong khi để lại cả doanh nghiệp và người dân trong tình trạng không chắc chắn về mặt pháp lý và thực tiễn hay không.