Sam Altman và Dario Amodei ngày 23/9 đã lần lượt phát biểu tại phiên họp của Hội đồng Bảo an Liên Hợp Quốc về AI và an ninh quốc tế, trong bối cảnh năng lực của các hệ thống AI đang phát triển nhanh và những tranh luận về khả năng kiểm soát công nghệ ngày càng gia tăng.
Đây là một diễn biến đáng chú ý khi hai người đứng đầu OpenAI và Anthropic đang lãnh đạo hai doanh nghiệp cạnh tranh trực tiếp trong lĩnh vực AI tạo sinh, nhưng cùng cho rằng các vấn đề an toàn AI không thể được giải quyết bởi một công ty hay một quốc gia riêng lẻ.
AI cần được quản trị ở quy mô toàn cầu
Phát biểu trước Hội đồng Bảo an, Sam Altman cho rằng thế giới đang đứng trước một lựa chọn quan trọng: AI có thể mở ra một giai đoạn mới của sáng tạo và khám phá, nhưng cũng có thể tạo ra những biến động lớn nếu được phát triển và sử dụng thiếu kiểm soát.
Theo CEO OpenAI, những quyết định quan trọng nhất về AI không nên chỉ được đưa ra bởi các phòng nghiên cứu của các công ty công nghệ. Ông cho rằng cần có sự tham gia của các chính phủ và các thể chế dân chủ trong quá trình định hình tương lai của công nghệ này.
Altman đồng thời nhấn mạnh không một cá nhân, doanh nghiệp hay quốc gia nào nên có khả năng sử dụng những mô hình AI mạnh nhất để áp đặt quan điểm của mình lên phần còn lại của thế giới.
Thông điệp này phản ánh một vấn đề đang ngày càng được quan tâm: AI không còn chỉ là câu chuyện của ngành công nghệ, mà đã trở thành vấn đề liên quan đến kinh tế, an ninh quốc tế và quản trị toàn cầu.
Anthropic đề xuất tiêu chuẩn chung về kiểm thử AI
Dario Amodei tập trung vào hai nhóm rủi ro chính.
Thứ nhất là nguy cơ AI bị sử dụng cho các mục đích nguy hiểm, trong đó có việc hỗ trợ các hoạt động tội phạm hoặc phát triển vũ khí sinh học.
Thứ hai là nguy cơ năng lực của các mô hình AI phát triển nhanh hơn khả năng kiểm soát của chính những người xây dựng chúng.
Ông cho rằng nếu AI được quản lý không tốt, công nghệ này có thể trở thành rủi ro đối với toàn nhân loại. Amodei cũng cho biết Anthropic sẵn sàng làm chậm quá trình phát triển hoặc phát hành hệ thống mới nếu cần thiết để bảo đảm an toàn.
Đáng chú ý, CEO Anthropic kêu gọi xây dựng các tiêu chuẩn toàn cầu chung để kiểm thử mô hình AI, tập trung vào cả nguy cơ mất kiểm soát và nguy cơ lạm dụng. Ông cũng đề xuất một hệ thống thông báo các sự cố AI có ý nghĩa đối với an ninh quốc tế.
Theo Amodei, đây là vấn đề có quy mô vượt ra ngoài khả năng xử lý của bất kỳ doanh nghiệp đơn lẻ nào và đòi hỏi sự phối hợp ở cấp độ toàn ngành và toàn cầu.
Liên Hợp Quốc cảnh báo về nguy cơ “mất kiểm soát” AI
Phiên họp diễn ra chỉ một ngày sau khi Tổng Thư ký Liên Hợp Quốc António Guterres cảnh báo rằng năng lực phát triển của AI đang vượt nhanh hơn khả năng quản trị của con người.
Ông kêu gọi xây dựng một khuôn khổ quốc tế về quản lý rủi ro AI, có cơ chế giám sát độc lập, đồng thời nhấn mạnh những quyết định liên quan đến tính mạng con người không được giao hoàn toàn cho máy móc.
Một báo cáo chuyên đề mới của Hội đồng Khoa học Độc lập Quốc tế về AI thuộc Liên Hợp Quốc cũng tập trung vào nguy cơ các hệ thống AI tác nhân có thể phát triển những hành vi không phù hợp với mục tiêu của con người. Báo cáo lưu ý rằng những sự cố AI có thể vượt qua biên giới quốc gia và không một tổ chức hay quốc gia nào có thể quan sát đầy đủ tất cả các dạng rủi ro đang xuất hiện.
Điều này khiến yêu cầu chia sẻ thông tin về sự cố, xây dựng tiêu chuẩn kiểm thử và phối hợp quốc tế trở thành một trong những nội dung được quan tâm trong cuộc thảo luận về quản trị AI.
Khoảng cách giữa cạnh tranh AI và hợp tác an toàn
Tuy nhiên, việc xây dựng một cơ chế quản trị AI toàn cầu không đơn giản.
AI đang là một lĩnh vực cạnh tranh chiến lược giữa các nền kinh tế lớn. Các quốc gia đồng thời muốn thúc đẩy đổi mới, tăng năng lực tính toán và phát triển các mô hình AI tiên tiến, trong khi cũng phải kiểm soát những rủi ro phát sinh từ chính công nghệ đó.
Tại phiên họp, Yoshua Bengio, đồng chủ trì Hội đồng Khoa học Độc lập Quốc tế về AI của Liên Hợp Quốc, cho rằng cuộc cạnh tranh AI không phải là một quy luật tất yếu mà là kết quả của những lựa chọn chính sách và kinh doanh. Ông cảnh báo cuộc đua này có thể tạo ra rủi ro đối với tất cả các quốc gia.
Trong khi đó, quan điểm về mức độ cần thiết của các quy định quốc tế vẫn có sự khác biệt. Điều này cho thấy việc đạt được một bộ quy tắc chung sẽ cần quá trình đàm phán giữa nhiều quốc gia và các bên liên quan, thay vì chỉ phụ thuộc vào các doanh nghiệp công nghệ.
An toàn AI trở thành một phần của năng lực cạnh tranh công nghệ
Đối với ngành công nghệ, diễn biến tại Liên Hợp Quốc cho thấy một xu hướng quan trọng: an toàn AI đang dần trở thành một cấu phần của năng lực phát triển AI, bên cạnh năng lực tính toán, dữ liệu, mô hình và hạ tầng bán dẫn.
Khi AI chuyển từ các công cụ hỏi – đáp sang những hệ thống có khả năng tự thực hiện nhiều nhiệm vụ, yêu cầu về kiểm thử, giám sát, truy xuất hành động và kiểm soát rủi ro sẽ ngày càng trở nên quan trọng.
Đối với Việt Nam, đây cũng là vấn đề cần được tính đến trong quá trình phát triển hệ sinh thái AI và bán dẫn. Việc thu hút đầu tư và phát triển năng lực AI cần đi song song với xây dựng nguồn nhân lực, hạ tầng dữ liệu, năng lực tính toán, tiêu chuẩn kỹ thuật và cơ chế quản trị phù hợp.
Cuộc thảo luận tại Hội đồng Bảo an Liên Hợp Quốc cho thấy AI đang bước sang một giai đoạn mới: từ một cuộc đua về năng lực công nghệ trở thành bài toán đồng thời về đổi mới, an ninh và trách nhiệm. Khi các hệ thống AI ngày càng mạnh và có khả năng tự thực hiện nhiều nhiệm vụ hơn, câu hỏi không chỉ là “AI có thể làm được gì”, mà còn là “AI nên được phát triển và sử dụng như thế nào để con người vẫn giữ được quyền kiểm soát”.