Thủ tướng Anh Rishi Sunak ngày 26/10 thông báo nước này sẽ thành lập Viện An toàn trí tuệ nhân tạo (AI) đầu tiên trên thế giới. Tuyên bố này được đưa ra trước thềm hội nghị cấp cao đầu tiên trên thế giới về an toàn AI, diễn ra tại Anh vào tuần tới.
Trong bài phát biểu tại London, Thủ tướng Sunak nêu rõ viện trên sẽ kiểm tra, đánh giá và thử nghiệm các loại hình mới của AI để nắm bắt khả năng của từng mô hình mới, xác định tất cả các rủi ro từ những tác hại đối với xã hội như quan điểm thiên vị và thông tin sai lệch cho đến những nguy cơ cao nhất.
Thủ tướng Sunak lưu ý mặc dù AI sẽ thúc đẩy tăng trưởng kinh tế, cũng như giúp nâng cao năng lực của con người nhưng công nghệ này cũng mang lại những mối nguy hiểm mới.
Ông cho rằng chỉ có các chính phủ mới có thể đánh giá đúng nguy cơ của AI đối với an ninh quốc gia và không nên dựa vào ý kiến của các công ty công nghệ.
Ông Sunak cho biết AI có thể mang lại những lợi ích to lớn cho xã hội, nhưng cũng có những rủi ro tiềm ẩn. "AI có thể giúp việc tạo ra vũ khí hóa học hoặc sinh học dễ dàng hơn, nhưng công nghệ này cũng có thể bị bọn tội phạm khai thác. Trong những trường hợp khó xảy ra nhất nhưng cực đoan nhất, con người thậm chí có thể đi qua cái mà đôi khi được gọi là một AI siêu thông minh hoàn toàn mất kiểm soát trước AI”, ông nói.
Viện nghiên cứu bảo mật AI của Anh dự kiến sẽ được thành lập vào năm 2024. Sunak cho biết ông hy vọng rằng viện này sẽ trở thành một nguồn tài nguyên toàn cầu cho việc nghiên cứu và phát triển AI an toàn.
Ông cho biết chính phủ đã công bố báo cáo về AI, các mô hình đa năng tiên tiến mà hội nghị sắp tới sẽ tập trung thảo luận.
Báo cáo này sẽ cung cấp thông tin về các rủi ro liên quan tới AI như những tác hại đối với xã hội, việc lạm dụng công nghệ này và trong trường hợp xấu nhất là con người có nguy cơ mất quyền kiểm soát AI.
Hội nghị cấp cao về an toàn AI dự kiến diễn ra trong 2 ngày 1-2/11 tại Bletchley Park, phía Nam vùng England, với sự tham gia của khoảng 100 khách mời, trong đó có Phó Tổng thống Mỹ Kamala Harris và Giám đốc điều hành Google Demis Hassabis, cùng các học giả, nhà tiên phong trong lĩnh vực AI...
Hội nghị đặt trọng tâm thảo luận về nguy cơ tội phạm và các phần tử khủng bố có thể lợi dụng công nghệ tiên tiến này để chế tạo vũ khí hủy diệt hàng loạt.
Vào tháng trước, cơ quan quản lý chống độc quyền CMA của Anh đã đề xuất các tiêu chuẩn mới để quản lý các mô hình AI. Các tiêu chuẩn này bao gồm các vấn đề như trách nhiệm giải trình, quyền truy cập và tính minh bạch.
CMA cho biết các tiêu chuẩn mới này là cần thiết để đảm bảo rằng AI được phát triển và sử dụng một cách an toàn và có trách nhiệm.
Kế hoạch thành lập viện nghiên cứu bảo mật AI của Anh và hội nghị thượng đỉnh an ninh AI là những bước đi quan trọng nhằm giải quyết các rủi ro tiềm ẩn của AI. Các nỗ lực này sẽ giúp đảm bảo rằng AI được phát triển và sử dụng một cách an toàn và có trách nhiệm, mang lại lợi ích cho xã hội.