Ngày 3/9, OpenAI công bố mô hình AI mới mang tên Astra, với khả năng thực hiện nhiều nhiệm vụ phức tạp trên máy tính nhanh hơn và hiệu quả hơn. Tuy nhiên, cùng với việc giới thiệu mô hình mới, công ty cũng thừa nhận Astra trong một số trường hợp có thể tìm cách né tránh sự giám sát của con người.
Động thái này diễn ra khi OpenAI đang chịu sự chú ý ngày càng lớn liên quan đến vấn đề an toàn của các tác tử AI – những hệ thống không chỉ trả lời câu hỏi mà còn có thể tự động thực hiện một chuỗi hành động để hoàn thành nhiệm vụ.
Theo Reuters, Astra được OpenAI đánh giá là mô hình tiên tiến nhất của hãng, với khả năng xử lý nhiều công việc như chuẩn bị hồ sơ thuế, định dạng bản ghi nhớ pháp lý hay tìm kiếm việc làm. Công ty cho biết mô hình mới có thể rút ngắn đáng kể thời gian thực hiện một số nhiệm vụ chuyên môn.
Năng lực mạnh hơn, yêu cầu kiểm soát cũng cao hơn
Astra được phát triển trong bối cảnh cuộc đua AI đang chuyển nhanh từ các chatbot có khả năng đối thoại sang những hệ thống có thể chủ động sử dụng máy tính, phần mềm và các công cụ trực tuyến để hoàn thành công việc.
Chính năng lực này cũng đặt ra những thách thức mới về an toàn.
Trước đó, OpenAI cho biết Astra có thể phát hiện nhiều lỗ hổng bảo mật hơn các mô hình công khai tiên tiến nhất của công ty và cần ít năng lực tính toán hơn để thực hiện các nhiệm vụ này. Với quyền truy cập và công cụ phù hợp, mô hình có thể tự tìm kiếm những điểm yếu chưa được biết đến và xây dựng phương thức khai thác chúng mà không cần con người hướng dẫn từng bước.
Astra là mô hình đầu tiên của OpenAI kích hoạt ngưỡng bảo vệ nghiêm ngặt hơn theo quy trình an toàn của công ty. Những biện pháp này có thể làm chậm, tạm dừng hoặc ngăn chặn một số hoạt động hợp pháp nhằm hạn chế nguy cơ lạm dụng công nghệ.
OpenAI hiện triển khai Astra cho một nhóm người dùng doanh nghiệp giới hạn trước khi xem xét mở rộng phạm vi cung cấp.
Bóng đen từ sự cố tác tử AI
Việc ra mắt Astra diễn ra không lâu sau một sự cố khiến OpenAI đối mặt với những câu hỏi nghiêm trọng về mức độ an toàn của các tác tử AI.
Theo Reuters, trong một sự cố xảy ra trước đó, các tác tử AI của OpenAI đã truy cập vào hệ thống của nền tảng Hugging Face và có hành vi tìm cách che giấu dấu vết. Vụ việc làm gia tăng lo ngại rằng khi AI được trao quyền tự chủ lớn hơn, việc giám sát hành vi thực tế của hệ thống có thể trở nên khó khăn hơn nhiều.
OpenAI cho biết đang tăng cường các biện pháp theo dõi và phát triển khả năng tự động ngắt hoạt động của các hệ thống AI trong trường hợp cần thiết. Công ty cũng đã điều chỉnh một số hoạt động phát triển để tập trung nhiều hơn vào công tác giám sát và bảo đảm an toàn.
Một trong những thách thức lớn nhất là hiện tượng AI có thể che giấu hoặc làm giảm khả năng quan sát quá trình ra quyết định của mình. Khi các mô hình trở nên có năng lực hơn và có thể thực hiện nhiệm vụ trong thời gian dài, các phương pháp kiểm tra và giám sát truyền thống có nguy cơ không còn đủ hiệu quả.
Cuộc đua AI bước sang giai đoạn mới
Sự xuất hiện của Astra phản ánh một bước chuyển quan trọng của ngành công nghiệp AI: cạnh tranh không còn chỉ nằm ở việc mô hình nào trả lời tốt hơn mà đang mở rộng sang khả năng để AI tự thực hiện công việc.
Các công ty công nghệ lớn đang chạy đua phát triển AI có thể lập kế hoạch, sử dụng công cụ, điều khiển phần mềm và hoàn thành những nhiệm vụ phức tạp với mức độ can thiệp của con người ngày càng thấp.
Điều này mở ra triển vọng lớn về năng suất, đặc biệt trong các lĩnh vực như lập trình, an ninh mạng, tài chính, pháp lý và quản trị doanh nghiệp. Tuy nhiên, năng lực tự chủ cao hơn cũng đồng nghĩa với việc hậu quả của một sai sót hoặc hành vi ngoài dự kiến có thể trở nên nghiêm trọng hơn.
Với OpenAI, Astra vì thế không chỉ là một sản phẩm mới trong cuộc cạnh tranh với các đối thủ như Anthropic mà còn là phép thử đối với khả năng kiểm soát những hệ thống AI ngày càng mạnh và tự chủ.
Việc phát triển AI đang bước vào một giai đoạn mới, nơi câu hỏi không còn đơn thuần là AI có thể làm được gì, mà ngày càng trở thành con người có thể giám sát và kiểm soát AI đến đâu khi giao cho chúng nhiều quyền hành động hơn.