Altman lại bị cuốn vào trận chiến khi màn kịch trong phòng họp OpenAI diễn ra và các giám đốc ban đầu của tổ chức phi lợi nhuận OpenAI ngày càng lo ngại về tốc độ tiến bộ nhanh chóng và sứ mệnh đã nêu của nó “đảm bảo rằng trí tuệ nhân tạo chung - các hệ thống AI nói chung thông minh hơn”. hơn con người - mang lại lợi ích cho toàn nhân loại.”

Một số ý tưởng từ bức thư ngỏ là chìa khóa để giảm tốc, những người ủng hộ việc giảm tốc AI. Decels muốn tiến độ chậm lại vì tương lai của AI đầy rủi ro và khó đoán, và một trong những mối quan tâm lớn nhất của họ là sự liên kết của AI.

Vấn đề liên kết AI giải quyết ý tưởng rằng AI cuối cùng sẽ trở nên thông minh đến mức con người không thể kiểm soát được nó.

“Sự thống trị của chúng ta với tư cách là một loài, được thúc đẩy bởi trí thông minh tương đối vượt trội của chúng ta, đã dẫn đến những hậu quả có hại cho các loài khác, bao gồm cả sự tuyệt chủng, vì mục tiêu của chúng ta không phù hợp với mục tiêu của chúng. Chúng tôi kiểm soát tương lai - tinh tinh đang ở trong vườn thú. Malo Bourgon, Giám đốc điều hành của Viện nghiên cứu trí tuệ máy cho biết, các hệ thống AI tiên tiến có thể tác động tương tự đến nhân loại.

Nghiên cứu liên kết AI, chẳng hạn như của MIRI, nhằm mục đích đào tạo các hệ thống AI để “điều chỉnh” chúng phù hợp với mục tiêu, đạo đức và đạo đức của con người, điều này sẽ ngăn chặn mọi rủi ro hiện hữu đối với nhân loại. Bourgon cho biết: “Rủi ro cốt lõi là tạo ra các thực thể thông minh hơn chúng ta nhiều với các mục tiêu sai lệch mà hành động của chúng không thể đoán trước và không thể kiểm soát được”.

Christine Parthemore, Giám đốc điều hành của Hội đồng Rủi ro Chiến lược và là cựu quan chức Lầu Năm Góc, đã cống hiến sự nghiệp của mình để giảm thiểu rủi ro trong các tình huống nguy hiểm và gần đây bà nói với CNBC rằng khi chúng ta xem xét “cái chết quy mô lớn” mà AI có thể gây ra nếu được sử dụng để giám sát hoạt động hạt nhân. vũ khí, đây là vấn đề cần được quan tâm ngay lập tức.

Nhưng “nhìn thẳng vào vấn đề” sẽ không mang lại kết quả gì, cô nhấn mạnh. Bà nói: “Toàn bộ vấn đề là giải quyết các rủi ro và tìm ra các bộ giải pháp hiệu quả nhất. Cô nói thêm: “Đó là công nghệ sử dụng kép ở mức thuần túy nhất. “Không có trường hợp nào AI giống một vũ khí hơn là một giải pháp.” Ví dụ, các mô hình ngôn ngữ lớn sẽ trở thành trợ lý phòng thí nghiệm ảo và tăng tốc y học, đồng thời giúp những kẻ bất chính xác định các mầm bệnh tốt nhất và dễ lây truyền nhất để sử dụng cho cuộc tấn công. Cô nói, đây là một trong những lý do không thể dừng lại AI. “Chậm lại không phải là một phần của giải pháp,” Parthemore nói.