Hướng dẫn công nghệ
Các nhà khoa học hàng đầu cảnh báo về AI ngoài tầm kiểm soát
Nam Phong - Thứ Sáu, 07/02/2025 3:31 CH
Vietnet24h - Hai nhà khoa học AI nổi tiếng nhất thế giới chia sẻ rằng, trí tuệ nhân tạo thông minh hơn con người được xây dựng như "đặc vụ" có thể trở nên nguy hiểm trong bối cảnh thiếu rõ ràng về khả năng kiểm soát.
Yoshua Bengio (L) and Max Tegmark (R) discuss the development of artificial general intelligence during a live podcast recording of CNBC's "Beyond The Valley" in Davos, Switzerland in January 2025.
Yoshua Bengio (trái) và Max Tegmark (phải) thảo luận về sự phát triển của trí tuệ nhân tạo tổng quát trong bản ghi podcast trực tiếp của chương trình “Beyond The Valley” của CNBC tại Davos, Thụy Sĩ vào tháng 1 năm 2025.

Trí tuệ nhân tạo tổng quát được xây dựng giống như "tác nhân" có thể tỏ ra nguy hiểm vì những người tạo ra nó có thể mất quyền kiểm soát hệ thống, hai trong số những nhà khoa học AI nổi tiếng nhất thế giới đã chia sẻ.
 
Trong tập mới nhất của podcast "Beyond The Valley" của CNBC được phát hành vào thứ Ba, Max Tegmark, một giáo sư tại Viện Công nghệ Massachusetts và Chủ tịch Viện Tương lai của Sự sống, và Yoshua Bengio, được mệnh danh là một trong những "cha đẻ của AI" và là giáo sư tại Université de Montréal, đã nói về mối quan ngại của họ về trí tuệ nhân tạo tổng quát, hay AGI. Thuật ngữ này thường dùng để chỉ các hệ thống AI thông minh hơn con người.
 
Nỗi sợ hãi của họ bắt nguồn từ các công ty lớn nhất thế giới hiện đang nói về "tác nhân AI" hoặc "AI tác nhân" — mà các công ty tuyên bố sẽ cho phép các chatbot AI hoạt động như trợ lý hoặc tác nhân và hỗ trợ trong công việc và cuộc sống hàng ngày. Các ước tính của ngành về thời điểm AGI sẽ ra đời khác nhau.
 
Theo Bengio, với khái niệm đó, ý tưởng rằng các hệ thống AI có thể có một số "tác nhân" và suy nghĩ riêng của chúng xuất hiện.
 
“Các nhà nghiên cứu AI đã lấy cảm hứng từ trí thông minh của con người để xây dựng trí thông minh của máy móc, và ở con người, có sự kết hợp giữa khả năng hiểu thế giới như trí thông minh thuần túy và hành vi tác nhân, nghĩa là ... sử dụng kiến ​​thức của bạn để đạt được mục tiêu”, Bengio chia sẻ với chương trình “Beyond The Valley”.
 
“Hiện tại, đây là cách chúng ta đang xây dựng AGI: chúng ta đang cố gắng biến chúng thành những tác nhân hiểu biết nhiều về thế giới, sau đó có thể hành động phù hợp. Nhưng thực tế đây là một đề xuất rất nguy hiểm”.
 
Bengio nói thêm rằng theo đuổi cách tiếp cận này cũng giống như “tạo ra một loài mới hoặc một thực thể thông minh mới trên hành tinh này” và “không biết liệu chúng có hành xử theo cách phù hợp với nhu cầu của chúng ta hay không”.
 
“Vì vậy, thay vào đó, chúng ta có thể cân nhắc, những kịch bản nào sẽ diễn ra tồi tệ và tất cả đều phụ thuộc vào tác nhân? Nói cách khác, chính vì AI có mục tiêu riêng nên chúng ta có thể gặp rắc rối”.
 
Bengio cho biết ý tưởng tự bảo vệ cũng có thể phát huy tác dụng khi AI trở nên thông minh hơn.
 
“Chúng ta có muốn cạnh tranh với những thực thể thông minh hơn mình không? Đây không phải là một canh bạc đáng tin cậy, đúng không? Vì vậy, chúng ta phải hiểu cách tự bảo vệ có thể trở thành mục tiêu trong AI”.
 
Công cụ AI là chìa khóa
Đối với Tegmark của MIT, chìa khóa nằm ở cái gọi là “AI công cụ” — các hệ thống được tạo ra cho một mục đích cụ thể, được xác định hẹp, nhưng không nhất thiết phải là tác nhân.
 
Tegmark cho biết AI công cụ có thể là một hệ thống cho bạn biết cách chữa ung thư hoặc thứ gì đó sở hữu “một số tác nhân” như xe tự lái “nơi bạn có thể chứng minh hoặc nhận được một số đảm bảo thực sự cao, thực sự đáng tin cậy rằng bạn vẫn có thể kiểm soát được nó”.
 
“Tôi nghĩ, theo hướng lạc quan ở đây, chúng ta có thể có hầu hết mọi thứ mà chúng ta mong đợi với AI ... nếu chúng ta chỉ cần nhấn mạnh vào một số tiêu chuẩn an toàn cơ bản trước khi mọi người có thể bán các hệ thống AI mạnh mẽ”, Tegmark cho biết. “Họ phải chứng minh rằng chúng ta có thể kiểm soát chúng. Sau đó, ngành công nghiệp sẽ đổi mới nhanh chóng để tìm ra cách thực hiện điều đó tốt hơn”.
 
Viện Tương lai của Sự sống của Tegmark năm 2023 đã kêu gọi tạm dừng phát triển các hệ thống AI có thể cạnh tranh với trí thông minh ở cấp độ con người. Mặc dù điều đó chưa xảy ra, Tegmark cho biết mọi người đang nói về chủ đề này và bây giờ đã đến lúc hành động để tìm ra cách đặt ra các rào cản để kiểm soát AGI.
 
"Vì vậy, ít nhất là bây giờ rất nhiều người đang nói. Chúng ta phải xem liệu chúng ta có thể khiến họ hành động hay không", Tegmark nói với chương trình "Beyond The Valley". "Rõ ràng là con người chúng ta đang điên rồ khi xây dựng một thứ gì đó thông minh hơn chúng ta rất nhiều trước khi chúng ta tìm ra cách kiểm soát nó".
 
Có một số quan điểm về thời điểm AGI sẽ xuất hiện, một phần là do các định nghĩa khác nhau. Giám đốc điều hành của OpenAI, Sam Altman cho biết công ty của ông biết cách xây dựng AGI và cho biết nó sẽ xuất hiện sớm hơn mọi người nghĩ, mặc dù ông đã hạ thấp tác động của công nghệ này. "Tôi đoán là chúng ta sẽ đạt được AGI sớm hơn hầu hết mọi người trên thế giới nghĩ và điều đó sẽ ít quan trọng hơn nhiều", Altman cho biết vào tháng 12.
Singapore cho biết các công ty Hoa Kỳ nên tuân thủ các biện pháp kiểm soát xuất khẩu sau các câu hỏi về chip DeepSeek Vietnet24h - Nhiều câu hỏi đã được đặt ra về nguồn gốc của chất bán dẫn được sử dụng để xây dựng mô hình AI của DeepSeek, do những hạn chế xuất khẩu của Hoa Kỳ.
Trí tuệ nhân tạo: Công cụ đột phá hay mối nguy diệt vong? Vietnet24h - Geoffrey Hinton, “cha đẻ” của AI, đưa ra cảnh báo rằng trí tuệ nhân tạo có thể đe dọa sự tồn tại của nhân loại trong tương lai gần. Mặc dù AI mang đến nhiều lợi ích, nhưng nếu không có sự kiểm soát chặt chẽ, sự phát triển của công nghệ này có thể dẫn đến một thảm họa khôn lường cho toàn thế giới.
Tin khác cùng chuyên mục
Tin đọc nhiều
Virtual Twin: mô hình kỹ thuật số mô phỏng chính xác một thực thể vật lý hoặc hệ thống trong thế giới thực Vietnet24h - Virtual Twin (Song sinh số) là một mô hình kỹ thuật số được tạo ra để mô phỏng chính xác một thực thể vật lý hoặc hệ thống trong thế giới thực, như sản phẩm, quy trình sản xuất, hoặc thậm chí là toàn bộ nhà máy, thành phố.
Google Maps cho phép xem lại đường phố từ quá khứ, bạn đã thử chưa? Vietnet24h - Chỉ với vài cú nhấn trên ứng dụng hoặc máy tính, bạn có thể quay lại thời điểm năm 2010 để xem phố xá lúc đó như thế nào. Đây là tính năng Street View mở rộng mà nhiều người dùng vẫn chưa khám phá hết.
Google Search tiết lộ những tính năng sáng tạo có thể thay đổi trải nghiệm trực tuyến của bạn Vietnet24h - Các công cụ tìm kiếm vẫn là đồng minh đáng tin cậy của chúng ta trong hành trình tìm kiếm thông tin, với 16,4 tỷ truy vấn mỗi ngày chỉ tính riêng trên Google.
Google Maps nên lo lắng: Apple Maps giờ thông minh hơn và... nhớ cả bạn thích đi đâu! Vietnet24h - Apple vừa tung bản cập nhật iOS 26 khiến cộng đồng công nghệ xôn xao. Apple Maps không chỉ dẫn đường mà còn ghi nhớ thói quen di chuyển, gợi ý theo sở thích cá nhân và bảo mật tuyệt đối. Đây chính là điều mà Google Maps – với mọi dữ liệu khổng lồ – vẫn chưa thể làm được.
Apple và cuộc "đại tu hệ điều hành" tại WWDC 2025: Khi con số không chỉ là ký hiệu Vietnet24h - Tại WWDC 2025, Apple không đơn thuần giới thiệu các phiên bản phần mềm kế tiếp mà đang vẽ lại cả triết lý định danh sản phẩm và trải nghiệm người dùng. Việc chuyển từ iOS 19 sang iOS 26 không phải chỉ là đổi số, mà là tín hiệu của một chiến lược hợp nhất, đồng bộ và hướng tới tương lai của toàn hệ sinh thái Apple.
Sony FE PZ 16-35mm F4 G – Khi sự tinh gọn gặp sức mạnh quang học Vietnet24h - Trong thế giới nhiếp ảnh và quay phim hiện đại, nơi tính linh hoạt và hiệu suất thường phải đánh đổi lẫn nhau, Sony một lần nữa chứng minh họ có thể phá vỡ quy luật ấy bằng việc ra mắt ống kính zoom điện góc rộng FE PZ 16-35mm F4 G – một minh chứng cho hướng đi ngày càng rõ ràng của hãng: tối ưu trải nghiệm sáng tạo nội dung trên hệ máy mirrorless full-frame mà không thỏa hiệp về chất lượng.
Vì sao màn hình kép và AI khiến Yoga Book 9i trở nên khác biệt? Vietnet24h - Không phải là chiếc laptop đầu tiên có màn hình kép, nhưng Yoga Book 9i kết hợp công nghệ OLED, AI và thiết kế xoay gập linh hoạt theo cách mà rất ít sản phẩm trên thị trường có thể làm được. Đâu là điểm khiến nó trở thành công cụ mơ ước cho người làm sáng tạo?
Muốn dùng AI không cần mạng? Google đã có giải pháp mới cho bạn Vietnet24h - Không cần Wi-Fi, không cần 4G, bạn vẫn có thể tạo ảnh, viết code hay tóm tắt văn bản nhờ AI. Với AI Edge Gallery, Google mang trải nghiệm trí tuệ nhân tạo về ngay trong túi áo của bạn – gọn nhẹ, bảo mật và sẵn sàng mọi lúc.
Thiết kế siêu mỏng "đòi hỏi" đánh đổi – iPhone 17 Air và bài toán năng lượng Vietnet24h - Việc Apple chuẩn bị trình làng iPhone 17 Air với thiết kế siêu mỏng chỉ 5,5 mm, theo tiết lộ mới nhất từ tài khoản yeux1122 trên Naver, đang tạo ra nhiều kỳ vọng về mặt thẩm mỹ – nhưng cũng đồng thời đặt ra những dấu hỏi lớn về hiệu suất pin và trải nghiệm người dùng trong thực tế.
MediaTek ra mắt bộ xử lý AI cho Chromebook Plus Vietnet24h - MediaTek Inc., nhà thiết kế IC lớn nhất tại Đài Loan, đã giới thiệu bộ xử lý mới -- Kompanio Ultra -- vào thứ Hai, công ty mô tả đây là cột mốc mới nhất trong Chromebook hiệu suất cao, chạy bằng trí tuệ nhân tạo.
DeepSeek ám chỉ mô hình mới nhất sẽ được hỗ trợ bởi chip AI nội địa 'thế hệ tiếp theo' của Trung Quốc Vietnet24h - DeepSeek ám chỉ rằng Trung Quốc sẽ có chip “thế hệ tiếp theo” do nước này tự sản xuất để hỗ trợ các mô hình AI của mình.
Nvidia đang tìm cách dừng sản xuất chip H20 sau khi Trung Quốc siết chặt việc mua hàng Vietnet24h - The Information cho biết Nvidia đã yêu cầu Amkor Technology và Samsung Electronics tạm dừng sản xuất liên quan đến H20.
Google công bố dòng điện thoại thông minh Pixel 10 hỗ trợ AI Vietnet24h - Công ty cho biết dòng Pixel 10 đi kèm các tính năng trí tuệ nhân tạo mới cho phép người dùng thực hiện nhiều tác vụ cùng lúc.
Nvidia cho biết họ đang đánh giá 'nhiều loại sản phẩm' sau báo cáo về chip AI mới cho Trung Quốc Vietnet24h - Nvidia cho biết họ đang đánh giá "nhiều loại sản phẩm" sau khi Reuters đưa tin rằng công ty đang phát triển một loại chip AI mới cho Trung Quốc, tiên tiến hơn so với sản phẩm hiện tại.
SK Hynix ra mắt ‘Gaia’, nền tảng AI tạo sinh chuyên biệt về chất bán dẫn Vietnet24h - ‘Gaia’ tối ưu hóa quy trình bán dẫn với các tác nhân AI được thiết kế riêng.
Cổ phiếu Intel tăng 7% sau thông tin chính quyền Trump đang cân nhắc mua cổ phần tại hãng sản xuất chip này Vietnet24h - Chính quyền Trump đang đàm phán với nhà sản xuất chip để chính phủ Hoa Kỳ nắm giữ cổ phần trong công ty đang gặp khó khăn này.
Samsung Display gần như thắng kiện đối thủ Trung Quốc BOE Technology Vietnet24h - Theo các nguồn tin, Ủy ban Thương mại Quốc tế Hoa Kỳ (ITC) đã đưa ra phán quyết sơ bộ cấm nhập khẩu tấm nền OLED của BOE trong 14 năm 8 tháng theo "lệnh loại trừ hạn chế".
Triển lãm GEIMS Việt Nam 2025 – Cầu nối chiến lược giữa cung và cầu trong ngành điện tử và sản xuất thông minh tại Việt Nam Vietnet24h - Triển lãm Quốc tế Linh kiện Điện tử và Sản xuất Thông minh tại Việt Nam – GEIMS Việt Nam sẽ chính thức trở lại từ 20 đến 22 tháng 11 năm 2025 tại Trung tâm Triển lãm Quốc tế I.C.E Hà Nội, 91 Trần Hưng Đạo (4 Trần Bình Trọng), Phường Cửa Nam, Hà Nội.
Trump cho biết kế hoạch thuế quan bán dẫn mới sẽ sớm được triển khai vào tuần tới Vietnet24h - Tổng thống Donald Trump cho biết ông sẽ công bố mức thuế mới đối với chất bán dẫn và chip ngay trong tuần tới.
Samsung sắp ra mắt điện thoại gập ba và tai nghe XR thú vị vào cuối năm nay Vietnet24h - Samsung đã tạo tiền đề cho một bước nhảy vọt đáng kể trong công nghệ di động, xác nhận kế hoạch ra mắt cả điện thoại thông minh gập ba và tai nghe XR vào cuối năm 2025.
WindRunner: Chuyến bay chưa cất cánh của ngành điện gió Vietnet24h - Nằm tại Boulder, Colorado, một công ty khởi nghiệp tên Radia đang ấp ủ chế tạo chiếc máy bay lớn nhất thế giới. Nhưng trước khi WindRunner có thể vươn lên bầu trời với những cánh turbine khổng lồ trong khoang, họ phải vượt qua những giới hạn tưởng chừng không thể: từ kỹ thuật, quy định cho đến niềm tin thị trường.
Trung Quốc: Robot trí tuệ nhân tạo đầu tiên học tiến sĩ nghệ thuật Vietnet24h - Xueba 01 – robot hình người được phát triển tại Thượng Hải – vừa chính thức được ghi danh vào chương trình tiến sĩ 4 năm về kịch nghệ. Đây là lần đầu tiên một cỗ máy được công nhận tư cách nghiên cứu sinh trong lĩnh vực nghệ thuật biểu diễn tại Trung Quốc.
Bê tông thông minh và giấc mơ về một ngành xây dựng trung hòa carbon Vietnet24h - Trong bối cảnh biến đổi khí hậu trở thành một trong những thách thức cấp bách nhất của nhân loại, một đột phá từ Đại học Southern California (USC) có thể định hình lại ngành xây dựng – lĩnh vực vốn là một trong những nguồn phát thải CO₂ lớn nhất toàn cầu. Nhưng lần này, vật liệu truyền thống như bê tông không chỉ là một phần của vấn đề, mà đang được tái định nghĩa để trở thành một phần của giải pháp.
Apple hướng đến mục tiêu cách mạng hóa nhiếp ảnh với camera iPhone mới lấy cảm hứng từ thị giác con người Vietnet24h - Theo một bằng sáng chế mới được nộp, Apple đang hướng đến mục tiêu cách mạng hóa công nghệ camera trên những chiếc iPhone trong tương lai, tiết lộ những kế hoạch đầy tham vọng nhằm nâng cao khả năng chụp ảnh.
Otto Aviation trình làng máy bay không cửa sổ Phantom 3500, bay thử từ 2027 Vietnet24h - Mẫu máy bay Phantom 3500 do Otto Aviation phát triển đang gây chú ý với thiết kế không cửa sổ nhằm tăng hiệu suất khí động học. Công ty dự kiến sẽ cho cất cánh thử nghiệm vào cuối năm 2027, mở ra chương mới cho hàng không thương mại cận âm.
LG Innotek ra mắt mô-đun xe truyền thông vệ tinh 5G đầu tiên trên thế giới Vietnet24h - Mô-đun mới nhất hỗ trợ 5G NR-NTN, một mạng truyền thông di động hoạt động trên các vệ tinh quỹ đạo Trái đất thấp, cho phép truyền dữ liệu khối lượng lớn theo thời gian thực.
Công nghệ như phim viễn tưởng: Đeo kính áp tròng, nhắm mắt vẫn thấy rõ! Vietnet24h - Ngỡ chỉ có trong phim Marvel, nhưng loại kính áp tròng siêu nhỏ gọn vừa ra đời tại Trung Quốc lại có thể giúp người dùng nhìn thấy trong đêm tối mà không cần mở mắt. Chuyện thật như đùa, nhưng khoa học đã chứng minh điều đó là khả thi.
Google, Samsung sẽ ra mắt kính thông minh XR trong năm nay Vietnet24h - Samsung bước lên vị trí dẫn đầu về phần cứng trong sự trở lại của kính thông minh Google, mở rộng vai trò trong hệ sinh thái XR đang phát triển
Neuralink: cấy chip não, biên tập video và đăng YouTube bằng suy nghĩ Vietnet24h - Trong một bước đột phá ấn tượng, Bradford Smith, người mắc bệnh ALS, đã chứng minh khả năng tuyệt vời của công nghệ giao diện não-máy tính (BCI) khi có thể biên tập video và đăng tải lên YouTube chỉ bằng suy nghĩ, mà không cần sự trợ giúp từ bất kỳ thiết bị hay người khác. Đây không chỉ là sự tiến bộ trong lĩnh vực công nghệ mà còn mang lại hy vọng mới cho những người khuyết tật vận động.
LG Display công bố màn hình OLED màu xanh huỳnh quang thương mại đầu tiên trên thế giới Vietnet24h - LG Display đã xác minh thành công hiệu suất sản xuất của tấm nền điốt phát quang hữu cơ phát quang màu xanh lam (OLED) cho dây chuyền sản xuất hàng loạt lần đầu tiên trên thế giới, công ty cho biết hôm thứ Năm (1/5).