Thị trường
Các nhà khoa học hàng đầu cảnh báo về AI ngoài tầm kiểm soát
Nam Phong - Thứ Sáu, 07/02/2025 3:31 CH
Vietnet24h - Hai nhà khoa học AI nổi tiếng nhất thế giới chia sẻ rằng, trí tuệ nhân tạo thông minh hơn con người được xây dựng như "đặc vụ" có thể trở nên nguy hiểm trong bối cảnh thiếu rõ ràng về khả năng kiểm soát.
Yoshua Bengio (L) and Max Tegmark (R) discuss the development of artificial general intelligence during a live podcast recording of CNBC's "Beyond The Valley" in Davos, Switzerland in January 2025.
Yoshua Bengio (trái) và Max Tegmark (phải) thảo luận về sự phát triển của trí tuệ nhân tạo tổng quát trong bản ghi podcast trực tiếp của chương trình “Beyond The Valley” của CNBC tại Davos, Thụy Sĩ vào tháng 1 năm 2025.

Trí tuệ nhân tạo tổng quát được xây dựng giống như "tác nhân" có thể tỏ ra nguy hiểm vì những người tạo ra nó có thể mất quyền kiểm soát hệ thống, hai trong số những nhà khoa học AI nổi tiếng nhất thế giới đã chia sẻ.
 
Trong tập mới nhất của podcast "Beyond The Valley" của CNBC được phát hành vào thứ Ba, Max Tegmark, một giáo sư tại Viện Công nghệ Massachusetts và Chủ tịch Viện Tương lai của Sự sống, và Yoshua Bengio, được mệnh danh là một trong những "cha đẻ của AI" và là giáo sư tại Université de Montréal, đã nói về mối quan ngại của họ về trí tuệ nhân tạo tổng quát, hay AGI. Thuật ngữ này thường dùng để chỉ các hệ thống AI thông minh hơn con người.
 
Nỗi sợ hãi của họ bắt nguồn từ các công ty lớn nhất thế giới hiện đang nói về "tác nhân AI" hoặc "AI tác nhân" — mà các công ty tuyên bố sẽ cho phép các chatbot AI hoạt động như trợ lý hoặc tác nhân và hỗ trợ trong công việc và cuộc sống hàng ngày. Các ước tính của ngành về thời điểm AGI sẽ ra đời khác nhau.
 
Theo Bengio, với khái niệm đó, ý tưởng rằng các hệ thống AI có thể có một số "tác nhân" và suy nghĩ riêng của chúng xuất hiện.
 
“Các nhà nghiên cứu AI đã lấy cảm hứng từ trí thông minh của con người để xây dựng trí thông minh của máy móc, và ở con người, có sự kết hợp giữa khả năng hiểu thế giới như trí thông minh thuần túy và hành vi tác nhân, nghĩa là ... sử dụng kiến ​​thức của bạn để đạt được mục tiêu”, Bengio chia sẻ với chương trình “Beyond The Valley”.
 
“Hiện tại, đây là cách chúng ta đang xây dựng AGI: chúng ta đang cố gắng biến chúng thành những tác nhân hiểu biết nhiều về thế giới, sau đó có thể hành động phù hợp. Nhưng thực tế đây là một đề xuất rất nguy hiểm”.
 
Bengio nói thêm rằng theo đuổi cách tiếp cận này cũng giống như “tạo ra một loài mới hoặc một thực thể thông minh mới trên hành tinh này” và “không biết liệu chúng có hành xử theo cách phù hợp với nhu cầu của chúng ta hay không”.
 
“Vì vậy, thay vào đó, chúng ta có thể cân nhắc, những kịch bản nào sẽ diễn ra tồi tệ và tất cả đều phụ thuộc vào tác nhân? Nói cách khác, chính vì AI có mục tiêu riêng nên chúng ta có thể gặp rắc rối”.
 
Bengio cho biết ý tưởng tự bảo vệ cũng có thể phát huy tác dụng khi AI trở nên thông minh hơn.
 
“Chúng ta có muốn cạnh tranh với những thực thể thông minh hơn mình không? Đây không phải là một canh bạc đáng tin cậy, đúng không? Vì vậy, chúng ta phải hiểu cách tự bảo vệ có thể trở thành mục tiêu trong AI”.
 
Công cụ AI là chìa khóa
Đối với Tegmark của MIT, chìa khóa nằm ở cái gọi là “AI công cụ” — các hệ thống được tạo ra cho một mục đích cụ thể, được xác định hẹp, nhưng không nhất thiết phải là tác nhân.
 
Tegmark cho biết AI công cụ có thể là một hệ thống cho bạn biết cách chữa ung thư hoặc thứ gì đó sở hữu “một số tác nhân” như xe tự lái “nơi bạn có thể chứng minh hoặc nhận được một số đảm bảo thực sự cao, thực sự đáng tin cậy rằng bạn vẫn có thể kiểm soát được nó”.
 
“Tôi nghĩ, theo hướng lạc quan ở đây, chúng ta có thể có hầu hết mọi thứ mà chúng ta mong đợi với AI ... nếu chúng ta chỉ cần nhấn mạnh vào một số tiêu chuẩn an toàn cơ bản trước khi mọi người có thể bán các hệ thống AI mạnh mẽ”, Tegmark cho biết. “Họ phải chứng minh rằng chúng ta có thể kiểm soát chúng. Sau đó, ngành công nghiệp sẽ đổi mới nhanh chóng để tìm ra cách thực hiện điều đó tốt hơn”.
 
Viện Tương lai của Sự sống của Tegmark năm 2023 đã kêu gọi tạm dừng phát triển các hệ thống AI có thể cạnh tranh với trí thông minh ở cấp độ con người. Mặc dù điều đó chưa xảy ra, Tegmark cho biết mọi người đang nói về chủ đề này và bây giờ đã đến lúc hành động để tìm ra cách đặt ra các rào cản để kiểm soát AGI.
 
"Vì vậy, ít nhất là bây giờ rất nhiều người đang nói. Chúng ta phải xem liệu chúng ta có thể khiến họ hành động hay không", Tegmark nói với chương trình "Beyond The Valley". "Rõ ràng là con người chúng ta đang điên rồ khi xây dựng một thứ gì đó thông minh hơn chúng ta rất nhiều trước khi chúng ta tìm ra cách kiểm soát nó".
 
Có một số quan điểm về thời điểm AGI sẽ xuất hiện, một phần là do các định nghĩa khác nhau. Giám đốc điều hành của OpenAI, Sam Altman cho biết công ty của ông biết cách xây dựng AGI và cho biết nó sẽ xuất hiện sớm hơn mọi người nghĩ, mặc dù ông đã hạ thấp tác động của công nghệ này. "Tôi đoán là chúng ta sẽ đạt được AGI sớm hơn hầu hết mọi người trên thế giới nghĩ và điều đó sẽ ít quan trọng hơn nhiều", Altman cho biết vào tháng 12.
Singapore cho biết các công ty Hoa Kỳ nên tuân thủ các biện pháp kiểm soát xuất khẩu sau các câu hỏi về chip DeepSeek Vietnet24h - Nhiều câu hỏi đã được đặt ra về nguồn gốc của chất bán dẫn được sử dụng để xây dựng mô hình AI của DeepSeek, do những hạn chế xuất khẩu của Hoa Kỳ.
Trí tuệ nhân tạo: Công cụ đột phá hay mối nguy diệt vong? Vietnet24h - Geoffrey Hinton, “cha đẻ” của AI, đưa ra cảnh báo rằng trí tuệ nhân tạo có thể đe dọa sự tồn tại của nhân loại trong tương lai gần. Mặc dù AI mang đến nhiều lợi ích, nhưng nếu không có sự kiểm soát chặt chẽ, sự phát triển của công nghệ này có thể dẫn đến một thảm họa khôn lường cho toàn thế giới.
Tin khác cùng chuyên mục
Tin đọc nhiều
Sự cố Facebook và lời cảnh tỉnh về rủi ro phụ thuộc vào nền tảng số Vietnet24h - Sau hai ngày hỗn loạn vì loạt nhóm lớn trên Facebook "bay màu" không lý do rõ ràng, cộng đồng mạng Việt Nam có thể tạm thở phào khi các hội nhóm đã được khôi phục. Nhưng phía sau sự phục hồi nhanh chóng đó là những câu hỏi lớn chưa có lời giải – về sự phụ thuộc tuyệt đối vào nền tảng, quyền kiểm soát cộng đồng, và rủi ro ngày càng cao từ những lỗi kỹ thuật “tập trung hóa”.
Phần mềm độc hại SparkKitty: Khi thư viện ảnh trở thành cánh cửa cho tội phạm mạng tấn công ví tiền số Vietnet24h - Sự xuất hiện của SparkKitty – một biến thể mới trong họ trojan SparkCat – đã đánh dấu một bước tiến nguy hiểm trong chiến thuật tấn công mạng. Không chỉ đánh cắp dữ liệu như thông thường, loại mã độc này nhắm đến chính thư viện ảnh cá nhân – một kho lưu trữ tưởng chừng vô hại – để trích xuất những thông tin có thể mở toang cánh cửa vào ví tiền điện tử của nạn nhân.
Lỗ hổng zero-day trên Chrome: Báo động đỏ cho an ninh mạng toàn cầu Vietnet24h - Khi trình duyệt trở thành "cửa ngõ" mặc định để tiếp cận thế giới số, một lỗ hổng zero-day trên Chrome không chỉ đơn thuần là một lỗi kỹ thuật – mà là lời nhắc nghiêm khắc về mức độ mong manh của hệ sinh thái số hiện đại.
Safari và bài toán bảo mật bị bỏ ngỏ: Khi sự im lặng của Apple trở thành rủi ro của người dùng Vietnet24h - Một lỗ hổng trong tính năng toàn màn hình của trình duyệt Safari đang phơi bày hàng triệu người dùng Apple trước những chiến dịch lừa đảo tinh vi. Nhưng điều đáng báo động hơn cả không nằm ở bản thân lỗ hổng – mà ở thái độ có phần thờ ơ của Apple trước cảnh báo từ giới nghiên cứu bảo mật.
Việt Nam vào top 30 thế giới về tốc độ mạng: Nhưng hàng trăm bản làng vẫn mòn mỏi đợi sóng Vietnet24h - Trong khi người dân thành phố tận hưởng Internet 5G tốc độ cao, thì ở Sơn La, hơn 600 thôn bản vẫn chưa có đường truyền mạng. Câu chuyện kết nối số tại Việt Nam vẫn là bức tranh hai mảng sáng – tối, đòi hỏi những hành động quyết liệt hơn từ cơ quan quản lý và doanh nghiệp viễn thông.
Game Pet Samkok chiếm top 1 tại Việt Nam, nổi bật ở Thái Lan và Indonesia Vietnet24h - Chỉ sau một ngày phát hành, Pet Samkok – Báo Thủ 3Q do SohaGame phát triển – đã vươn lên đứng đầu App Store, Google Play tại Việt Nam và được Apple chọn hiển thị nổi bật tại Thái Lan, Indonesia, đánh dấu bước tiến mới của game Việt tại thị trường Đông Nam Á.
CEO của Nvidia, Jensen Huang cho biết Nintendo Switch 2 có bộ xử lý AI chuyên dụng Vietnet24h - CEO của Nvidia, Jensen Huang đã trình bày chi tiết về khả năng của máy chơi game Switch 2 mới của Nintendo.
Lượng tử hóa an ninh mạng: Khi thông tin được bảo vệ bởi định luật vật lý Vietnet24h - Hãy tưởng tượng mỗi tin nhắn bạn gửi được bảo vệ bằng định luật vật lý – không hacker nào có thể đọc trộm, vì chỉ cần nghe lén là… chính họ tự làm sai lệch thông tin. Đó không còn là viễn tưởng, mà là thực tế đang diễn ra tại Trung Quốc, nơi cuộc gọi mã hóa lượng tử đầu tiên vừa được thực hiện nhờ công nghệ bảo mật cấp độ nguyên tử.
Lượng PC xuất xưởng tăng trong quý đầu tiên khi các công ty chuẩn bị cho thuế quan Vietnet24h - Nhiều công ty đã đẩy nhanh quá trình giao hàng để chuẩn bị cho mức thuế quan sắp tới có thể gây áp lực lên thị trường máy tính và thiết bị điện tử đang phục hồi.
Trò chơi Xbox sẽ sớm có trên TV LG thông qua dịch vụ chơi game đám mây Vietnet24h - Theo LG Electronics, gần đây họ đã ký kết một quan hệ đối tác để cung cấp hàng trăm tựa game Xbox cho webOS của LG.
5G cán mốc 2,9 tỷ thuê bao: Bệ phóng cho AI di động và nền kinh tế số Vietnet24h - Mạng 5G không còn là xu hướng mà đã trở thành nền tảng hạ tầng số toàn cầu. Với gần 2,9 tỷ thuê bao vào cuối 2025, công nghệ này đang thúc đẩy sự phát triển của trí tuệ nhân tạo tạo sinh (GenAI), điện toán biên và các dịch vụ số mới – trong đó Việt Nam là thị trường nổi bật tại Đông Nam Á.
Điện thoại Pixel của Google sẵn sàng áp dụng tính năng Now Bar sáng tạo của Samsung Vietnet24h - Google có thể sắp ra mắt một tính năng mới gợi nhớ đến Now Bar của Samsung.
Dịch vụ taxi robot Uber, Waymo mở cửa đón khách tại Atlanta Vietnet24h - Vào thứ Ba, xe taxi robot Waymo đã có mặt tại Atlanta cho người dùng Uber khi hai công ty mở rộng quan hệ đối tác trong lĩnh vực gọi xe tại Hoa Kỳ.
Nhà sản xuất chip điện thoại thông minh lớn cho biết hệ điều hành Huawei mới có thể ảnh hưởng đến doanh số bán hàng của họ Vietnet24h - Công ty sản xuất nhiều chip được sử dụng trong điện thoại thông minh, Công ty Sản xuất Bán dẫn Đài Loan (TSMC) sẽ bị ảnh hưởng trong ngắn hạn bởi lệnh cấm ngăn Huawei tìm nguồn cung ứng linh kiện và phần mềm tại Hoa Kỳ.
Meta sẽ ra mắt kính thông minh với Oakley và Prada, mở rộng quan hệ đối tác với Luxottica Vietnet24h - Meta và EssilorLuxottica có kế hoạch phát hành các phiên bản kính thông minh hỗ trợ AI của họ dưới thương hiệu Oakley và Prada,
Samsung đặt mục tiêu bắt kịp các đối thủ Trung Quốc về điện thoại mỏng có thể gập lại khi Apple tuyên bố tham gia cuộc chơi Vietnet24h - Samsung chuẩn bị ra mắt chiếc điện thoại thông minh có thể gập lại tiếp theo, có thể gọi là Galaxy Fold7, tại một sự kiện vào tháng tới.
Samsung và TSMC đang tạo tiền đề cho cuộc đua khốc liệt trong công nghệ chip 2nm Vietnet24h - Cuộc đua toàn cầu để dẫn đầu thị trường bán dẫn 2 nanomet thế hệ tiếp theo sẽ trở nên khốc liệt hơn vào nửa cuối năm nay, với các nhà máy đúc hàng đầu TSMC và Samsung Electronics chuẩn bị bắt đầu sản xuất hàng loạt.
Motorola và Google thách thức sự thống trị của Samsung Vietnet24h - Nhà sản xuất điện thoại thông minh hàng đầu thế giới không chỉ giành được vị trí hàng đầu trên thị trường điện thoại có thể gập lại ở châu Âu mà còn đang đắm mình trong những lời khen ngợi toàn cầu.
Samsung Electronics áp dụng trợ lý mã hóa AI để tăng năng suất của nhà phát triển Vietnet24h - Samsung Electronics Co. cho biết hôm 8/6 rằng họ sẽ áp dụng dịch vụ trợ lý mã hóa trí tuệ nhân tạo có tên là Cline vào tháng tới để nâng cao năng suất cho các nhân viên phát triển phần mềm của mình.
SK hynix vượt qua Samsung trên thị trường DRAM toàn cầu lần đầu tiên trong quý 1 Vietnet24h - Theo dữ liệu từ công ty nghiên cứu thị trường toàn cầu Omdia, doanh số bán DRAM toàn cầu đạt tổng cộng 26,33 tỷ đô la Mỹ trong giai đoạn từ tháng 1 đến tháng 3, giảm 9 phần trăm so với quý trước, trong bối cảnh giá hợp đồng DRAM giảm và lượng hàng HBM xuất xưởng giảm.
Sự cố pin Anker và hồi chuông cảnh báo về chuỗi cung ứng công nghệ toàn cầu Vietnet24h - Từ Mỹ đến Việt Nam, Anker đang thực hiện thu hồi hàng loạt mẫu pin sạc dự phòng do nghi ngại về an toàn. Dù vấn đề chưa gây hậu quả cụ thể, nhưng sự kiện phản ánh rõ ràng mức độ rủi ro của các chuỗi cung ứng điện tử ngày càng phụ thuộc vào các linh kiện từ khắp nơi trên thế giới – trong đó không phải cái tên nào cũng đáng tin cậy.
Tăng trưởng OLED giảm sút khi thuế quan của Trump đe dọa doanh số bán điện thoại thông minh Vietnet24h - Mối lo ngại đang gia tăng về khả năng chậm lại trong các lô hàng điện thoại thông minh toàn cầu, do chính sách thuế quan leo thang của Tổng thống Hoa Kỳ Donald Trump, điều này có thể làm giảm đà tăng trưởng của ngành công nghiệp màn hình OLED của Hàn Quốc.
Xiaomi 16 lộ diện: Cấu hình "khủng", pin vượt Galaxy S25 gần gấp đôi Vietnet24h - Thông tin rò rỉ cho thấy Xiaomi 16 sẽ sở hữu viên pin 7.000 mAh, vượt trội so với 4.000 mAh trên Galaxy S25. Cộng với chip Snapdragon 8 Gen 4 Elite 2 và hệ thống ba camera 50 MP, đây có thể là flagship Android đáng gờm nhất trong nửa cuối năm nay.
Samsung sẽ ra mắt Galaxy Z Flip 7 và Fold 7 vào tháng 7 tại New York Vietnet24h - Samsung Electronics chuẩn bị ra mắt điện thoại màn hình gập mới vào tháng tới, tự hào với hiệu suất tương đương với mẫu Ultra, mẫu cao cấp nhất của dòng Galaxy S.
Xiaomi dẫn đầu thị trường thiết bị đeo tay toàn cầu, thị phần Apple giảm sút trong quý 1/2025 Vietnet24h - Theo báo cáo của Canalys, Xiaomi ghi nhận mức tăng trưởng 44% doanh số thiết bị đeo tay trong quý đầu năm 2025, qua đó chiếm lĩnh vị trí số 1 thị trường toàn cầu với 19% thị phần, vượt qua Apple – nhà sản xuất vốn thống trị lâu nay với 16%.
Doanh số bán điện thoại di động mang thương hiệu nước ngoài tại Trung Quốc tăng nhẹ vào tháng 4 Vietnet24h - Lượng điện thoại mang thương hiệu nước ngoài được bán ra tại Trung Quốc trong tháng 4 đã tăng lên 3,52 triệu chiếc so với mức 3,50 triệu chiếc của cùng kỳ năm trước.
Lượng iPhone xuất khẩu của Ấn Độ sang Hoa Kỳ tăng vọt ước tính 76%. Vietnet24h - Dữ liệu từ Canalys, hiện là một phần của Omdia, cho thấy số lượng iPhone được vận chuyển từ Ấn Độ đến Mỹ vào tháng 4 đã tăng khoảng 76%, đạt 3.000.000 chiếc.
BYD đánh bại Tesla về doanh số bán xe điện tại Châu Âu bất chấp thuế quan của EU trong 'thời khắc quan trọng' Vietnet24h - Dữ liệu từ JATO Dynamics cho thấy doanh số của BYD tại Châu Âu đã tăng 359% vào tháng 4 so với năm ngoái.
Xuất khẩu điện thoại thông minh của Trung Quốc sang Hoa Kỳ, bao gồm cả iPhone của Apple, giảm xuống mức thấp nhất kể từ năm 2011 Vietnet24h - Xuất khẩu điện thoại thông minh của Trung Quốc giảm 72% xuống chỉ còn dưới 700 triệu đô la Mỹ vào tháng 4, khi chiến dịch áp thuế của Trump làm gián đoạn chuỗi cung ứng công nghệ.
LG và Samsung đối đầu trên thị trường TV di động đang phát triển Vietnet24h - LG dẫn đầu thị trường TV di động trước những thách thức mới.