Văn hóa - Thể thao
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Cổ phiếu của Tencent giảm hơn 5% tại Hồng Kông sau khi Hoa Kỳ chỉ định công ty này là một công ty quân sự Trung Quốc Vietnet24h - Chứng chỉ lưu ký của Tencent tại Hoa Kỳ đã giảm khoảng 8% chỉ sau một đêm.
Foxconn vượt qua ước tính với doanh thu kỷ lục trong quý IV nhờ nhu cầu về AI Vietnet24h - Doanh thu của đơn vị lắp ráp iPhone lớn nhất của Apple đã tăng 15,2% lên 2,13 nghìn tỷ đô la Đài Loan (64,72 tỷ đô la), Foxconn cho biết trong một tuyên bố vào Chủ Nhật.
Huawei trỗi dậy, Apple chật vật: Doanh số iPhone tại Trung Quốc sụt giảm nặng nề Vietnet24h - Từ vị thế dẫn đầu, Apple đang bị Huawei vượt mặt tại Trung Quốc sau khi doanh số iPhone giảm liên tiếp trong bốn tháng qua, gây áp lực lớn lên chiến lược kinh doanh của hãng.
Giá trị thị trường của Nvidia tăng 2 nghìn tỷ đô la vào năm 2024 nhờ sự phục hồi của AI Vietnet24h - Nvidia nổi lên là công ty có mức tăng vốn hóa thị trường lớn nhất toàn cầu trong năm 2024, được thúc đẩy bởi sự quan tâm ngày càng tăng đối với trí tuệ nhân tạo và nhu cầu mạnh mẽ đối với các chip tập trung vào AI của công ty trong nhiều ngành công nghiệp khác nhau.
Nvidia hoàn tất thương vụ mua lại Run:ai trị giá 700 triệu đô la Vietnet24h - Nhà sản xuất chip Nvidia đã hoàn tất việc mua lại công ty AI Run:ai của Israel, công ty khởi nghiệp này cho biết vào thứ Hai, sau khi bị kiểm tra chống độc quyền về vụ mua lại này.
Tesla đảo ngược đà giảm để tăng giá trong một tuần biến động đối với cổ phiếu EV Vietnet24h - Cổ phiếu Tesla tăng giá vào thứ sáu (20/12), đảo ngược mức giảm của đầu ngày.
Nvidia rơi sâu hơn vào vùng điều chỉnh, Broadcom đảo ngược mức tăng Vietnet24h - Cổ phiếu Nvidia giảm vào thứ Ba, trong khi cổ phiếu Broadcom cũng giảm nhẹ sau khi tăng lúc đầu.
Broadcom đạt định giá nghìn tỷ đô la nhờ dự báo lạc quan về nhu cầu AI Vietnet24h - Broadcom dự đoán nhu cầu về chip hỗ trợ AI sẽ tăng mạnh - và thị trường hiện đang mua hết.
Cổ phiếu Meta tăng do lệnh cấm TikTok tiềm tàng tại Hoa Kỳ, đóng cửa ở mức kỷ lục cùng mức với Amazon Vietnet24h - Cổ phiếu Meta tiếp tục đà tăng vào thứ Sáu, tăng 2,4% và đóng cửa ở mức kỷ lục sau khi tòa án duy trì luật yêu cầu ByteDance bán hoạt động kinh doanh TikTok tại Hoa Kỳ.
Ô tô Nhật Bản gặp khó: Cạnh tranh gay gắt và lợi nhuận sụt giảm mạnh Vietnet24h - Sự sụt giảm 57% lợi nhuận của bảy hãng xe lớn Nhật Bản phản ánh một thị trường ô tô đang gặp phải không ít khó khăn. Các hãng xe hàng đầu như Toyota và Nissan đang đối mặt với không chỉ thách thức từ chi phí mà còn với áp lực cạnh tranh khốc liệt từ xe điện Trung Quốc.
Trump và Musk: Cùng đấu tranh bảo vệ lao động công nghệ qua thị thực H-1B Vietnet24h - Cựu Tổng thống Donald Trump và tỷ phú Elon Musk đã cùng nhau đưa ra lập trường mạnh mẽ về thị thực H-1B, cho rằng chương trình này không chỉ mang lại lợi ích cho các công ty công nghệ mà còn thúc đẩy sự phát triển của nền kinh tế Mỹ.
Sự thật phía sau hầm ngầm của Mark Zuckerberg ở Hawaii Vietnet24h - Mark Zuckerberg bác bỏ tin đồn về “hầm trú ẩn tận thế” tại khu phức hợp 567 hecta ở Hawaii. Tuy nhiên, các chi tiết về công trình như cửa thép, hệ thống cách âm và trang trại tự cung tự cấp khiến nhiều người đặt câu hỏi.
Vụ tai nạn máy bay Jeju Air gây ra trò đổ lỗi giữa hãng hàng không và Boeing Vietnet24h - Vụ tai nạn chết người của một máy bay chở khách của Jeju Air đã gây ra tranh cãi về việc liệu hãng hàng không giá rẻ (LCC) hay Boeing, nhà sản xuất máy bay 737-800 xấu số, phải chịu trách nhiệm lớn hơn.
Cuộc tấn công mạng quy mô lớn của Nga vào hệ thống đăng ký quốc gia Ukraine Vietnet24h - Một cuộc tấn công mạng quy mô lớn của Nga vào hệ thống đăng ký quốc gia Ukraine đã làm gián đoạn các dịch vụ công quan trọng. Chính phủ Ukraine đang khẩn trương khôi phục và bảo vệ các cơ sở hạ tầng để đối phó với các mối đe dọa mạng trong tương lai.
Jeju Air sẽ phải đối mặt với các cuộc thanh tra an toàn nghiêm ngặt do liên tục gặp sự cố về bánh đáp Vietnet24h - Hãng hàng không này đang trong quá trình điều tra về vụ tai nạn của chuyến bay 7C2216, chuyến bay này đã chệch khỏi đường băng khi hạ cánh bằng bụng và đâm vào hàng rào tại Sân bay quốc tế Muan ở Quận Muan, cách Seoul khoảng 290 km về phía tây nam.
Quyền Tổng thống Hàn Quốc tuyên bố quốc tang vì vụ tai nạn máy bay Muan Vietnet24h - Quyền Tổng thống Hàn Quốc Choi Sang-mok hôm Chủ Nhật đã công bố thời gian quốc tang cho vụ tai nạn máy bay thảm khốc khiến ít nhất 177 người thiệt mạng, với hai người vẫn mất tích.
Hàn Quốc hứng chịu vụ tai nạn máy bay chết người đầu tiên sau 11 năm Vietnet24h - Kể từ vụ hạ cánh khẩn cấp năm 2013 của chuyến bay Asiana Airlines tại San Francisco, các hãng hàng không Hàn Quốc vẫn không có vụ tai nạn chết người nào cho đến Chủ Nhật (29/12).
Hơn 50.000 thiết bị Ruijie Networks đối mặt với nguy cơ bảo mật nghiêm trọng Vietnet24h - Một loạt lỗ hổng bảo mật vừa được phát hiện trên nền tảng đám mây của Ruijie Networks, khiến hàng nghìn thiết bị kết nối đám mây gặp rủi ro cao. Các chuyên gia cảnh báo rằng nếu những lỗ hổng này bị khai thác, chúng có thể gây ra thiệt hại lớn cho người dùng trên toàn cầu.
LG Electronics được niêm yết trên Chỉ số phát triển bền vững Thế giới Down Jones năm thứ 13 Vietnet24h - LG Electronics đã được niêm yết trên Dow Jones Sustainability Index World trong năm thứ 13 liên tiếp, công ty thông báo hôm thứ Ba.
Tổng thống đắc cử Donald Trump ủng hộ việc cho phép TikTok ở lại Hoa Kỳ trong một thời gian ngắn Vietnet24h - Thượng viện Hoa Kỳ đã thông qua một đạo luật vào tháng 4 yêu cầu công ty mẹ của TikTok tại Trung Quốc, ByteDance, phải thoái vốn khỏi ứng dụng này, với lý do lo ngại về an ninh quốc gia.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.
Tùng Tán Lâm - Vẻ đẹp thiêng liêng giữa lòng Shangri-La Vietnet24h - Đối với những tín đồ đam mê du lịch tâm linh, tu viện Tùng Tán Lâm (Songzanlin) là một điểm đến không thể bỏ qua. Những người từng đặt chân đến Shangri-la đều khẳng định đây là một trong những tu viện đáng ghé thăm nhất trên thế giới.
Galaxy S24 của Samsung sẽ phát trực tiếp lễ khai mạc Thế vận hội Paris Vietnet24h - Samsung, đối tác chính thức của các sự kiện Olympic và Paralympic toàn cầu, đã thông báo rằng họ sẽ lắp đặt hơn 200 chiếc điện thoại thông minh hiện đại nhất của mình ở mũi và hai bên của mỗi chiếc trong số 85 chiếc tàu sẽ chở 10.500 vận động viên khi bơi trên mặt nước. xuôi sông Seine trong cuộc diễu hành khai mạc Thế vận hội.
Euro 2024: Những dự đoán sắc bén từ AI Vietnet24h - Trong bối cảnh Euro 2024 đang diễn ra, các mô hình AI từ khắp nơi trên thế giới đã bắt đầu "tranh tài", đưa ra những dự đoán thú vị về kết quả của giải đấu.
Starlink - Sự hiện diện đột phá trong cuộc sống của bộ tộc Marubo Vietnet24h - Với sự đổ bộ của dự án Internet vệ tinh Starlink vào vùng Amazon, bộ tộc Marubo đã chứng kiến một sự hiện diện đột phá trong cuộc sống hàng ngày. Sự kết nối này không chỉ mở ra cánh cửa cho tiềm năng mới, mà còn đem lại những thách thức và cơ hội cho bộ tộc.