Xã hội
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Hyundai có thể phải chịu thiệt hại 8,4 nghìn tỷ won do thuế quan của Hoa Kỳ Vietnet24h - Theo báo cáo do NICE Investors Service công bố hôm thứ Tư tuần này, Tập đoàn Hyundai Motor có thể phải đối mặt với gánh nặng thuế quan hàng năm khoảng 8,4 nghìn tỷ won (5,9 tỷ USD) nếu Mỹ duy trì mức thuế nhập khẩu 25% hiện tại đối với ô tô Hàn Quốc.
Cổ phiếu Oracle Giảm 7% Khi Các Nhà Đầu Tư Hoài Nghi Về Mục Tiêu AI Tham Vọng Vietnet24h - Oracle dự báo doanh thu từ trí tuệ nhân tạo (AI) đạt 20 tỷ USD vào năm tài chính 2030, tăng mạnh từ 3 tỷ USD trong năm tài chính 2026.
CEO Oracle Magouyrk: 'Tất nhiên' OpenAI có thể trả 60 tỷ đô la mỗi năm cho cơ sở hạ tầng đám mây Vietnet24h - Một trong hai CEO mới được bổ nhiệm của Oracle, Clay Magouyrk, chia sẻ với David Faber của CNBC rằng ông tin tưởng OpenAI sẽ có khả năng chi trả cho cơ sở hạ tầng đám mây mà công ty này sử dụng.
Cổ phiếu Xiaomi lao dốc sau vụ tai nạn chết người liên quan đến SU7, làm dấy lên lo ngại về an toàn Vietnet24h - Xiaomi, gã khổng lồ công nghệ Trung Quốc, đã chứng kiến cổ phiếu của mình giảm mạnh, mất tới 8,7% trên Sàn Giao dịch Chứng khoán Hồng Kông vào thứ Hai, đánh dấu mức giảm sâu nhất kể từ tháng Tư.
Rocket Lab đạt mức tăng 14% trong tuần này sau hàng loạt giao dịch ra mắt mới Vietnet24h - Cổ phiếu Rocket Lab đã tăng 14% trong tuần qua sau khi công bố các thỏa thuận ra mắt mới.
Cổ phiếu AMD tiếp tục tăng giá sau thương vụ mua lại OpenAI Vietnet24h - Cổ phiếu AMD tăng 11% vào thứ Tư, nâng mức tăng trong tuần này lên 43%.
Dell Tăng Dự Báo Tăng Trưởng Doanh Thu Dài Hạn, Cổ Phiếu Vọt Lên Vietnet24h - Cổ phiếu Dell Technologies tăng 3,5% sau khi công ty nâng dự báo tăng trưởng doanh thu và lợi nhuận dài hạn.
Cú sốc AI: Nhà cung cấp Apple Luxshare “bùng nổ” 10% cổ phiếu nhờ thỏa thuận “khủng” với OpenAI! Vietnet24h - Cổ phiếu Luxshare Precision tăng vọt 10% chỉ trong một phiên giao dịch thứ Hai (22/9), đẩy mức tăng năm nay lên con số “khủng” 55% – tất cả nhờ tin đồn “nóng hổi” về hợp đồng sản xuất thiết bị AI dành cho người dùng với OpenAI.
Cổ phiếu Tesla xóa sạch khoản lỗ trong năm, tăng vọt 85% so với mức thấp nhất hồi tháng 4 Vietnet24h - Kể từ khi chạm đáy vào tháng 4, sau kế hoạch áp dụng mức thuế quan mới của Tổng thống Trump, cổ phiếu này đã tăng 85%.
Giám đốc Google Cloud chia sẻ chi tiết cách gã khổng lồ tìm kiếm kiếm được hàng tỷ đô la từ các sản phẩm AI của mình Vietnet24h - Hôm thứ Ba, giám đốc mảng điện toán đám mây của Google, Thomas Kurian đã giải thích cách gã khổng lồ công nghệ này đang kiếm tiền từ nhiều dịch vụ trí tuệ nhân tạo khác nhau để tạo ra doanh thu.
Nexperia China yêu cầu nhân viên phớt lờ chỉ đạo từ trụ sở Hà Lan giữa lằn ranh căng thẳng địa chính trị Vietnet24h - Trong một động thái gây sốc, Nexperia China, chi nhánh tại Trung Quốc của hãng sản xuất chip Hà Lan Nexperia, đã yêu cầu nhân viên chỉ tuân theo chỉ đạo từ ban quản lý địa phương và phớt lờ các hướng dẫn từ trụ sở chính tại Nijmegen, Hà Lan.
OpenAI không muốn làm ‘cảnh sát đạo đức’ sau tranh cãi về nội dung nhạy cảm trên ChatGPT Vietnet24h - Giám đốc điều hành OpenAI, Sam Altman, tuyên bố công ty không phải là “cảnh sát đạo đức của thế giới” sau phản ứng dữ dội về việc cho phép nội dung như văn hóa phẩm khiêu dâm trên ChatGPT.
Qualcomm Thừa Nhận Vi Phạm Quy Định Chống Độc Quyền của Trung Quốc Trong Thương Vụ Mua Autotalks Vietnet24h - Nhà sản xuất chip bán dẫn hàng đầu của Mỹ, Qualcomm, vừa thừa nhận không thông báo cho cơ quan quản lý thị trường Trung Quốc khi hoàn tất thương vụ mua lại công ty thiết kế chip Israel Autotalks vào tháng 6/2025.
Jensen Huang cho biết những thay đổi về visa H-1B của Trump sẽ ngăn cản gia đình ông nhập cư Vietnet24h - Giám đốc điều hành Nvidia, Jensen Huang, cho biết gia đình ông sẽ không thể nhập cư vào Hoa Kỳ theo chính sách hiện tại của Trump.
LG Innotek hoàn thành nhà máy sản xuất module camera mới tại Việt Nam Vietnet24h - V3 tại Hải Phòng đã đi vào hoạt động,
Apple Gỡ Ứng Dụng Theo Dõi ICE Sau Áp Lực Từ Chính Quyền Trump Vietnet24h - Apple đã tuyên bố gỡ bỏ ứng dụng ICEBlock và các ứng dụng tương tự theo dõi hoạt động của Cục Thực thi Di trú và Hải quan Hoa Kỳ (ICE) khỏi App Store, sau khi nhận được yêu cầu từ chính quyền Tổng thống Donald Trump.
Amazon Đối Mặt Điều Tra Sau Vụ Hai Drone Giao Hàng Đâm Vào Cần Cẩu Tại Arizona Vietnet24h - Tham vọng giao hàng bằng drone của Amazon vừa gặp cú sốc lớn khi hai drone MK30 của chương trình Prime Air đâm thẳng vào một cần cẩu xây dựng tại Tolleson, Arizona, khiến dịch vụ drone tại khu vực này bị tạm dừng và các cơ quan liên bang vào cuộc điều tra.
Google cắt giảm hơn 100 vai trò liên quan đến thiết kế trong đơn vị đám mây Vietnet24h - Google đã sa thải hơn 100 nhân viên khỏi các vai trò thiết kế trong đơn vị đám mây của công ty.
Theo Bộ trưởng Thương mại Mỹ Lutnick: Đài Loan Nên Chỉ Sản Xuất 50% Chip Cho Thị Trường Mỹ Vietnet24h - Bộ trưởng Thương mại Mỹ Howard Lutnick kêu gọi Đài Loan chuyển hướng đầu tư và sản xuất chip sang Mỹ để đạt mức 50% sản xuất nội địa, nhằm giảm phụ thuộc vào hòn đảo này và tăng cường an ninh quốc gia.
YouTube "chảy máu" 24,5 TRIỆU USD bồi thường Trump vì dám "cấm cửa" kênh sau bạo loạn Capitol! Vietnet24h - Kênh YouTube đồng ý “phá két” chi tới 24,5 triệu USD để dàn xếp vụ kiện “nóng bỏng” liên quan đến việc đình chỉ kênh của ông sau vụ bạo loạn đẫm máu tại Điện Capitol ngày 6/1/2021.
Khám phá những kiệt tác nổi tiếng của Henri Matisse, Salvador Dalí và Mark Rothko trên Samsung Art Store Vietnet24h - Samsung Electronics công bố bổ sung 15 tác phẩm nghệ thuật mới từ Tate vào Samsung Art Store.
ChatGPT, Claude, Gemini... lần đầu tiên tham dự thi đấu cờ vua Vietnet24h - Không còn là những chuyên gia viết luận hay trả lời phỏng vấn, các chatbot nổi tiếng lần đầu thi đấu cờ vua như những kỳ thủ thực thụ. Nhưng khi “bộ não ngôn ngữ” bước vào bàn cờ chiến thuật, chuyện đi sai luật hay “mắc bẫy ngớ ngẩn” là điều khó tránh khỏi.
Sự trỗi dậy của những “kỹ sư sân cỏ”: Khi chuyển nhượng bóng đá không còn là canh bạc cảm tính Vietnet24h - Trong suốt nhiều thập kỷ, các thương vụ chuyển nhượng cầu thủ thường được định đoạt bởi trực giác, mạng lưới cá nhân của giới tuyển trạch, hay đơn giản chỉ là tên tuổi và phong độ hiện tại của một cầu thủ. Nhưng bóng đá đang chuyển mình mạnh mẽ. Và ở thời điểm mà dữ liệu thống kê, trí tuệ nhân tạo và học máy ngày càng định hình cách chơi và cách mua bán, một “kỹ sư Microsoft” như Sudarshan Gopaladesikan trở thành biểu tượng cho một hình mẫu hoàn toàn mới: chuyên gia phân tích dữ liệu như mắt thần trong bóng tối, người biến canh bạc cảm tính thành chiến lược khoa học.
Bill Gates cho biết việc Trump cắt giảm ngân sách của USAID là vô cùng tàn khốc: 'Vẫn chưa quá muộn để đảo ngược chúng' Vietnet24h - Bill Gates cho biết tác động của việc Tổng thống Donald Trump cắt giảm USAID là "thảm khốc" nhưng có thể ngăn chặn được.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.