Kinh tế
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Cổ phiếu Super Micro giảm do kế hoạch chào bán trái phiếu chuyển đổi trị giá 2 tỷ đô la Vietnet24h - Cổ phiếu của Super Micro Computer đã giảm vào thứ Hai sau khi nhà sản xuất máy chủ này công bố kế hoạch phát hành trái phiếu chuyển đổi trị giá 2 tỷ đô la.
Cổ phiếu AMD tăng 9% sau khi các nhà phân tích kỳ vọng một sự 'phục hồi' cho nhà sản xuất chip Vietnet24h - Đó là thời điểm các nhà phân tích kỳ vọng nhà sản xuất chip này sẽ phải chịu phần lớn khoản phí 800 triệu đô la mà AMD cho biết sẽ phải chịu do xuất khẩu sang Trung Quốc.
Cổ phiếu SK Hynix tăng vọt lên mức cao nhất trong hơn 2 thập kỷ Vietnet24h - Cổ phiếu của SK Hynix của Hàn Quốc đã mở rộng mức tăng lên mức cao nhất trong hơn 2 thập kỷ vào thứ Ba. Công ty mẹ của công ty, SK Group, được cho là có kế hoạch xây dựng trung tâm dữ liệu AI hợp tác với Amazon Web Services tại Ulsan.
Thế giới có thể phải đối mặt với một "cú sốc Trung Quốc" khác, nhưng nó cũng đi kèm với một tia hy vọng Vietnet24h - Sự gia tăng sản xuất của Trung Quốc đang lan rộng khắp thị trường toàn cầu, gây lo ngại ở châu Á rằng làn sóng nhập khẩu giá rẻ có thể gây sức ép lên các ngành công nghiệp địa phương.
Cổ phiếu của Microsoft đạt kỷ lục mới, giành lại vị trí công ty có giá trị vốn hóa lớn nhất thế giới Vietnet24h - Cổ phiếu Microsoft đã đạt mức kỷ lục đầu tiên vào thứ năm kể từ tháng 7 năm 2024.
Cổ phiếu Tesla tăng 22% vào tháng 5 khi Elon Musk kết thúc thời gian với DOGE của Trump Vietnet24h - Cổ phiếu của hãng sản xuất ô tô Tesla do Elon Musk đứng đầu đã tăng giá vào tháng 5 mặc dù doanh số bán ô tô của công ty tại Trung Quốc và Châu Âu không mấy khả quan.
Apple, Huawei, Xiaomi dẫn đầu bảng xếp hạng 500 thương hiệu tiêu dùng hàng đầu của Trung Quốc Vietnet24h - Theo báo cáo của Đại học Bắc Kinh, bảng xếp hạng này dựa trên hành vi mua sắm trực tuyến của người tiêu dùng trong nước
Cổ phiếu Sony tăng trong phiên giao dịch đầy biến động khi nhà sản xuất PlayStation công bố mua lại cổ phiếu trị giá 1,7 tỷ đô la Vietnet24h - Thu nhập hoạt động trong ba tháng cuối năm tài chính đạt 203,6 tỷ yên, vượt qua ước tính trung bình của các nhà phân tích là 192,2 tỷ yên, mặc dù giảm 11% so với cùng kỳ năm ngoái.
Cổ phiếu Nvidia tăng sau báo cáo Trump sẽ chấm dứt lệnh hạn chế xuất khẩu chip Vietnet24h - Cổ phiếu Nvidia tăng sau báo cáo cho biết chính quyền Trump có kế hoạch sửa đổi một loạt các hạn chế về thương mại chip được gọi là quy tắc “khuyến khích AI”.
Cổ phiếu Arm giảm do dự báo yếu Vietnet24h - Arm đạt được doanh thu và lợi nhuận cao nhưng lại đưa ra dự báo đáng thất vọng trong báo cáo quý vào thứ Tư (7/5).
Tòa án tối cao sẽ đưa ra phán quyết cuối cùng về Chủ tịch Samsung Lee vào ngày 17 tháng 7 Vietnet24h - Phán quyết, dự kiến ​​vào ngày 17 tháng 7, được đưa ra bốn năm 10 tháng sau khi Lee lần đầu tiên bị đưa ra xét xử và khoảng năm tháng sau khi tòa phúc thẩm giữ nguyên phán quyết tuyên trắng án của ông.
Meta thắng kiện bản quyền AI, nhưng thẩm phán cho biết những người khác có thể khởi kiện Vietnet24h - Vào thứ Tư, Meta đã thắng thế trước một nhóm gồm 13 tác giả, bao gồm Sarah Silverman và Ta-Nehisi Coates, trong một vụ kiện bản quyền lớn liên quan đến mô hình trí tuệ nhân tạo Llama của công ty.
Amazon tuyên bố AI sẽ giúp cắt giảm nhân sự trong vài năm tới Vietnet24h - CEO Andy Jassy cho biết công ty sẽ đẩy mạnh ứng dụng AI tạo sinh và các tác nhân thông minh nhằm tăng hiệu suất, đồng thời giảm nhu cầu nhân lực trong thời gian tới. Động thái này phản ánh làn sóng tự động hóa đang ảnh hưởng sâu sắc tới thị trường lao động công nghệ.
Chính phủ Anh phân bổ nhiều tiền hơn cho nguồn nhân lực bán dẫn Vietnet24h - Chính phủ Anh đã xác nhận kế hoạch phân bổ thêm 35 triệu bảng Anh cho chương trình mở rộng nhân tài bán dẫn.
Apple Ấn Độ đặt mục tiêu tuyển dụng 5.000 nhân viên cho cơ sở ở Hyderabad Vietnet24h - Apple đã tuyển dụng 3.500 người cho trung tâm phát triển của họ tại đây và dự kiến ​​sẽ nâng con số này lên 5.000 người, một viên chức cấp cao của Chính phủ Telangana cho biết.
Trump gia hạn thời hạn TikTok lần thứ ba, lùi quyết định thêm 90 ngày nữa Vietnet24h - Tổng thống Donald Trump có kế hoạch một lần nữa gia hạn thời hạn yêu cầu ByteDance của Trung Quốc phải thoái vốn khỏi hoạt động kinh doanh của TikTok tại Hoa Kỳ hoặc sẽ bị cấm tại quốc gia này.
Tai nạn máy bay Air India: Những điều cần biết về thảm kịch chết người đầu tiên của Boeing Dreamliner Vietnet24h - Chuyến bay 171 của Air India đã bị rơi vào thứ năm ngay sau khi cất cánh từ Ahmedabad, Ấn Độ, trên đường đến London.
Vụ cá cược AI lớn nhất của CEO Meta Vietnet24h - Để hoàn tất thỏa thuận đầu tư 14 tỷ đô la vào Scale AI, Mark Zuckerberg của Meta đang thuê người đồng sáng lập Alexandr Wang để giúp công ty truyền thông xã hội này thực hiện tốt hơn tham vọng về AI của mình.
Trung Quốc siết AI trong kỳ thi đại học: Bảo vệ công bằng hay giới hạn đổi mới? Vietnet24h - Kỳ thi Cao khảo (kỳ thi đại học) tại Trung Quốc, được tổ chức từ ngày 7 đến 10 tháng 6, không chỉ là một cuộc thử thách trí tuệ mà còn là nơi các cơ quan giáo dục và chính quyền thể hiện sự kiểm soát nghiêm ngặt đối với công nghệ, đặc biệt là trí tuệ nhân tạo (AI). Việc các hãng công nghệ Trung Quốc khóa hoặc hạn chế tính năng AI trong suốt kỳ thi đã dấy lên một cuộc tranh luận sâu sắc về sự công bằng, sáng tạo và tính kiểm soát trong giáo dục.
Cuộc đấu khẩu giữa Trump và Musk gây ra phản ứng từ các tỷ phú, chính trị gia và chuyên gia Vietnet24h - Trump đe dọa sẽ rút lại hàng tỷ đô la trong các hợp đồng của chính phủ dành cho Musk.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.