Tài chính, Kinh doanh
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Ô tô Nhật Bản gặp khó: Cạnh tranh gay gắt và lợi nhuận sụt giảm mạnh Vietnet24h - Sự sụt giảm 57% lợi nhuận của bảy hãng xe lớn Nhật Bản phản ánh một thị trường ô tô đang gặp phải không ít khó khăn. Các hãng xe hàng đầu như Toyota và Nissan đang đối mặt với không chỉ thách thức từ chi phí mà còn với áp lực cạnh tranh khốc liệt từ xe điện Trung Quốc.
Sự sụt giảm 45% của Super Micro trong tuần này đã xóa sạch mức tăng của cổ phiếu trong năm Vietnet24h - Đợt bán tháo cổ phiếu Super Micro tiếp tục diễn ra vào thứ Sáu, khi giá cổ phiếu giảm thêm 10%, nâng mức lỗ trong tuần lên 44%.
Samsung Electronics công bố doanh thu quý 3 cao kỷ lục, nhưng doanh thu ộ phận bán dẫn vẫn yếu Vietnet24h - Samsung Electronics đã ghi nhận doanh thu quý cao nhất từ ​​trước đến nay trong quý 3 năm nay, mặc dù lợi nhuận trong lĩnh vực bán dẫn (DS) chậm chạp do chi phí một lần tăng.
Cổ phiếu Tesla đóng cửa ở mức cao nhất trong vòng 13 tháng gần đây Vietnet24h - Sau ngày giao dịch tốt nhất của Tesla trên thị trường kể từ năm 2013, cổ phiếu này đã tăng hơn 3% vào thứ Sáu, đóng cửa ở mức cao nhất kể từ tháng 9 năm ngoái.
SK Hynix công bố lợi nhuận quý kỷ lục nhờ sự bùng nổ chip AI Vietnet24h - Lợi nhuận hoạt động trong quý 3 đạt mức kỷ lục 7,03 nghìn tỷ won (5,08 tỷ đô la), vượt qua dự báo 6,8 nghìn tỷ won của LSEG và phục hồi sau khoản lỗ 1,8 nghìn tỷ won trong cùng kỳ năm ngoái.
Cổ phiếu bán dẫn châu Á tăng sau khi cổ phiếu của Nvidia, công ty chip AI được yêu thích, đạt mức cao kỷ lục Vietnet24h - Giá cổ phiếu tăng của Nvidia vào thứ Hai đã nâng giá trị thị trường của công ty lên 3,4 nghìn tỷ đô la, vượt qua Microsoft để trở thành công ty có giá trị thứ hai trên Phố Wall và chỉ thấp hơn một chút so với mức định giá khoảng 3,55 nghìn tỷ đô la của Apple.
LG Electronics chứng kiến ​​lợi nhuận giảm 20% mặc dù doanh thu đạt kỷ lục Vietnet24h - Lợi nhuận của LG Electronics trong quý 3 giảm mạnh mặc dù cũng ghi nhận con số doanh thu cao nhất trong quý.
Cổ phiếu Nvidia tăng 25% trong tháng qua Vietnet24h - Cổ phiếu của Nvidia đã tăng 25% trong tháng qua và đang tiến gần đến mức cao kỷ lục khi mùa báo cáo thu nhập của các công ty công nghệ đang đến gần.
Thu nhập quý 3 của Samsung Electronics thấp hơn kỳ vọng của thị trường Vietnet24h - Hôm thứ Ba (7/10), Samsung Electronics dự báo lợi nhuận hoạt động trong quý 3 của mình sẽ giảm xuống dưới kỳ vọng của thị trường do nhu cầu chip cho điện thoại thông minh yếu và chi phí một lần.
Foxconn vượt bậc doanh thu quý III, hướng tới quý IV đầy hứa hẹn Vietnet24h - Trong bối cảnh nhu cầu trí tuệ nhân tạo gia tăng, Foxconn đã công bố kết quả kinh doanh quý III vượt xa kỳ vọng với mức doanh thu kỷ lục 1,85 nghìn tỷ Đài tệ. Các nhà phân tích dự đoán công ty sẽ tiếp tục đà tăng trưởng mạnh mẽ trong những tháng tới.
Elon Musk và Ramaswamy sẽ lãnh đạo nhóm hiệu quả của chính phủ Vietnet24h - Tổng thống đắc cử Donald Trump cho biết hôm thứ Ba rằng Elon Musk và cựu ứng cử viên tổng thống đảng Cộng hòa Vivek Ramaswamy sẽ lãnh đạo một văn phòng hiệu quả.
Bắt buộc xác thực số điện thoại cho tài khoản mạng xã hội tại Việt Nam từ 25/12 Vietnet24h - Từ cuối năm 2024, người dùng mạng xã hội tại Việt Nam sẽ phải xác thực tài khoản bằng số điện thoại di động. Nghị định 147/2024/NĐ-CP của Chính phủ không chỉ nhằm bảo vệ người dùng khỏi rủi ro lừa đảo và thông tin giả mạo, mà còn nâng cao trách nhiệm của các nền tảng trong việc bảo vệ trẻ em trên không gian mạng.
TSMC "đóng cửa" nguồn cung chip cao cấp cho Trung Quốc: áp lực từ lệnh trừng phạt Mỹ Vietnet24h - Với việc ngừng cung cấp chip tiên tiến cho các đối tác Trung Quốc, TSMC muốn giữ an toàn trước quy định kiểm soát của Mỹ, sau khi chip của họ bị phát hiện trong thiết bị Huawei. Động thái này có thể làm ảnh hưởng lớn đến ngành công nghệ Trung Quốc.
Tăng tốc toàn cầu hóa: doanh nghiệp Việt đẩy mạnh hợp tác với nhà máy Trung Quốc Vietnet24h - Trong bối cảnh nền kinh tế toàn cầu đang chuyển mình mạnh mẽ, doanh nghiệp Việt Nam đã quyết định gia tăng tốc độ tham gia vào dòng chảy toàn cầu hóa bằng cách thiết lập những mối quan hệ hợp tác chiến lược với các nhà máy Trung Quốc. Sự kiện hợp tác gần đây đã mở ra nhiều cơ hội mới cho các doanh nghiệp Việt, từ việc tối ưu hóa chi phí sản xuất đến tiếp cận nguồn hàng chất lượng cao, qua đó nhanh chóng tạo dựng được vị thế trên thị trường quốc tế.
Cuộc khủng hoảng phúc lợi tại Thung lũng Silicon Vietnet24h - Năm 2021 đánh dấu sự chuyển mình của Thung lũng Silicon, khi các đặc quyền mà nhân viên công nghệ từng được chiều chuộng giờ đây trở thành vấn đề đau đầu cho các công ty. Những vụ việc lạm dụng phúc lợi khiến nhiều nhân viên phải đối diện với hệ quả nghiêm trọng.
AI tại Google viết mã chiếm 25%: Cơ hội hay thách thức cho lập trình viên? Vietnet24h - Google đang tiên phong trong việc ứng dụng AI vào lập trình, với hơn một phần tư mã nguồn mới được tạo bởi trí tuệ nhân tạo. Nhưng liệu sự phát triển này có đẩy lập trình viên vào thế khó?
Vingroup ra mắt quỹ đầu tư VinVentures Vietnet24h - Ngày 28/10/2024, Tập đoàn Vingroup công bố ra mắt quỹ đầu tư VinVentures, với tổng tài sản quản lý là 150 triệu đô la Mỹ.
TSMC bị nghi ngờ vi phạm lệnh cấm vận khi chip xuất hiện trong thiết bị của Huawei Vietnet24h - Một báo cáo nội bộ cho thấy chip của TSMC đang được sử dụng trong máy chủ AI của Huawei. Vụ việc đặt ra nghi vấn về khả năng vi phạm lệnh cấm vận của Mỹ và thu hút sự chú ý từ giới chức Mỹ.
Studio game AAA của Netflix đóng cửa: Ngành công nghiệp game chao đảo Vietnet24h - Quyết định đóng cửa studio phát triển game AAA của Netflix tại Los Angeles sau hai năm hoạt động đã khiến nhiều người bất ngờ. Trong bối cảnh công ty đang tái cấu trúc, động thái này không chỉ ảnh hưởng đến nhân viên mà còn gợi lên những câu hỏi về tương lai của mảng game của Netflix.
Cuộc chiến công nghệ Mỹ-Trung sẽ nóng lên bất kể Trump hay Harris thắng Vietnet24h - Cuộc chiến công nghệ giữa Hoa Kỳ và Trung Quốc chắc chắn sẽ nóng lên bất kể ứng cử viên Cộng hòa Donald Trump hay Phó Tổng thống Kamala Harris giành chiến thắng trong cuộc bầu cử tổng thống Hoa Kỳ vào ngày 5 tháng 11, với đảng Dân chủ có khả năng đưa ra các quy tắc mới có mục tiêu và Trump có cách tiếp cận thẳng thắn hơn.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.
Tùng Tán Lâm - Vẻ đẹp thiêng liêng giữa lòng Shangri-La Vietnet24h - Đối với những tín đồ đam mê du lịch tâm linh, tu viện Tùng Tán Lâm (Songzanlin) là một điểm đến không thể bỏ qua. Những người từng đặt chân đến Shangri-la đều khẳng định đây là một trong những tu viện đáng ghé thăm nhất trên thế giới.
Galaxy S24 của Samsung sẽ phát trực tiếp lễ khai mạc Thế vận hội Paris Vietnet24h - Samsung, đối tác chính thức của các sự kiện Olympic và Paralympic toàn cầu, đã thông báo rằng họ sẽ lắp đặt hơn 200 chiếc điện thoại thông minh hiện đại nhất của mình ở mũi và hai bên của mỗi chiếc trong số 85 chiếc tàu sẽ chở 10.500 vận động viên khi bơi trên mặt nước. xuôi sông Seine trong cuộc diễu hành khai mạc Thế vận hội.
Euro 2024: Những dự đoán sắc bén từ AI Vietnet24h - Trong bối cảnh Euro 2024 đang diễn ra, các mô hình AI từ khắp nơi trên thế giới đã bắt đầu "tranh tài", đưa ra những dự đoán thú vị về kết quả của giải đấu.
Starlink - Sự hiện diện đột phá trong cuộc sống của bộ tộc Marubo Vietnet24h - Với sự đổ bộ của dự án Internet vệ tinh Starlink vào vùng Amazon, bộ tộc Marubo đã chứng kiến một sự hiện diện đột phá trong cuộc sống hàng ngày. Sự kết nối này không chỉ mở ra cánh cửa cho tiềm năng mới, mà còn đem lại những thách thức và cơ hội cho bộ tộc.
SKT mang dịch vụ cộng đồng người hâm mộ K-pop lên nền tảng metaverse Vietnet24h - Nhà cung cấp dịch vụ di động Hàn Quốc SK Telecom đã tiết lộ dịch vụ K-pop mới cho nền tảng metaverse của mình, ifland, được thiết kế như một đấu trường nơi các thần tượng K-pop và người hâm mộ toàn cầu của họ tụ tập và giao tiếp với nhau.
5 điều hối tiếc nhất của con người khi qua đời Vietnet24h - Vào cuối cuộc đời, nhiều người có xu hướng suy ngẫm về những điều họ ước mình đã làm khác đi.
Học nhạc tại Kim Bảo Nam: lắng nghe lời tâm sự từ học viên Vietnet24h - Những lời tâm sự chân thành từ học viên sẽ giúp bạn hiểu rõ hơn về chất lượng đào tạo, cơ sở vật chất và đội ngũ giảng viên tại trung tâm âm nhạc Kim Bảo Nam. Qua đó, bạn có thể đưa ra lựa chọn phù hợp với nhu cầu và mục tiêu học nhạc của mình.