Công nghệ
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Chỉnh sửa ảnh thông minh với Microsoft Paint nhờ AI Vietnet24h - Microsoft Paint không ngừng cải tiến với sự ra mắt của Generative Fill và Generative Erase. Hai tính năng mới này giúp người dùng dễ dàng thêm hoặc xóa các chi tiết trong ảnh, mang lại trải nghiệm chỉnh sửa ảnh phong phú và trực quan hơn bao giờ hết.
Nút bấm mới trên iPhone 17 Pro: Tích hợp âm lượng và Action Vietnet24h - Thông tin từ các nguồn đáng tin cậy cho thấy iPhone 17 Pro có thể ra mắt với nút bấm đa năng, thay thế cho nút Action và âm lượng riêng biệt, hứa hẹn mang lại trải nghiệm người dùng mới lạ.
Phiên bản iPhone nào đủ sức chạy Apple Intelligence? Vietnet24h - Apple vừa đưa ra thông tin về dung lượng bộ nhớ mà các mẫu iPhone cần để hỗ trợ tính năng Apple Intelligence, cho biết tối thiểu 4 GB dung lượng trống là cần thiết và dự kiến sẽ tăng lên trong tương lai. Điều này được đề cập trong tài liệu hướng dẫn mới nhất của hãng dành cho bản cập nhật iOS 18.1 Developer Beta 5.
Liệu Apple Intelligence có lợi thế hơn Galaxy AI không? Vietnet24h - Tại Hội nghị các nhà phát triển toàn cầu hôm thứ Hai, Apple đã giới thiệu Apple Intelligence, hệ thống AI sẽ được tích hợp trên các sản phẩm từ iPhone đến Macbook.
Apple Intelligence trên iPhone của bạn có thể yêu cầu nâng cấp Vietnet24h - Apple cuối cùng đã lao đầu vào lĩnh vực trí tuệ nhân tạo vào thứ Hai với thông báo về Apple Intelligence.
Khám phá iOS 18: Sức mạnh của trí tuệ nhân tạo trên iPhone 15 Pro/Pro Max Vietnet24h - iOS 18 đem lại chuỗi tính năng AI độc đáo, từ cải thiện Siri đến xử lý dữ liệu mạnh mẽ trên đám mây. Chip A17 Pro và Neural Engine trên iPhone 15 Pro/Pro Max cho phép trải nghiệm toàn diện, trong khi các thiết bị khác chỉ hỗ trợ tính năng AI hạn chế.
iOS 18: kỷ nguyên mới của trải nghiệm người dùng iPhone Vietnet24h - Apple công bố iOS 18 với công nghệ AI tiên tiến, mang đến khả năng tùy chỉnh không giới hạn với biểu tượng cảm xúc độc đáo và cá nhân hóa. Tính năng mới cho phép tạo emoji tùy chỉnh nhanh chóng, thể hiện chính xác cảm xúc và ngữ cảnh của từng tin nhắn, làm phong phú kho emoji hiện có. iOS 18 sẽ bổ sung nhiều tính năng mới và cải tiến đáng kể như chuyển đổi âm thanh thành văn bản, dịch ngôn ngữ và tóm tắt văn bản, đều được hỗ trợ bởi AI.
Windows 11 IoT Enterprise LTSC 2024: Mở rộng khả năng tương thích phần cứng Vietnet24h - Phiên bản Windows 11 IoT Enterprise LTSC 2024 từ Microsoft không chỉ tối ưu hóa cho thiết bị cấu hình thấp mà còn mở rộng khả năng tương thích phần cứng. Với khả năng hoạt động trên các card màn hình cũ kỹ dựa trên DirectX 10 và không yêu cầu TPM và Secure Boot, người dùng có thêm sự linh hoạt khi lựa chọn thiết bị.
Hướng dẫn cách trao đổi số chỉ bằng cách chạm các iPhone lại với nhau Vietnet24h - Bạn có thể trao đổi thông tin liên lạc bằng cách giữ iPhone của bạn cạnh nhau. Cả hai iPhone đều cần được cập nhật lên iOS 17.
Windows 12 sẽ phát hành vào năm 2024 Vietnet24h - Theo một số báo cáo rò rỉ, Microsoft đang phát triển Windows 12 và dự kiến sẽ phát hành vào năm 2024.
Intel thiết lập máy quang khắc tia cực tím EUV NA cao thứ hai Vietnet24h - Giám đốc điều hành ASML Christophe Fouquet và giám đốc điều hành Intel Mark Phillips cho biết Intel đã hoàn tất việc lắp ráp máy EUV NA cao thứ hai cho quy trình 14A và các quy trình tiếp theo.
Những người đoạt giải Nobel của Google khuấy động cuộc tranh luận về nghiên cứu AI Vietnet24h - Tuần này, giải thưởng Nobel về hóa học và vật lý được trao cho một số ít nhà tiên phong về trí tuệ nhân tạo có liên kết với Google đã gây ra cuộc tranh luận về sự thống trị trong nghiên cứu của công ty và cách thức công nhận những đột phá trong khoa học máy tính.
AI Google thắng lớn tại giải Nobel 2024: Kỷ nguyên công nghệ và khoa học giao thoa Vietnet24h - Hai nhà khoa học từ Google DeepMind, John Jumper và Demis Hassabis, đã cùng với Geoffrey Hinton, cựu chuyên gia AI của Google, giành giải Nobel Hóa học và Vật lý năm 2024. Đây không chỉ là thành tựu của riêng họ mà còn đánh dấu bước ngoặt mới cho trí tuệ nhân tạo trong khoa học toàn cầu.
Microsoft công bố các công cụ AI mới giúp giảm bớt khối lượng công việc cho bác sĩ và y tá Vietnet24h - Microsoft đã công bố một loạt công cụ dữ liệu chăm sóc sức khỏe và trí tuệ nhân tạo mới vào thứ Năm, 10/10.
MediaTek ra mắt chipset hàng đầu thế hệ tiếp theo Vietnet24h - Nhà thiết kế IC điện thoại thông minh có trụ sở tại Đài Loan MediaTek Inc. đã ra mắt chipset thế hệ tiếp theo Dimensity 9400 vào thứ Tư, là chipset đầu tiên sử dụng quy trình 3 nanomet thế hệ thứ hai của Taiwan Semiconductor Manufacturing Co. (TSMC) trong hệ sinh thái Google Android.
Triển lãm Quốc tế Điện tử và Thiết bị thông minh Việt Nam (IEAE) - Nơi mô phỏng sự tiến bộ không ngừng của công nghệ điện tử và tốc độ toàn cầu hóa Vietnet24h - Triển lãm Quốc tế Điện tử và Thiết bị thông minh Việt Nam (IEAE) sẽ được tổ chức từ ngày 30 tháng 10 đến ngày 01 tháng 11 năm 2024 tại Trung tâm Triển lãm Quốc tế Hà Nội (I.C.E) – 91 Trần Hưng Đạo, Q. Hoàn Kiếm, Hà Nội.
Đột phá AI trên Galaxy Tab S10: Trợ lý thông minh cho mọi nhu cầu Vietnet24h - Với việc tích hợp công nghệ AI tiên tiến, Galaxy Tab S10 series của Samsung đang tạo ra một làn sóng mới trong ngành công nghệ di động. Bộ đôi máy tính bảng này không chỉ nâng cao hiệu suất công việc mà còn mang đến trải nghiệm sáng tạo chưa từng có cho người dùng.
Samsung ra mắt 'AI cá nhân hóa' cho mọi thiết bị Vietnet24h - Samsung Electronics đã công bố sẽ giới thiệu trí tuệ nhân tạo trong tất cả các thiết bị gia dụng và thiết bị di động chính của mình để mang đến trải nghiệm người dùng an toàn và được cá nhân hóa hơn tại Hội nghị nhà phát triển Samsung năm nay vào ngày 3/10 vừa qua.
Khi Apple bước vào cuộc đua AI, nhà sản xuất iPhone chuyển hướng sang đội ngũ phát triển của mình để giành lợi thế Vietnet24h - Khi Apple chuẩn bị cho Apple Intelligence tham gia vào cuộc đua AI ở Thung lũng Silicon, hãng này đang dựa vào một trong những lợi thế mạnh nhất của mình: Đội ngũ 34 triệu nhà phát triển ứng dụng.
Samsung Electronics bắt đầu sản xuất hàng loạt ổ cứng thể rắn SSD hàng đầu cho máy tính AI Vietnet24h - Ổ cứng thể rắn SSD PM9E1 của Samsung tự hào có hiệu suất cao nhất trong ngành và dung lượng lớn nhất, được xây dựng trên bộ điều khiển 5 nanomet nội bộ và công nghệ V-NAND thế hệ thứ tám.
Tính giờ trên mặt trăng: thách thức lớn trong cuộc đua khám phá vũ trụ Vietnet24h - Trong cuộc đua không gian đang nóng bỏng hiện nay, một trong những thách thức lớn nhất mà các nhà khoa học phải đối mặt chính là việc định thời gian chính xác trên Mặt Trăng. Mặc dù đây có vẻ là một chi tiết nhỏ, nhưng sự sai lệch về thời gian có thể tạo ra những hệ quả nghiêm trọng trong các sứ mệnh không gian.
Honor sắp tung ra smartphone gập ba chỉ 10mm, mỏng hơn Huawei Mate XT Vietnet24h - Không lâu sau khi Huawei tung ra chiếc Mate XT, mẫu smartphone màn hình gập ba đầu tiên và được ca ngợi với thiết kế mỏng chỉ 12,8 mm khi gập lại, đối thủ Honor đã nhanh chóng hé lộ một kế hoạch có thể làm lung lay vị trí độc tôn của Huawei.
Huawei Mate XT gập ba gây sốt với hơn hai triệu lượt đặt trước dù chưa ra mắt Vietnet24h - Huawei Mate XT, mẫu smartphone gập ba đầu tiên trên thế giới sắp được thương mại hóa, đã thu hút hơn hai triệu lượt đăng ký đặt trước chỉ trong hai ngày dù chưa chính thức ra mắt. Sản phẩm hiện đang tạo ra làn sóng quan tâm mạnh mẽ, đặc biệt tại Trung Quốc.
Khí cầu AS700 của Trung Quốc hoàn thành chuyến bay xuyên tỉnh đầu tiên Vietnet24h - Khí cầu dân dụng có người lái as700, do trung quốc tự nghiên cứu và phát triển, vừa hoàn thành chuyến bay thử nghiệm xuyên tỉnh dài gần 1.000 km, mở ra tiềm năng mới cho ngành hàng không dân dụng của nước này.
Chip AI Ascind 910c của Huawei đạt sức mạnh tương đương Nvidia H100 Vietnet24h - Trước sự hạn chế nghiêm ngặt từ Mỹ về sức mạnh của các chip đồ họa (GPU) xuất khẩu sang Trung Quốc, quốc gia này đang chuẩn bị trình làng một sản phẩm trí tuệ nhân tạo (AI) mới của Huawei có khả năng tương đương với GPU NVIDIA H100.
Google nâng tầm camera an ninh với AI Gemini đọc hiểu nâng cao Vietnet24h - Google vừa đưa ra một bước tiến mới trong việc tích hợp trí tuệ nhân tạo (AI) vào hệ sinh thái nhà thông minh của mình, khi chính thức giới thiệu khả năng "đọc" và phân tích nội dung từ camera an ninh thông qua AI Gemini.
Robot Thanh Long: cú nhảy vọt trong công nghệ robot hình người của Trung Quốc Vietnet24h - Thanh Long, robot hình người kích thước đầy đủ do Trung Quốc phát triển, đánh dấu bước tiến lớn trong công nghệ robot với khả năng thực hiện nhiều nhiệm vụ tương tự như con người.
Gặp gỡ robot hỗ trợ AI mà các Big Tech cho rằng có thể giải quyết tình trạng thiếu lao động toàn cầu Vietnet24h - Robot hỗ trợ AI đang xuất hiện khắp Thung lũng Silicon. Nếu một số chuyên gia trong ngành đúng, họ có thể giúp giải quyết tình trạng thiếu lao động toàn cầu.
ChatGPT giới thiệu tính năng dạy ngoại ngữ với công nghệ giọng nói tiên tiến Vietnet24h - OpenAI vừa ra mắt GPT-4o, phiên bản mới của ChatGPT với khả năng dạy ngoại ngữ nhờ công nghệ giọng nói nâng cao. Tính năng AVM cho phép phiên dịch và phản hồi trực tiếp theo thời gian thực, mang đến trải nghiệm học ngôn ngữ giống như có một giáo viên thực thụ bên cạnh. Tính năng này dự kiến sẽ được thử nghiệm với người dùng ChatGPT Plus vào cuối tháng 7.
Samsung áp dụng molypden vào V-NAND thế hệ 9 Vietnet24h - Samsung đang áp dụng molypden trong quá trình kim loại hóa V-NAND thế hệ 9.