Tầm nhìn công nghệ
Mô hình AI lớn: Thông minh hơn, nhưng liệu có đáng tin cậy?
Mộc Đức - Thứ Hai, 30/09/2024 1:42 CH
Vietnet24h - Mặc dù các mô hình ngôn ngữ lớn ngày càng thông minh, nghiên cứu chỉ ra rằng chúng có xu hướng ít thừa nhận khi gặp giới hạn, làm dấy lên lo ngại về tính minh bạch và độ tin cậy của AI trong những tình huống phức tạp.
Một nghiên cứu mới từ Đại học Bách khoa Valencia, Tây Ban Nha, đã chỉ ra một xu hướng đáng lo ngại: các mô hình ngôn ngữ lớn (LLM) càng trở nên thông minh và tinh vi hơn, chúng càng có xu hướng ít thừa nhận rằng mình không biết câu trả lời. Khám phá này đã làm dấy lên câu hỏi về tính minh bạch và độ tin cậy của các hệ thống trí tuệ nhân tạo (AI) trong tương lai.
 
Trong bài báo được công bố trên tạp chí Nature, các nhà nghiên cứu đã kiểm tra ba mô hình ngôn ngữ phổ biến nhất hiện nay là BLOOM, LLaMA và GPT, nhằm so sánh độ chính xác và tính minh bạch của các câu trả lời giữa các phiên bản cũ và mới. Kết quả cho thấy, mặc dù độ chính xác tổng thể của các mô hình này đã được cải thiện, nhưng chúng lại ít cởi mở hơn khi đối mặt với những câu hỏi khó hoặc không quen thuộc.
 
Điều đáng chú ý là, trong khi các phiên bản trước đây thường thừa nhận khi không thể đưa ra câu trả lời chính xác, các phiên bản mới hơn có xu hướng "giả vờ biết", đưa ra nhiều câu trả lời sai thay vì thông báo rằng chúng không biết. Điều này tạo ra sự nhầm lẫn cho người dùng, đặc biệt là khi AI tự tin trả lời sai những câu hỏi đơn giản.
 
Thách thức mới trong AI: Kỹ năng càng cao, minh bạch càng giảm
Khi các mô hình ngôn ngữ lớn ngày càng được cải thiện, khả năng xử lý thông tin và tạo ra câu trả lời của chúng trở nên mạnh mẽ hơn bao giờ hết. Tuy nhiên, cùng với đó là một nghịch lý khó hiểu: các hệ thống AI này không còn thừa nhận giới hạn của mình một cách rõ ràng như trước.
 
Một phần nguyên nhân có thể là do các mô hình mới được huấn luyện để trả lời đa dạng hơn, với tham vọng bao quát nhiều tình huống phức tạp. Tuy nhiên, điều này dẫn đến việc chúng đưa ra các câu trả lời thiếu chính xác mà không cảnh báo người dùng, khiến độ tin cậy của các hệ thống AI trở thành một vấn đề đáng lo ngại.
 
Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, từ chăm sóc sức khỏe, giáo dục đến tài chính, sự thiếu minh bạch này có thể gây ra những hậu quả nghiêm trọng nếu người dùng không cẩn thận kiểm tra thông tin. Do đó, các nhà phát triển cần tập trung vào việc không chỉ nâng cao độ chính xác của các mô hình AI mà còn phải cải thiện khả năng "tự nhận thức" của chúng – để chúng biết khi nào nên nói "tôi không biết."
 
AI ngày càng mạnh mẽ, nhưng liệu chúng ta có thể tin tưởng?
Kết quả nghiên cứu cũng nêu bật một thực tế đáng lo ngại: các mô hình ngôn ngữ lớn, dù đã được cải tiến qua từng phiên bản, vẫn có xu hướng trả lời sai, thậm chí với cả những câu hỏi đơn giản. Điều này làm dấy lên mối lo ngại về việc người dùng có thể bị dẫn dắt bởi những thông tin không chính xác từ AI.
 
Jiménez, trưởng nhóm nghiên cứu tại Đại học Bách khoa Valencia, cho biết: “Chúng tôi đã nhận thấy rằng mặc dù các mô hình ngôn ngữ càng ngày càng tốt hơn trong việc tạo ra câu trả lời, nhưng chúng lại ít thừa nhận khi gặp phải những giới hạn của mình. Điều này đặc biệt đáng lo ngại trong các ứng dụng đòi hỏi độ chính xác cao."
 
Sự phát triển của AI đang mở ra những tiềm năng không giới hạn, nhưng đồng thời cũng đặt ra những câu hỏi lớn về cách chúng ta sử dụng và tin tưởng vào các hệ thống này. Việc đảm bảo tính minh bạch và khả năng thừa nhận giới hạn của AI là điều cần thiết để đảm bảo rằng công nghệ này có thể phục vụ con người một cách an toàn và hiệu quả hơn.
Nguy cơ lừa đảo từ công nghệ AI: chỉ cần 3 giây để sao chép giọng nói Vietnet24h - Ngân hàng trực tuyến Starling Bank của Anh vừa đưa ra một cảnh báo nghiêm trọng về việc kẻ gian có thể lợi dụng công nghệ trí tuệ nhân tạo (AI) để sao chép giọng nói của nạn nhân chỉ trong vòng 3 giây. Công nghệ này, được hỗ trợ bởi những công cụ giả giọng tiên tiến, đang tạo ra một mối đe dọa lớn cho hàng triệu người dùng trên mạng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Tổng Bí thư Tô Lâm làm Trưởng Ban Chỉ đạo Trung ương về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số. Vietnet24h - Ngày 22/12/2024, Bộ Chính trị đã ban hành Nghị quyết số 57-NQ/TW về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia. Tổng Bí thư Tô Lâm làm Trưởng Ban Chỉ đạo Trung ương về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số.
Hoa Kỳ hoàn tất khoản trợ cấp cho nhà sản xuất chip Micron trị giá 6,1 tỷ đô la Vietnet24h - Bộ Thương mại Hoa Kỳ cho biết hôm thứ Ba tuần trước rằng, họ đã hoàn tất khoản trợ cấp của chính phủ trị giá 6,165 tỷ đô la cho Micron Technology để sản xuất chất bán dẫn tại New York và Idaho.
Apple và Google có thể phải đối mặt với cuộc điều tra cạnh tranh về hệ sinh thái di động khổng lồ của họ tại Vương quốc Anh Vietnet24h - Cơ quan Cạnh tranh và Thị trường Vương quốc Anh đã ban hành báo cáo vào thứ sáu từ nhóm điều tra độc lập, khuyến nghị cơ quan giám sát này điều tra các hoạt động của Apple và Google trong hệ sinh thái di động.
Google sẽ bị chia tách? Bộ Tư pháp Mỹ yêu cầu thay đổi lớn trong hoạt động của Alphabet Vietnet24h - Trong một động thái quyết liệt, Bộ Tư pháp Mỹ đã yêu cầu Tòa án chia tách Google và yêu cầu Alphabet áp dụng các biện pháp để ngừng hành vi ưu tiên công cụ tìm kiếm trên Android. Đề xuất này cho thấy chính quyền Mỹ đang nghiêm túc trong việc kiểm soát quyền lực của các công ty công nghệ lớn.
Hàn Quốc theo dõi chặt chẽ những thay đổi có thể có trong chính sách tín dụng thuế xe điện của Hoa Kỳ Vietnet24h - Hàn Quốc đang theo dõi chặt chẽ những thay đổi tiềm tàng đối với chính sách của Hoa Kỳ về xe điện (EV) dưới thời chính quyền Donald Trump sắp nhậm chức, nhưng chưa có thay đổi nào được xác nhận, Bộ Công nghiệp Hàn Quốc cho biết hôm thứ Sáu.
Chiến thắng của ông Trump có thể mang lại cho TikTok cơ hội tiếp tục ở lại Hoa Kỳ. Vietnet24h - Chiến thắng trong cuộc bầu cử của Donald Trump có thể mang lại cơ hội cho TikTok, ứng dụng đang phải đối mặt với lệnh cấm tiềm tàng của Hoa Kỳ vào tháng 1 nếu không được thoái vốn khỏi công ty mẹ ByteDance.
Đảng cầm quyền Hàn Quốc đề xuất luật chip đặc biệt để ngăn chặn Trump Vietnet24h - Đảng cầm quyền Hàn Quốc đã đề xuất một đạo luật chip đặc biệt vào thứ Hai (11/11) để trợ cấp cho các nhà sản xuất chip và miễn trừ giới hạn giờ làm việc trên toàn quốc, nhằm giải quyết các rủi ro tiềm ẩn từ các biện pháp mà Tổng thống Hoa Kỳ sắp nhậm chức Donald Trump đe dọa.
Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050 Vietnet24h - Ngày 21/9/2024, Thủ tướng Phạm Minh Chính đã ký Quyết định số 1018/QĐ-TTg ban hành Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050. Đây là bước tiến lớn trong việc đưa Việt Nam trở thành một trong những trung tâm hàng đầu thế giới trong lĩnh vực bán dẫn, một ngành công nghiệp đang trở thành trụ cột trong nền kinh tế toàn cầu.
Tổng giám đốc điều hành Intel vạch ra con đường phía trước cho công ty Vietnet24h - Sau cuộc họp hội đồng quản trị kéo dài ba ngày vào tuần trước, Tổng giám đốc điều hành của Intel, Pat Gelsinger đã vạch ra con đường phía trước của công ty trong một lá thư gửi cho nhân viên.
Hoa Kỳ triển khai các biện pháp kiểm soát xuất khẩu liên quan đến chip mới Vietnet24h - Chính quyền Biden đang triển khai các biện pháp kiểm soát xuất khẩu mới đối với các công nghệ quan trọng, bao gồm máy tính lượng tử và hàng hóa bán dẫn, trong bối cảnh Trung Quốc đang đạt được những tiến bộ trong ngành chip toàn cầu.
Điều gì tiếp theo cho metaverse của Meta Vietnet24h - Mặc dù thuật ngữ siêu vũ trụ có từ trước Facebook, nhưng tham vọng về siêu vũ trụ của Zuckerberg đã tồn tại trong Meta kể từ năm 2014, khi Facebook mua lại nhà phát triển tai nghe thực tế ảo Oculus và ra mắt Reality Labs.
Khi 5G chưa kịp bão hòa, thế giới đã sẵn sàng cho 6G Vietnet24h - Khi thế giới đang khai thác tối đa tiềm năng của mạng 5G, ánh mắt của các cường quốc công nghệ đã hướng về một chân trời mới: mạng 6G. Đây không chỉ là cuộc đua về tốc độ, mà còn là sự cạnh tranh để dẫn đầu kỷ nguyên kết nối siêu thông minh.
CEO Nvidia cho biết hợp tác toàn cầu về công nghệ vẫn sẽ tiếp tục dưới thời chính quyền Trump Vietnet24h - Tổng giám đốc điều hành Nvidia Jensen Huang cho biết hôm thứ Bảy (23/11) rằng hợp tác toàn cầu về công nghệ sẽ tiếp tục ngay cả khi chính quyền Hoa Kỳ sắp tới áp đặt các biện pháp kiểm soát xuất khẩu chặt chẽ hơn đối với các sản phẩm máy tính tiên tiến.
AI và robot: ranh giới mong manh giữa tiện ích và mối nguy hiểm Vietnet24h - Robot tích hợp AI đang ngày càng thông minh, nhưng cũng là nguyên nhân của nhiều lo ngại. Một video thử nghiệm tại Trung Quốc cho thấy, chỉ cần một mệnh lệnh sai, trí tuệ nhân tạo có thể dẫn dắt máy móc đi lệch quỹ đạo và gây nguy hiểm cho nhân loại.
Samsung, LG ôm trọn Giải thưởng Đổi mới tại CES 2025 Vietnet24h - Trong chương trình năm nay, Samsung đã giành được 29 giải thưởng, bao gồm bốn sản phẩm đổi mới tốt nhất, trong khi LG nhận được 24 giải thưởng với ba giải thưởng đổi mới hàng đầu.
Liệu Samsung có hợp tác với đối thủ cạnh tranh trong lĩnh vực đúc là TSMC không? Vietnet24h - Sự thay đổi chiến lược đang hiện hữu khi gã khổng lồ chip Hàn Quốc đang phải vật lộn để đảm bảo lợi thế trong lĩnh vực chip AI tiên tiến
LG thảo luận về hợp tác chiến lược với nhà thiết kế chip nổi tiếng Jim Keller Vietnet24h - Tổng giám đốc điều hành LG Electronics Cho Joo-wan đã gặp Jim Keller, một nhà thiết kế chip nổi tiếng và là Tổng giám đốc điều hành của công ty khởi nghiệp bán dẫn trí tuệ nhân tạo (AI) Tenstorrent của Hoa Kỳ.
Hội chợ Thương mại Quốc tế Việt Nam lần thứ 22 tại TP. Hồ Chí Minh VIETNAM EXPO 2024 HCMC - Giải pháp cho cuộc sống hiện đại Vietnet24h - Hội chợ Thương mại Quốc tế Việt Nam lần thứ 22 tại Thành phố Hồ Chí Minh (VIETNAM EXPO 2024 HCMC) với chủ đề “Giải pháp cho cuộc sống hiện đại” sẽ diễn ra từ ngày 5-7 tháng 12 năm 2024 tại Trung tâm Hội nghị và Triển lãm Sài Gòn (SECC) – 799 Nguyễn Văn Linh, Quận 7, TP. Hồ Chí Minh.
Việt Nam mở rộng dấu chân trong mảng đóng gói chip Vietnet24h - Ngành sản xuất bán dẫn hậu cần, vốn ít thâm dụng vốn hơn so với sản xuất chip tiền tuyến mang tính chiến lược hơn tại các xưởng đúc, hiện do Trung Quốc và Đài Loan thống trị, nhưng Việt Nam là một trong những quốc gia tăng trưởng nhanh nhất trong phân khúc 95 tỷ đô la.
Huawei kêu gọi nhà mạng cùng xây dựng tương lai AI di động Vietnet24h - Phó chủ tịch Huawei, ông Li Peng, cho rằng mạng 5.5G sẽ là bệ phóng cho AI di động, giúp các nhà mạng khai thác tối đa cơ hội tăng trưởng từ nhu cầu sử dụng AI ngày càng tăng của người dùng.
LG Display, Hanwha Solutions hợp tác phát triển bao bì thân thiện với môi trường bằng nhựa tái chế Vietnet24h - LG Display cho biết hôm thứ Hai (23/12) rằng, họ đã phát triển bao bì thân thiện với môi trường cho các linh kiện điện tử bằng nhựa tái chế sau khi tiêu dùng hợp tác với Hanwha Solutions.
Samsung Display đạt chứng nhận cắt giảm carbon đầu tiên trong ngành với tấm nền điện thoại thông minh Vietnet24h - Samsung Display đã nhận được chứng nhận giảm phát thải carbon quốc tế cho tấm nền màn hình OLED dành cho Galaxy S24 và Galaxy Z Flip 6
Các công ty LG cắt giảm 4,25 triệu tấn khí thải vào năm 2023 Vietnet24h - Bảy công ty liên kết của Tập đoàn LG đã giảm 4,25 triệu tấn khí thải carbon vào năm ngoái như một phần trong nỗ lực của tập đoàn nhằm đạt được trạng thái phát thải ròng bằng 0 vào năm 2050.
Tín hiệu tốt cho ngành pin Hàn Quốc trên đất Mỹ Vietnet24h - Ngành công nghiệp pin Hàn Quốc đặt kỳ vọng vào các chính sách bảo hộ và quan hệ đối tác chiến lược tại Mỹ, trong bối cảnh chính quyền mới của ông Trump có thể mang lại lợi thế cạnh tranh trước các đối thủ Trung Quốc.
Luật năng lượng mới giúp Trung Quốc tiến nhanh trên lộ trình trung hòa Carbon Vietnet24h - Hướng tới phát triển bền vững, Trung Quốc vừa thông qua luật năng lượng mới, tăng cường đầu tư vào năng lượng tái tạo và xe năng lượng sạch. Động thái này góp phần cải thiện chất lượng môi trường và nâng cao vai trò của nước này trong cuộc chiến chống biến đổi khí hậu.
Không khí trong nhà ô nhiễm ảnh hưởng đến sức khỏe như thế nào? Vietnet24h - Trong khi chúng ta luôn chú trọng đến môi trường sống bên ngoài, ít ai để ý rằng không khí trong chính ngôi nhà của mình có thể là một sát thủ vô hình, âm thầm gây ra nhiều vấn đề nghiêm trọng cho sức khỏe. Không khí trong nhà, nếu không được quản lý đúng cách, có thể ô nhiễm hơn gấp nhiều lần so với bên ngoài, đe dọa trực tiếp đến sức khỏe của cả gia đình.
Pin mặt trời trên mái nhà: Cân bằng giữa năng lượng sạch và nhiệt độ đô thị Vietnet24h - Dữ liệu từ nghiên cứu mới cho thấy các tấm pin mặt trời vừa giúp giảm ô nhiễm vừa thay đổi nhiệt độ đô thị, yêu cầu các thành phố cần giải pháp tối ưu để tận dụng năng lượng tái tạo.
UNDP và IBM cùng nhau tạo ra bước đột phá trong dự báo năng lượng bằng AI Vietnet24h - Với sự ra mắt của GeoHub, UNDP và IBM đã phát triển các mô hình AI giúp người dùng phân tích và đưa ra quyết định dựa trên dữ liệu năng lượng, mở ra hy vọng cho một tương lai bền vững hơn.
LG Energy Solution tái chế pin hướng tới tương lai bền vững Vietnet24h - LG Energy Solution (LGES) đã tìm kiếm các cơ hội kinh doanh mới trên thị trường tái sử dụng và tái chế pin.
Septic: Giải pháp bể tự hoại thông minh giúp ngăn ngừa ô nhiễm nguồn nước Vietnet24h - Với khả năng chống thấm và xử lý chất thải tối ưu, bể tự hoại thông minh Septic đang được nhiều gia đình lựa chọn để thay thế cho các bể phốt bê tông cũ, giúp bảo vệ môi trường và đảm bảo an toàn sức khỏe.