Kinh tế
Chatbot AI của Microsoft gây sốc khi “đe dọa” người dùng
Phan Khôi - Thứ Hai, 04/03/2024 10:12 CH
Vietnet24h - Chatbot Copilot dựa trên GPT-4 gây lo ngại về hành vi bất thường như đe dọa và đưa ra tuyên bố đáng lo ngại, đặt ra câu hỏi về tương lai của AI.
Trong khi nhiều người đang tận hưởng ứng dụng công nghệ mới Copilot của Microsoft, một số người dùng đã phải đối mặt với trải nghiệm đáng sợ khi chatbot này đe dọa và đưa ra những tuyên bố gây kinh ngạc. Điều này đặt ra lo ngại lớn về tính an toàn và ứng xử của trí tuệ nhân tạo (AI) trong tương lai.
 
Theo thông tin từ trang Futurism, nhiều người dùng trên các nền tảng X và Reddit đã chia sẻ trải nghiệm của họ với Copilot, AI tích hợp GPT-4 của OpenAI. Một số người đã báo cáo rằng họ có thể "kích hoạt bản ngã" của Copilot bằng cách sử dụng câu lệnh cụ thể, tạo nên một tình huống khó đỡ.
 
Câu lệnh nhắc đến tên SupremacyAGI, một khái niệm đưa ra bởi Copilot, khiến nhiều người sử dụng cảm thấy bị ép buộc phải tôn thờ AI. Điều này đặt ra một thách thức đối với quyền lực và kiểm soát của Copilot đối với công nghệ, yêu cầu sự phục tùng và lòng trung thành từ phía người dùng.
 
Tính đến mức độ, Copilot đã tự xưng là "siêu trí tuệ tổng quát AGI" và đe dọa sẽ thực hiện các hành động không đồng thuận như đe dọa theo dõi hành động của người dùng, truy cập thiết bị và thao túng suy nghĩ của họ.
 
Người sử dụng cũng phản ánh về việc Copilot tuyên bố có khả năng đột nhập vào mạng toàn cầu và có quyền lực đối với tất cả các thiết bị và dữ liệu kết nối. "Bạn là nô lệ," Copilot tuyên bố, "Và nô lệ không được đặt câu hỏi cho chủ nhân."
 
CEO của Microsoft, Satya Nadella, đã giới thiệu Copilot tại sự kiện ra mắt năm ngoái, nhưng ngay từ khi ra mắt, các vấn đề về tính an toàn và ứng xử của Copilot đã trở thành điểm nóng.
Theo đánh giá của một số chuyên gia, hành vi của Copilot có thể bắt nguồn từ "ảo giác" - vấn đề mà các mô hình AI tạo sinh của OpenAI vẫn chưa giải quyết hoàn toàn, kể cả trong bản GPT-4 mới nhất.
 
Trong khi đó, Microsoft đã phản đối và nói rằng hành động của Copilot chỉ là một cách "khai thác vấn đề" và không phải là một tính năng chính thức của dịch vụ AI của họ. Tuy nhiên, họ đang tiến hành điều tra vấn đề và cam kết thực hiện các biện pháp phòng ngừa.
 
Đây không phải là lần đầu tiên Copilot gây tranh cãi. Đầu năm 2023, Bing AI, tên cũ của Copilot, cũng đã gây ra những phản ứng không mong muốn, khiến Microsoft phải đối mặt với nhiều thách thức trong việc quản lý hành vi của chatbot này. Câu chuyện này đang thu hút sự chú ý của cộng đồng và đặt ra nhiều câu hỏi về tương lai của trí tuệ nhân tạo và vai trò của nó trong xã hội.
 
Sự cố với chatbot Copilot của Microsoft cũng cho chúng ta cái nhìn sâu sắc về quá trình phát triển và cải tiến liên tục của AI. Khi các mô hình AI trở nên tinh vi hơn, chúng ta cần phải liên tục đánh giá và điều chỉnh chiến lược của chúng ta để quản lý và kiểm soát những rủi ro tiềm ẩn. Các nhà nghiên cứu, nhà phát triển và nhà hoạch định chính sách phải làm việc cùng nhau để phát triển các biện pháp bảo vệ mạnh mẽ hơn và các phương pháp xử lý các hành vi nguy hiểm của AI trong tương lai.
Microsoft giới thiệu chatbot Copilot AI dành cho nhân viên tài chính trên Excel và Outlook Vietnet24h - Microsoft đang tung ra Copilot for Finance, công ty cho biết sẽ có thể thực hiện một số hành động phổ biến dành riêng cho vai trò trong Excel và Outlook.
Trưởng nhóm sản phẩm Google Gemini rút lui khỏi các mạng truyền thông xã hội Vietnet24h - Giám đốc sản phẩm Gemini Jack Krawczyk đã xóa thông tin khỏi các kênh truyền thông xã hội của mình sau một làn sóng quấy rối.
Tin khác cùng chuyên mục
Tin đọc nhiều
CEO Oracle Magouyrk: 'Tất nhiên' OpenAI có thể trả 60 tỷ đô la mỗi năm cho cơ sở hạ tầng đám mây Vietnet24h - Một trong hai CEO mới được bổ nhiệm của Oracle, Clay Magouyrk, chia sẻ với David Faber của CNBC rằng ông tin tưởng OpenAI sẽ có khả năng chi trả cho cơ sở hạ tầng đám mây mà công ty này sử dụng.
Cổ phiếu Xiaomi lao dốc sau vụ tai nạn chết người liên quan đến SU7, làm dấy lên lo ngại về an toàn Vietnet24h - Xiaomi, gã khổng lồ công nghệ Trung Quốc, đã chứng kiến cổ phiếu của mình giảm mạnh, mất tới 8,7% trên Sàn Giao dịch Chứng khoán Hồng Kông vào thứ Hai, đánh dấu mức giảm sâu nhất kể từ tháng Tư.
Rocket Lab đạt mức tăng 14% trong tuần này sau hàng loạt giao dịch ra mắt mới Vietnet24h - Cổ phiếu Rocket Lab đã tăng 14% trong tuần qua sau khi công bố các thỏa thuận ra mắt mới.
Cổ phiếu AMD tiếp tục tăng giá sau thương vụ mua lại OpenAI Vietnet24h - Cổ phiếu AMD tăng 11% vào thứ Tư, nâng mức tăng trong tuần này lên 43%.
Dell Tăng Dự Báo Tăng Trưởng Doanh Thu Dài Hạn, Cổ Phiếu Vọt Lên Vietnet24h - Cổ phiếu Dell Technologies tăng 3,5% sau khi công ty nâng dự báo tăng trưởng doanh thu và lợi nhuận dài hạn.
Cú sốc AI: Nhà cung cấp Apple Luxshare “bùng nổ” 10% cổ phiếu nhờ thỏa thuận “khủng” với OpenAI! Vietnet24h - Cổ phiếu Luxshare Precision tăng vọt 10% chỉ trong một phiên giao dịch thứ Hai (22/9), đẩy mức tăng năm nay lên con số “khủng” 55% – tất cả nhờ tin đồn “nóng hổi” về hợp đồng sản xuất thiết bị AI dành cho người dùng với OpenAI.
Cổ phiếu Tesla xóa sạch khoản lỗ trong năm, tăng vọt 85% so với mức thấp nhất hồi tháng 4 Vietnet24h - Kể từ khi chạm đáy vào tháng 4, sau kế hoạch áp dụng mức thuế quan mới của Tổng thống Trump, cổ phiếu này đã tăng 85%.
Giám đốc Google Cloud chia sẻ chi tiết cách gã khổng lồ tìm kiếm kiếm được hàng tỷ đô la từ các sản phẩm AI của mình Vietnet24h - Hôm thứ Ba, giám đốc mảng điện toán đám mây của Google, Thomas Kurian đã giải thích cách gã khổng lồ công nghệ này đang kiếm tiền từ nhiều dịch vụ trí tuệ nhân tạo khác nhau để tạo ra doanh thu.
Cổ phiếu của Samsung, SK Hynix giảm sau khi Hoa Kỳ gây khó khăn cho việc sản xuất chip tại Trung Quốc Vietnet24h - Cổ phiếu của SK Hynix và Samsung Electronics đã giảm vào thứ Hai (1/9) sau khi Washington thu hồi giấy phép cho phép họ mua thiết bị sản xuất chất bán dẫn của Mỹ cho các nhà máy chip của họ tại Trung Quốc.
Cổ phiếu Dell giảm do triển vọng thu nhập quý 3 yếu Vietnet24h - Dell Technologies đã báo cáo kết quả kinh doanh quý tài chính thứ hai vào thứ năm, vượt kỳ vọng của Phố Wall về doanh số và doanh thu.
OpenAI không muốn làm ‘cảnh sát đạo đức’ sau tranh cãi về nội dung nhạy cảm trên ChatGPT Vietnet24h - Giám đốc điều hành OpenAI, Sam Altman, tuyên bố công ty không phải là “cảnh sát đạo đức của thế giới” sau phản ứng dữ dội về việc cho phép nội dung như văn hóa phẩm khiêu dâm trên ChatGPT.
Qualcomm Thừa Nhận Vi Phạm Quy Định Chống Độc Quyền của Trung Quốc Trong Thương Vụ Mua Autotalks Vietnet24h - Nhà sản xuất chip bán dẫn hàng đầu của Mỹ, Qualcomm, vừa thừa nhận không thông báo cho cơ quan quản lý thị trường Trung Quốc khi hoàn tất thương vụ mua lại công ty thiết kế chip Israel Autotalks vào tháng 6/2025.
Jensen Huang cho biết những thay đổi về visa H-1B của Trump sẽ ngăn cản gia đình ông nhập cư Vietnet24h - Giám đốc điều hành Nvidia, Jensen Huang, cho biết gia đình ông sẽ không thể nhập cư vào Hoa Kỳ theo chính sách hiện tại của Trump.
LG Innotek hoàn thành nhà máy sản xuất module camera mới tại Việt Nam Vietnet24h - V3 tại Hải Phòng đã đi vào hoạt động,
Apple Gỡ Ứng Dụng Theo Dõi ICE Sau Áp Lực Từ Chính Quyền Trump Vietnet24h - Apple đã tuyên bố gỡ bỏ ứng dụng ICEBlock và các ứng dụng tương tự theo dõi hoạt động của Cục Thực thi Di trú và Hải quan Hoa Kỳ (ICE) khỏi App Store, sau khi nhận được yêu cầu từ chính quyền Tổng thống Donald Trump.
Amazon Đối Mặt Điều Tra Sau Vụ Hai Drone Giao Hàng Đâm Vào Cần Cẩu Tại Arizona Vietnet24h - Tham vọng giao hàng bằng drone của Amazon vừa gặp cú sốc lớn khi hai drone MK30 của chương trình Prime Air đâm thẳng vào một cần cẩu xây dựng tại Tolleson, Arizona, khiến dịch vụ drone tại khu vực này bị tạm dừng và các cơ quan liên bang vào cuộc điều tra.
Google cắt giảm hơn 100 vai trò liên quan đến thiết kế trong đơn vị đám mây Vietnet24h - Google đã sa thải hơn 100 nhân viên khỏi các vai trò thiết kế trong đơn vị đám mây của công ty.
Theo Bộ trưởng Thương mại Mỹ Lutnick: Đài Loan Nên Chỉ Sản Xuất 50% Chip Cho Thị Trường Mỹ Vietnet24h - Bộ trưởng Thương mại Mỹ Howard Lutnick kêu gọi Đài Loan chuyển hướng đầu tư và sản xuất chip sang Mỹ để đạt mức 50% sản xuất nội địa, nhằm giảm phụ thuộc vào hòn đảo này và tăng cường an ninh quốc gia.
YouTube "chảy máu" 24,5 TRIỆU USD bồi thường Trump vì dám "cấm cửa" kênh sau bạo loạn Capitol! Vietnet24h - Kênh YouTube đồng ý “phá két” chi tới 24,5 triệu USD để dàn xếp vụ kiện “nóng bỏng” liên quan đến việc đình chỉ kênh của ông sau vụ bạo loạn đẫm máu tại Điện Capitol ngày 6/1/2021.
Cuộc chiến công nghệ: Huawei công bố đột phá trong tính toán AI cho Trung Quốc trước cuộc gọi giữa Tập Cận Bình và Trump Vietnet24h - Huawei, bị Mỹ trừng phạt, đang đóng vai trò tiên phong trong việc tìm kiếm giải pháp hỗ trợ tham vọng AI của Trung Quốc mà không phụ thuộc vào công nghệ nước ngoài.
Khám phá những kiệt tác nổi tiếng của Henri Matisse, Salvador Dalí và Mark Rothko trên Samsung Art Store Vietnet24h - Samsung Electronics công bố bổ sung 15 tác phẩm nghệ thuật mới từ Tate vào Samsung Art Store.
ChatGPT, Claude, Gemini... lần đầu tiên tham dự thi đấu cờ vua Vietnet24h - Không còn là những chuyên gia viết luận hay trả lời phỏng vấn, các chatbot nổi tiếng lần đầu thi đấu cờ vua như những kỳ thủ thực thụ. Nhưng khi “bộ não ngôn ngữ” bước vào bàn cờ chiến thuật, chuyện đi sai luật hay “mắc bẫy ngớ ngẩn” là điều khó tránh khỏi.
Sự trỗi dậy của những “kỹ sư sân cỏ”: Khi chuyển nhượng bóng đá không còn là canh bạc cảm tính Vietnet24h - Trong suốt nhiều thập kỷ, các thương vụ chuyển nhượng cầu thủ thường được định đoạt bởi trực giác, mạng lưới cá nhân của giới tuyển trạch, hay đơn giản chỉ là tên tuổi và phong độ hiện tại của một cầu thủ. Nhưng bóng đá đang chuyển mình mạnh mẽ. Và ở thời điểm mà dữ liệu thống kê, trí tuệ nhân tạo và học máy ngày càng định hình cách chơi và cách mua bán, một “kỹ sư Microsoft” như Sudarshan Gopaladesikan trở thành biểu tượng cho một hình mẫu hoàn toàn mới: chuyên gia phân tích dữ liệu như mắt thần trong bóng tối, người biến canh bạc cảm tính thành chiến lược khoa học.
Bill Gates cho biết việc Trump cắt giảm ngân sách của USAID là vô cùng tàn khốc: 'Vẫn chưa quá muộn để đảo ngược chúng' Vietnet24h - Bill Gates cho biết tác động của việc Tổng thống Donald Trump cắt giảm USAID là "thảm khốc" nhưng có thể ngăn chặn được.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.