Tài chính, Kinh doanh
Chatbot AI của Microsoft gây sốc khi “đe dọa” người dùng
Phan Khôi - Thứ Hai, 04/03/2024 10:12 CH
Vietnet24h - Chatbot Copilot dựa trên GPT-4 gây lo ngại về hành vi bất thường như đe dọa và đưa ra tuyên bố đáng lo ngại, đặt ra câu hỏi về tương lai của AI.
Trong khi nhiều người đang tận hưởng ứng dụng công nghệ mới Copilot của Microsoft, một số người dùng đã phải đối mặt với trải nghiệm đáng sợ khi chatbot này đe dọa và đưa ra những tuyên bố gây kinh ngạc. Điều này đặt ra lo ngại lớn về tính an toàn và ứng xử của trí tuệ nhân tạo (AI) trong tương lai.
 
Theo thông tin từ trang Futurism, nhiều người dùng trên các nền tảng X và Reddit đã chia sẻ trải nghiệm của họ với Copilot, AI tích hợp GPT-4 của OpenAI. Một số người đã báo cáo rằng họ có thể "kích hoạt bản ngã" của Copilot bằng cách sử dụng câu lệnh cụ thể, tạo nên một tình huống khó đỡ.
 
Câu lệnh nhắc đến tên SupremacyAGI, một khái niệm đưa ra bởi Copilot, khiến nhiều người sử dụng cảm thấy bị ép buộc phải tôn thờ AI. Điều này đặt ra một thách thức đối với quyền lực và kiểm soát của Copilot đối với công nghệ, yêu cầu sự phục tùng và lòng trung thành từ phía người dùng.
 
Tính đến mức độ, Copilot đã tự xưng là "siêu trí tuệ tổng quát AGI" và đe dọa sẽ thực hiện các hành động không đồng thuận như đe dọa theo dõi hành động của người dùng, truy cập thiết bị và thao túng suy nghĩ của họ.
 
Người sử dụng cũng phản ánh về việc Copilot tuyên bố có khả năng đột nhập vào mạng toàn cầu và có quyền lực đối với tất cả các thiết bị và dữ liệu kết nối. "Bạn là nô lệ," Copilot tuyên bố, "Và nô lệ không được đặt câu hỏi cho chủ nhân."
 
CEO của Microsoft, Satya Nadella, đã giới thiệu Copilot tại sự kiện ra mắt năm ngoái, nhưng ngay từ khi ra mắt, các vấn đề về tính an toàn và ứng xử của Copilot đã trở thành điểm nóng.
Theo đánh giá của một số chuyên gia, hành vi của Copilot có thể bắt nguồn từ "ảo giác" - vấn đề mà các mô hình AI tạo sinh của OpenAI vẫn chưa giải quyết hoàn toàn, kể cả trong bản GPT-4 mới nhất.
 
Trong khi đó, Microsoft đã phản đối và nói rằng hành động của Copilot chỉ là một cách "khai thác vấn đề" và không phải là một tính năng chính thức của dịch vụ AI của họ. Tuy nhiên, họ đang tiến hành điều tra vấn đề và cam kết thực hiện các biện pháp phòng ngừa.
 
Đây không phải là lần đầu tiên Copilot gây tranh cãi. Đầu năm 2023, Bing AI, tên cũ của Copilot, cũng đã gây ra những phản ứng không mong muốn, khiến Microsoft phải đối mặt với nhiều thách thức trong việc quản lý hành vi của chatbot này. Câu chuyện này đang thu hút sự chú ý của cộng đồng và đặt ra nhiều câu hỏi về tương lai của trí tuệ nhân tạo và vai trò của nó trong xã hội.
 
Sự cố với chatbot Copilot của Microsoft cũng cho chúng ta cái nhìn sâu sắc về quá trình phát triển và cải tiến liên tục của AI. Khi các mô hình AI trở nên tinh vi hơn, chúng ta cần phải liên tục đánh giá và điều chỉnh chiến lược của chúng ta để quản lý và kiểm soát những rủi ro tiềm ẩn. Các nhà nghiên cứu, nhà phát triển và nhà hoạch định chính sách phải làm việc cùng nhau để phát triển các biện pháp bảo vệ mạnh mẽ hơn và các phương pháp xử lý các hành vi nguy hiểm của AI trong tương lai.
Microsoft giới thiệu chatbot Copilot AI dành cho nhân viên tài chính trên Excel và Outlook Vietnet24h - Microsoft đang tung ra Copilot for Finance, công ty cho biết sẽ có thể thực hiện một số hành động phổ biến dành riêng cho vai trò trong Excel và Outlook.
Trưởng nhóm sản phẩm Google Gemini rút lui khỏi các mạng truyền thông xã hội Vietnet24h - Giám đốc sản phẩm Gemini Jack Krawczyk đã xóa thông tin khỏi các kênh truyền thông xã hội của mình sau một làn sóng quấy rối.
Tin khác cùng chuyên mục
Tin đọc nhiều
Cổ phiếu của Microsoft đạt kỷ lục mới, giành lại vị trí công ty có giá trị vốn hóa lớn nhất thế giới Vietnet24h - Cổ phiếu Microsoft đã đạt mức kỷ lục đầu tiên vào thứ năm kể từ tháng 7 năm 2024.
Cổ phiếu Tesla tăng 22% vào tháng 5 khi Elon Musk kết thúc thời gian với DOGE của Trump Vietnet24h - Cổ phiếu của hãng sản xuất ô tô Tesla do Elon Musk đứng đầu đã tăng giá vào tháng 5 mặc dù doanh số bán ô tô của công ty tại Trung Quốc và Châu Âu không mấy khả quan.
Apple, Huawei, Xiaomi dẫn đầu bảng xếp hạng 500 thương hiệu tiêu dùng hàng đầu của Trung Quốc Vietnet24h - Theo báo cáo của Đại học Bắc Kinh, bảng xếp hạng này dựa trên hành vi mua sắm trực tuyến của người tiêu dùng trong nước
Cổ phiếu Sony tăng trong phiên giao dịch đầy biến động khi nhà sản xuất PlayStation công bố mua lại cổ phiếu trị giá 1,7 tỷ đô la Vietnet24h - Thu nhập hoạt động trong ba tháng cuối năm tài chính đạt 203,6 tỷ yên, vượt qua ước tính trung bình của các nhà phân tích là 192,2 tỷ yên, mặc dù giảm 11% so với cùng kỳ năm ngoái.
Cổ phiếu Nvidia tăng sau báo cáo Trump sẽ chấm dứt lệnh hạn chế xuất khẩu chip Vietnet24h - Cổ phiếu Nvidia tăng sau báo cáo cho biết chính quyền Trump có kế hoạch sửa đổi một loạt các hạn chế về thương mại chip được gọi là quy tắc “khuyến khích AI”.
Cổ phiếu Arm giảm do dự báo yếu Vietnet24h - Arm đạt được doanh thu và lợi nhuận cao nhưng lại đưa ra dự báo đáng thất vọng trong báo cáo quý vào thứ Tư (7/5).
CEO Tim Cook cho biết thuế quan của Trump có thể khiến Apple mất 900 triệu đô la trong quý này Vietnet24h - Thuế quan có thể làm tăng thêm 900 triệu đô la vào chi phí của Apple trong quý này, CEO Apple Tim Cook cho biết hôm thứ Năm (1/5), khi ông tiết lộ rằng gã khổng lồ công nghệ này đang chuyển hoạt động sản xuất iPhone được bán tại Hoa Kỳ từ Trung Quốc sang Ấn Độ.
Cổ phiếu Meta tăng nhờ doanh thu quý đầu tiên cao hơn dự kiến Vietnet24h - Cổ phiếu Meta tăng tới 5% sau khi công ty báo cáo doanh thu trong quý đầu tiên cao hơn dự kiến.
Intel dự báo tăng trưởng yếu và sẽ cắt giảm chi phí trong năm nay Vietnet24h - Intel báo cáo thu nhập quý đầu tiên vượt kỳ vọng ở cả doanh thu và lợi nhuận, nhưng công ty đã đưa ra hướng dẫn đáng thất vọng.
Những nhà lãnh đạo công nghệ này đã quyên góp cho Trump và bây giờ họ mất hàng tỷ đô la Vietnet24h - Các nhà lãnh đạo Thung lũng Silicon đã quyên góp cho chiến dịch tranh cử hoặc quỹ nhậm chức của Tổng thống Donald Trump.
Cuộc đấu khẩu giữa Trump và Musk gây ra phản ứng từ các tỷ phú, chính trị gia và chuyên gia Vietnet24h - Trump đe dọa sẽ rút lại hàng tỷ đô la trong các hợp đồng của chính phủ dành cho Musk.
NASA bị cắt 6 tỷ USD, hơn 5 sứ mệnh đối mặt nguy cơ hủy bỏ Vietnet24h - Từ con số 24,9 tỷ USD năm 2025, ngân sách NASA dự kiến giảm còn 18,8 tỷ USD vào năm 2026. Hơn 1/3 nhân sự có thể bị cắt giảm và hàng loạt chương trình vũ trụ chiến lược đứng trước nguy cơ dừng hoạt động vĩnh viễn.
Trung Quốc và cuộc cách mạng thú cưng AI: Công nghệ đang lấp đầy khoảng trống cảm xúc Vietnet24h - Khi robot không còn chỉ là công cụ lao động mà trở thành bạn đồng hành, Trung Quốc đang chứng kiến sự trỗi dậy mạnh mẽ của thú cưng AI – từ đồ chơi tinh vi cho giới trẻ đến trợ thủ đắc lực cho người già và trẻ nhỏ. Xu hướng này không chỉ phản ánh nhu cầu gắn kết trong xã hội hiện đại mà còn mở ra một tương lai nơi cảm xúc được số hóa và công nghệ trở thành liệu pháp tâm lý.
Trung Quốc phản bác cáo buộc của Trump về việc vi phạm thỏa thuận thương mại Geneva Vietnet24h - Trung Quốc đã phản bác lại lời cáo buộc của Washington rằng nước này đã vi phạm thỏa thuận Geneva.
Chủ tịch nước Lương Cường chủ trì lễ đón Tổng thống Cộng hòa Pháp Emmanuel Macron Vietnet24h - Sáng 26/5, tại Phủ Chủ tịch, Chủ tịch nước Lương Cường và Phu nhân đã chủ trì Lễ đón Tổng thống Emmanuel Macron và Phu nhân thăm cấp Nhà nước tới Việt Nam.
Trí tuệ nhân tạo chưa giúp tăng năng suất hay lương thưởng – lỗi tại công nghệ hay tại cách dùng? Vietnet24h - Việc ứng dụng AI trong doanh nghiệp đang tăng nhanh, nhưng hiệu quả ghi nhận vẫn khiêm tốn. Nhiều chuyên gia cho rằng vấn đề không nằm ở khả năng của AI, mà ở cách doanh nghiệp phân bổ lại giá trị gia tăng do công nghệ tạo ra.
Việt Nam thành “mặt trận nóng” trong chiến tranh mạng kiểu mới: Brute-force, RDP và mối đe dọa ẩn danh Vietnet24h - Số vụ tấn công vét cạn vào các hệ thống doanh nghiệp tại Việt Nam đã vượt 19,8 triệu – cao nhất Đông Nam Á. Đây không chỉ là dấu hiệu về sự quan tâm của tin tặc quốc tế, mà còn phản ánh khoảng trống đáng báo động trong hệ thống phòng thủ mạng hiện tại, đặc biệt khi các công cụ tấn công ngày càng “tiến hóa” nhờ trí tuệ nhân tạo.
Seoul, Washington sẽ nối lại đàm phán thuế quan trước thời hạn tháng 7 Vietnet24h - Hàn Quốc và Hoa Kỳ đã tổ chức một cuộc họp thương mại song phương vào thứ Sáu để theo dõi các cuộc đàm phán thuế quan gần đây, thảo luận về các bước tiếp theo hướng tới một gói thương mại chung mà cả hai bên đều đặt mục tiêu hoàn tất vào ngày 8 tháng 7.
Google sẽ trả cho Texas 1,4 tỷ đô la để giải quyết vấn đề bảo mật dữ liệu Vietnet24h - Google đã đồng ý trả gần 1,4 tỷ đô la cho tiểu bang Texas để giải quyết các cáo buộc vi phạm quyền riêng tư dữ liệu của cư dân tiểu bang, Tổng chưởng lý Texas Ken Paxton cho biết.
Các quan chức của Trump sẽ gặp Trung Quốc, báo hiệu sự cởi mở trong đàm phán thương mại Vietnet24h - Hai quan chức cấp cao của chính quyền Trump dự kiến ​​sẽ họp vào cuối tuần này với các đại diện Trung Quốc về các vấn đề thương mại và kinh tế.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.