Công nghệ
Nguy cơ đầu độc dữ liệu đe dọa sự phát triển của AI tạo sinh
Lãng Nhân - Thứ Ba, 19/03/2024 1:39 CH
Vietnet24h - Các mô hình AI phụ thuộc vào dữ liệu để học tập, nhưng liệu dữ liệu đó có đáng tin cậy? Nguy cơ đầu độc dữ liệu đặt ra thách thức lớn cho ngành AI.
Trong thời đại công nghệ thông tin bùng nổ, một mối đe dọa mới đang nổi lên: "Đầu độc dữ liệu". Hiện tượng này không chỉ làm suy giảm chất lượng của trí tuệ nhân tạo (AI) mà còn tiềm ẩn nguy cơ gây ra những hậu quả nghiêm trọng khác. Điều này đòi hỏi sự chung tay của cả cộng đồng khoa học và các nhà lập pháp để tìm kiếm giải pháp toàn diện.
 
Khi AI ngày càng trở nên phổ biến, các chuyên gia đang đối mặt với thách thức lớn từ các cuộc tấn công mục đích xấu, nhằm cài cắm thông tin sai lệch vào dữ liệu huấn luyện của AI. Điều này có thể dẫn đến việc phát tán tin giả, làm giảm hiệu quả của các chatbot và thậm chí khiến AI thực hiện hành động có hại.
 
Các mô hình AI, đặc biệt là những mô hình phụ thuộc vào dữ liệu Internet, đang đứng trước nguy cơ bị tấn công. Sự phụ thuộc vào nguồn dữ liệu mở, thay vì dữ liệu được kiểm soát chặt chẽ, tạo ra thách thức trong việc phát hiện và loại bỏ thông tin độc hại. 
 
Chỉ một lượng nhỏ thông tin sai lệch cũng có thể ảnh hưởng lớn đến kết quả của AI. Florian Tramer, trợ lý giảng viên tại Viện Công nghệ Liên bang Zurich, cảnh báo: "Internet không phải lúc nào cũng là nguồn thông tin đáng tin cậy." Ông và nhóm nghiên cứu đã tập trung vào Wikipedia để hiểu rõ hơn về mức độ ảnh hưởng của việc đầu độc dữ liệu.
 
Wikimedia Foundation, qua lời của Tajh Taylor, Phó chủ tịch phụ trách khoa học dữ liệu và kỹ thuật, đã xây dựng quy trình để giảm thiểu mối đe dọa này. OpenAI cũng khẳng định họ đang cải thiện các biện pháp an toàn, dựa trên cách người dùng tương tác với sản phẩm của mình.
 
David Harris, giảng viên tại Trường Kinh doanh Haas, Đại học California tại Berkeley, nhấn mạnh tầm quan trọng của việc có cơ chế lập pháp đối phó với tình hình. Ông chỉ ra rằng Đạo luật AI mới của EU đã đề cập đến vấn đề này, yêu cầu các nhà phát triển AI triển khai biện pháp kiểm soát an ninh.
Apostol Vassilev, trưởng nhóm nghiên cứu an toàn máy tính tại Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ, cũng nhấn mạnh tầm quan trọng của việc hoàn thiện bộ luật và quy định, coi đó là yếu tố then chốt để khuyến khích doanh nghiệp áp dụng AI một cách an toàn.
 
Nguy cơ từ việc sử dụng AI để xử lý dữ liệu nhạy cảm là điều không thể xem nhẹ. Các chuyên gia đánh giá rằng, nếu không có biện pháp phòng vệ đúng đắn, tình hình có thể trở nên nguy hiểm khi AI ngày càng được ứng dụng rộng rãi. Đây là lời cảnh báo cho tất cả các tổ chức và cá nhân khi tiếp xúc và sử dụng AI trong thời đại số.
 
Trong một bước tiến đột phá, các nhà nghiên cứu tại Đại học Chicago dưới sự dẫn dắt của Giáo sư Ben Zhao đã phát triển một công cụ mới mang tên Nightshade, nhằm bảo vệ quyền sở hữu trí tuệ trong kỷ nguyên số. Nightshade, một phần mềm độc đáo, được thiết kế để ngăn chặn việc sử dụng trái phép các tác phẩm nghệ thuật và sáng tạo trong quá trình huấn luyện các mô hình trí tuệ nhân tạo (AI).

Giáo sư Zhao và nhóm của ông đã chứng minh khả năng của Nightshade trong việc chèn các chi tiết vô hình vào hình ảnh, mà khi được sử dụng để huấn luyện AI, sẽ làm giảm đáng kể chất lượng của mô hình. Theo ông Zhao, chỉ cần 50 bức ảnh đã được chỉnh sửa bởi Nightshade có thể gây ra sự cố lớn cho mô hình AI tạo ảnh, từ đó cung cấp một lớp bảo vệ mạnh mẽ chống lại việc vi phạm bản quyền. Đây được coi là một chiến thuật phòng thủ hiệu quả, có tiềm năng tạo ra những hậu quả nghiêm trọng cho những ai cố tình vi phạm quyền sở hữu trí tuệ của người khác.
Meta đang xây dựng một mô hình AI khổng lồ để cung cấp năng lượng cho 'toàn bộ hệ sinh thái video' của họ Vietnet24h - Tom Alison, người đứng đầu Facebook, cho biết hôm qua, thứ Tư rằng, công ty đang nghiên cứu một mô hình AI để “cung cấp năng lượng cho toàn bộ hệ sinh thái video của chúng tôi”.
FWD hợp tác với Microsoft mang trải nghiệm bảo hiểm dựa trên AI Vietnet24h - Theo thoả thuận hợp tác, FWD sẽ đẩy mạnh ứng dụng các sáng kiến AI tạo sinh thông qua dịch vụ Azure OpenAI và các đổi mới sáng tạo khác dành cho doanh nghiệp của Microsoft.
Tin khác cùng chuyên mục
Tin đọc nhiều
OpenAI bật mí 5 mẹo dùng ChatGPT mà bạn chưa biết Vietnet24h - Nick Turley, chuyên gia của OpenAI, tiết lộ các tính năng như tải tập tin, tạo GPT tùy chỉnh và sử dụng giọng nói, hứa hẹn thay đổi cách người dùng tương tác với ChatGPT.
Ghi âm cuộc gọi và cải tiến camera: Những điểm nổi bật trong iOS 18.1 của Apple Vietnet24h - Vào tối 28 tháng 10, Apple phát hành phiên bản iOS 18.1, mang đến tính năng ghi âm cuộc gọi lần đầu tiên cho người dùng iPhone. Cùng với đó là những cải tiến cho camera và giao diện, hứa hẹn sẽ nâng cao trải nghiệm người dùng trên các thiết bị mới.
Orion sắp ra mắt: OpenAI mở ra chương mới cho trí tuệ nhân tạo Vietnet24h - Với việc ra mắt mô hình AI mới mang tên Orion vào tháng 12/2024, OpenAI đang tạo ra những bước tiến mạnh mẽ trong lĩnh vực công nghệ. Orion được kỳ vọng sẽ có sức mạnh vượt trội gấp 100 lần GPT-4, đánh dấu một cột mốc quan trọng trong hành trình phát triển trí tuệ nhân tạo tổng quát.
Chỉnh sửa ảnh thông minh với Microsoft Paint nhờ AI Vietnet24h - Microsoft Paint không ngừng cải tiến với sự ra mắt của Generative Fill và Generative Erase. Hai tính năng mới này giúp người dùng dễ dàng thêm hoặc xóa các chi tiết trong ảnh, mang lại trải nghiệm chỉnh sửa ảnh phong phú và trực quan hơn bao giờ hết.
Nút bấm mới trên iPhone 17 Pro: Tích hợp âm lượng và Action Vietnet24h - Thông tin từ các nguồn đáng tin cậy cho thấy iPhone 17 Pro có thể ra mắt với nút bấm đa năng, thay thế cho nút Action và âm lượng riêng biệt, hứa hẹn mang lại trải nghiệm người dùng mới lạ.
Phiên bản iPhone nào đủ sức chạy Apple Intelligence? Vietnet24h - Apple vừa đưa ra thông tin về dung lượng bộ nhớ mà các mẫu iPhone cần để hỗ trợ tính năng Apple Intelligence, cho biết tối thiểu 4 GB dung lượng trống là cần thiết và dự kiến sẽ tăng lên trong tương lai. Điều này được đề cập trong tài liệu hướng dẫn mới nhất của hãng dành cho bản cập nhật iOS 18.1 Developer Beta 5.
Liệu Apple Intelligence có lợi thế hơn Galaxy AI không? Vietnet24h - Tại Hội nghị các nhà phát triển toàn cầu hôm thứ Hai, Apple đã giới thiệu Apple Intelligence, hệ thống AI sẽ được tích hợp trên các sản phẩm từ iPhone đến Macbook.
Apple Intelligence trên iPhone của bạn có thể yêu cầu nâng cấp Vietnet24h - Apple cuối cùng đã lao đầu vào lĩnh vực trí tuệ nhân tạo vào thứ Hai với thông báo về Apple Intelligence.
Khám phá iOS 18: Sức mạnh của trí tuệ nhân tạo trên iPhone 15 Pro/Pro Max Vietnet24h - iOS 18 đem lại chuỗi tính năng AI độc đáo, từ cải thiện Siri đến xử lý dữ liệu mạnh mẽ trên đám mây. Chip A17 Pro và Neural Engine trên iPhone 15 Pro/Pro Max cho phép trải nghiệm toàn diện, trong khi các thiết bị khác chỉ hỗ trợ tính năng AI hạn chế.
iOS 18: kỷ nguyên mới của trải nghiệm người dùng iPhone Vietnet24h - Apple công bố iOS 18 với công nghệ AI tiên tiến, mang đến khả năng tùy chỉnh không giới hạn với biểu tượng cảm xúc độc đáo và cá nhân hóa. Tính năng mới cho phép tạo emoji tùy chỉnh nhanh chóng, thể hiện chính xác cảm xúc và ngữ cảnh của từng tin nhắn, làm phong phú kho emoji hiện có. iOS 18 sẽ bổ sung nhiều tính năng mới và cải tiến đáng kể như chuyển đổi âm thanh thành văn bản, dịch ngôn ngữ và tóm tắt văn bản, đều được hỗ trợ bởi AI.
Intel và Bộ Thương mại Hoa Kỳ sắp hoàn tất khoản tài trợ theo Đạo luật CHIPS trị giá khoảng 8 tỷ đô la Vietnet24h - Theo một người hiểu rõ vấn đề này, Intel và Bộ Thương mại sắp hoàn tất khoản tài trợ khoảng 8 tỷ đô la cho nhà sản xuất chip đang gặp khó khăn này.
Trung Quốc có thể trở thành nhà sản xuất PCB lớn nhất thế giới vào năm 2024 Vietnet24h - Theo báo cáo gần đây của các chuyên gia trong ngành, Trung Quốc có thể vượt qua Đài Loan để trở thành nhà sản xuất bảng mạch in (PCB) lớn nhất thế giới vào năm 2024.
SK hynix bắt đầu sản xuất chip nhớ flash NAND 321 lớp đầu tiên trên thế giới Vietnet24h - SK hynix cho biết hôm thứ Năm rằng họ đã bắt đầu sản xuất hàng loạt chip nhớ flash NAND 321 lớp dựa trên cell ba cấp đầu tiên trong ngành.
LG Innotek đầu tư 375,9 tỷ won vào việc mở rộng nhà máy tại Việt Nam Vietnet24h - Cơ sở mới tại Hải Phòng đáp ứng nhu cầu ngày càng tăng về các mô-đun máy ảnh tiên tiến.
Samsung Electronics ra mắt AI Gauss2 để hỗ trợ nhân viên Vietnet24h - Gã khổng lồ công nghệ tìm cách xoa dịu nhu cầu của nhân viên về ChatGPT bằng Gauss2
Apple đang cân nhắc bộ lọc màu của OLED trên thiết bị MR giá rẻ của mình Vietnet24h - Apple đang cân nhắc cách áp dụng bộ lọc màu trên thiết bị thực tế hỗn hợp (MR) giá rẻ của mình.
Samsung, SK sẽ ra mắt chip siêu máy tính tại Supercomputing 24 Vietnet24h - Các nhà sản xuất chip Hàn Quốc là Samsung Electronics và SK hynix sẽ giới thiệu những con chip mới nhất của họ cho các ứng dụng trí tuệ nhân tạo và siêu máy tính tại Supercomputing 24, hội nghị quốc tế lớn nhất về điện toán hiệu suất cao, vào tuần tới.
Intel đặt cược lớn vào Battlemage Arc để cạnh tranh với NVIDIA và AMD Vietnet24h - Sự xuất hiện của Battlemage Arc không chỉ là bước đi quan trọng của Intel mà còn là tín hiệu mới cho cuộc chiến khốc liệt giữa các ông lớn công nghệ trên thị trường card đồ họa. Intel liệu có thể gây khó khăn cho NVIDIA và AMD với sản phẩm này?
Vision Pro 2 và chip M5: Apple tiếp tục nâng cao trải nghiệm AR/VR Vietnet24h - Apple dự kiến ra mắt Vision Pro 2 với chip M5 vào năm 2025, tăng cường hiệu năng xử lý để cải thiện trải nghiệm thực tế ảo tăng cường. Đây được xem là bước tiến mới của Apple, hướng tới phát triển các sản phẩm AR/VR chất lượng cao.
Apple sẽ mang đến một cuộc cách mạng thiết kế trong MacBook Pro 2026 Vietnet24h - Theo thông tin mới nhất, MacBook Pro 2026 sẽ sở hữu một thiết kế hoàn toàn mới, mỏng nhẹ hơn, trang bị màn hình OLED sắc nét và chip M6 vượt trội. Dòng MacBook này hứa hẹn sẽ nâng cao hiệu suất và trải nghiệm người dùng.
Huawei ra mắt công nghệ "nắm và ném" dữ liệu trên smartphone Vietnet24h - Trong sự kiện giới thiệu sản phẩm mới, Huawei đã trình diễn tính năng độc đáo giúp chuyển file giữa hai thiết bị mà không cần chạm vào màn hình. Mate 70 và Mate X6 hứa hẹn sẽ là bước tiến lớn của hãng trong làng công nghệ.
Phát hiện Supersolid: Vật chất vừa có tính chất rắn vừa có tính chất lỏng Vietnet24h - Supersolid, trạng thái vật chất kỳ lạ, cuối cùng đã được quan sát trực tiếp bởi các nhà khoa học. Thành tựu này cung cấp cái nhìn sâu sắc hơn về thế giới lượng tử với những tính chất vượt ngoài hiểu biết thông thường.
Visual Intelligence: bức tranh mới về trí tuệ nhân tạo trên iphone Vietnet24h - Visual Intelligence, một trong những tính năng nổi bật nhất trong bộ công cụ Apple Intelligence, đang thu hút sự chú ý với khả năng nhận diện và tạo hình ảnh, video, và văn bản. Được giới thiệu trong bản iOS 18.2 beta 1, tính năng này hứa hẹn sẽ nâng cao trải nghiệm người dùng smartphone.
OPPO dẫn đầu đổi mới AI với việc triển khai kiến trúc hỗn hợp chuyên gia MoE, mở đường cho những tiến bộ của AI Vietnet24h - Thương hiệu thiết bị thông minh hàng đầu toàn cầu OPPO đã đạt được bước đột phá đáng kể khi trở thành công ty đầu tiên triển khai kiến ​​trúc Hỗn hợp chuyên gia (MoE) trên thiết bị.
Qualcomm ra mắt chip điện thoại thông minh có khả năng tương đương máy tính xách tay để hỗ trợ AI Vietnet24h - Phiên bản mới nhất của dòng Snapdragon sẽ bao gồm thiết kế nội bộ của Qualcomm, vì công ty đầu tư nhiều hơn vào công nghệ trong nước.
Tính giờ trên mặt trăng: thách thức lớn trong cuộc đua khám phá vũ trụ Vietnet24h - Trong cuộc đua không gian đang nóng bỏng hiện nay, một trong những thách thức lớn nhất mà các nhà khoa học phải đối mặt chính là việc định thời gian chính xác trên Mặt Trăng. Mặc dù đây có vẻ là một chi tiết nhỏ, nhưng sự sai lệch về thời gian có thể tạo ra những hệ quả nghiêm trọng trong các sứ mệnh không gian.
Honor sắp tung ra smartphone gập ba chỉ 10mm, mỏng hơn Huawei Mate XT Vietnet24h - Không lâu sau khi Huawei tung ra chiếc Mate XT, mẫu smartphone màn hình gập ba đầu tiên và được ca ngợi với thiết kế mỏng chỉ 12,8 mm khi gập lại, đối thủ Honor đã nhanh chóng hé lộ một kế hoạch có thể làm lung lay vị trí độc tôn của Huawei.
Huawei Mate XT gập ba gây sốt với hơn hai triệu lượt đặt trước dù chưa ra mắt Vietnet24h - Huawei Mate XT, mẫu smartphone gập ba đầu tiên trên thế giới sắp được thương mại hóa, đã thu hút hơn hai triệu lượt đăng ký đặt trước chỉ trong hai ngày dù chưa chính thức ra mắt. Sản phẩm hiện đang tạo ra làn sóng quan tâm mạnh mẽ, đặc biệt tại Trung Quốc.
Khí cầu AS700 của Trung Quốc hoàn thành chuyến bay xuyên tỉnh đầu tiên Vietnet24h - Khí cầu dân dụng có người lái as700, do trung quốc tự nghiên cứu và phát triển, vừa hoàn thành chuyến bay thử nghiệm xuyên tỉnh dài gần 1.000 km, mở ra tiềm năng mới cho ngành hàng không dân dụng của nước này.
Chip AI Ascind 910c của Huawei đạt sức mạnh tương đương Nvidia H100 Vietnet24h - Trước sự hạn chế nghiêm ngặt từ Mỹ về sức mạnh của các chip đồ họa (GPU) xuất khẩu sang Trung Quốc, quốc gia này đang chuẩn bị trình làng một sản phẩm trí tuệ nhân tạo (AI) mới của Huawei có khả năng tương đương với GPU NVIDIA H100.