Tiêu dùng
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Samsung Galaxy A56 5G, Galaxy A36 5G và Galaxy A26 5G chính thức có mặt trên toàn cầu Vietnet24h - Samsung Electronics vừa chính thức công bố sự ra mắt toàn cầu[1] của Galaxy A56 5G, Galaxy A36 5G và Galaxy A26 5G, đánh dấu bước tiến quan trọng trong hành trình mở ra vô vàn trải nghiệm mới cho người dùng nhờ công nghệ AI di động tiên tiến.
Chờ đợi AI: Khi smartphone mắc kẹt trong kỳ vọng Vietnet24h - AI được kỳ vọng sẽ cách mạng hóa smartphone, nhưng thực tế, nó chỉ dừng lại ở việc tối ưu ảnh, dịch thuật hay hỗ trợ một số tác vụ cơ bản. Trong khi đó, các cải tiến về camera, pin và thiết kế lại giậm chân tại chỗ. Liệu chúng ta có đang lãng phí cả một thế hệ phần cứng để chờ đợi AI hoàn thiện?
Điện thoại gập Pura X của Huawei thúc đẩy sự thay thế của Apple và Google Vietnet24h - Huawei đã ra mắt điện thoại thông minh có thể gập lại Pura X vào thứ năm tuần này với mức giá khởi điểm là 7.499 Nhân dân tệ Trung Quốc (1.037 đô la).
Google công bố bản cập nhật AI chăm sóc sức khỏe mới cho mục Tìm kiếm Vietnet24h - Công ty cho biết họ đã mở rộng các bảng kiến ​​thức để bao gồm thêm "hàng nghìn" chủ đề về sức khỏe và các bảng kiến ​​thức này sẽ có mặt ở nhiều quốc gia và ngôn ngữ hơn.
Công nghệ màn hình chấm lượng tử của Samsung đạt chứng nhận không chứa Cadmium từ SGS Vietnet24h - Chứng nhận từ SGS xác nhận rằng màng chấm lượng tử có trong sản phẩm không chứa cadmium và đáp ứng các tiêu chuẩn theo quy định RoHS
Meta’s Community Notes sẽ sử dụng công nghệ nguồn mở từ X của Elon Musk Vietnet24h - Meta cho biết hôm thứ Năm rằng công cụ kiểm duyệt nội dung cộng đồng mới mang tên Community Notes sẽ sử dụng thuật toán nguồn mở từ X.
Apple hoãn cải tiến Siri AI đến năm 2026 Vietnet24h - Hôm qua, thứ Sáu (7/3), Apple đã thông báo rằng, họ sẽ trì hoãn các tính năng sẽ hỗ trợ Siri với khả năng làm việc với các ứng dụng khác cho đến năm sau. Tính năng đó dự kiến ​​sẽ được phát hành vào mùa xuân này.
Công ty khởi nghiệp điện thoại thông minh Nothing cố gắng khuấy động thị trường với chiếc điện thoại giá 400 đô la Vietnet24h - Công ty khởi nghiệp công nghệ tiêu dùng Nothing đã ra mắt điện thoại thông minh Phone (3a) mới vào thứ ba (4/3).
Microsoft ra mắt trợ lý AI kích hoạt bằng giọng nói mới dành cho bác sĩ Vietnet24h - Hôm nay, thứ Ha (3/3)i, Microsoft đã công bố một trợ lý AI chăm sóc sức khỏe mới có tên Dragon Copilot, được xây dựng dựa trên các giải pháp nghe chính tả và lắng nghe xung quanh hiện có.
Xiaomi ra mắt điện thoại giá 1.600 đô la khi giá cổ phiếu tăng 300% lên mức cao kỷ lục Vietnet24h - Xiaomi đã ra mắt Xiaomi 15 và Xiaomi 15 Ultra vào Chủ Nhật tại Đại hội Thế giới Di động (MWC) 2025. Xiaomi 15 có giá khởi điểm là 999 euro (1.047 đô la) và Xiaomi 15 Ultra có giá khởi điểm là 1.499 euro (1.571 đô la).
Giải pháp đánh bay hôi miệng, lấy lại tự tin trong giao tiếp Vietnet24h - Hôi miệng không chỉ là vấn đề về sức khỏe mà còn ảnh hưởng trực tiếp đến sự tự tin và giao tiếp hàng ngày, đặc biệt đối với những người làm công việc tư vấn, kinh doanh hoặc giao tiếp trực tiếp. Mùi hôi khó chịu từ miệng khiến bạn gặp khó khăn trong các cuộc trò chuyện, khiến người khác ngại ngùng và ảnh hưởng đến mối quan hệ xã hội. Tuy nhiên, đừng lo lắng, vì những giải pháp đơn giản có thể giúp bạn khắc phục tình trạng này một cách hiệu quả.
Giới chức Mỹ kiện TikTok vì lo ngại thanh thiếu niên bị ảnh hưởng bởi nghiện mạng xã hội Vietnet24h - TikTok, nền tảng video nổi tiếng, đã trở thành mục tiêu của các vụ kiện từ 13 bang ở Mỹ, với cáo buộc gây nghiện cho thanh thiếu niên và làm tổn hại đến sức khỏe tâm thần của họ thông qua những thuật toán được thiết kế để tăng thời gian sử dụng.
Cách sử dụng ChatGPT vừa ra mắt chế độ giọng nói nâng cao cho trò chuyện âm thanh của OpenAI Vietnet24h - Mặc dù công cụ này phản hồi nhanh và có thể nói bằng nhiều giọng khác nhau, nhưng bạn có thể gặp phải giới hạn về tốc độ nếu sử dụng nhiều lần trong một ngày.
Đánh giá sơ bộ về iPhone 16 mới ra lò của Apple Vietnet24h - iPhone 16 Pro Max có thời lượng pin tốt hơn và camera tuyệt vời, nhưng Apple Intelligence vẫn chưa xuất hiện
Apple Watch Series 10 chỉ có những nâng cấp nhỏ, nhưng điểm cộng lớn là sạc nhanh hơn Vietnet24h - Apple Watch là một phần của bộ phận Thiết bị đeo, Gia đình và Phụ kiện của công ty, đã báo cáo doanh thu 8,1 tỷ đô la trong quý tài chính thứ ba, giảm 2% so với một năm trước.
Apple phát hành iOS 18 cho iPhone, nhưng không bao gồm Apple Intelligence Vietnet24h - Đây là bản cập nhật iPhone lớn nhất trong năm của Apple, nhưng bản cập nhật này không bao gồm Apple Intelligence, hệ thống AI sắp ra mắt của công ty.
Lý do nhiều người không ưa chuộng smartphone màn hình gập Vietnet24h - Đã nhiều năm trôi qua kể từ khi smartphone màn hình gập lần đầu tiên xuất hiện, nhưng doanh số của thiết bị đầy sáng tạo này vẫn chưa thể cạnh tranh với smartphone thông thường. Dù các thương hiệu liên tục thúc đẩy sản phẩm ra thị trường, nhiều người vẫn tỏ ra không mặn mà với dòng sản phẩm này. Vậy điều gì khiến smartphone màn hình gập chưa thể đạt được thành công mong đợi? Hãy cùng khám phá.
Liệu trẻ em có nên dùng Apple Watch? Vietnet24h - Apple vừa tung ra một trang web tiếp thị mới, quảng cáo Apple Watch như một cách để các bậc cha mẹ giữ liên lạc với con cái của họ.
Đánh giá sơ bộ về máy tính bảng Surface Pro của Microsoft Vietnet24h - Phiên bản thứ 11 của máy tính bảng chuyển đổi Surface Pro của Microsoft dựa trên chip Qualcomm tiêu thụ năng lượng, dẫn đến thời lượng pin hơn 8 giờ trong các thử nghiệm ban đầu.
Cảnh báo: mạng lưới lừa đảo với chiêu thức giả mạo ứng dụng bảo hiểm xã hội số Vietnet24h - Trong bối cảnh không gian mạng ngày càng trở nên phức tạp, Cục An toàn thông tin, thuộc Bộ Thông tin và Truyền thông, đã phát đi một thông báo khẩn cấp về những chiêu trò lừa đảo mới mẻ, đặc biệt là các vụ việc giả mạo ứng dụng VssID - Bảo hiểm xã hội số.