Tư vấn tiêu dùng
Nvidia trình làng H200, chip cao cấp mới nhất để đào tạo các mô hình AI
Anh Sơn - Thứ Năm, 16/11/2023 9:46 CH
Vietnet24h - Thứ Hai tuần này (Nvidia hôm thứ Hai đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo thúc đẩy sự bùng nổ AI.
Thứ Hai đầu tuần này, Nvidia đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo đang thúc đẩy sự bùng nổ AI.
 
GPU mới là bản nâng cấp từ H100, con chip mà OpenAI sử dụng để đào tạo mô hình ngôn ngữ lớn tiên tiến nhất của hãng, GPT-4. Các công ty lớn, các công ty khởi nghiệp và các cơ quan chính phủ đều đang cạnh tranh để có được nguồn cung chip hạn chế.
 
Theo ước tính của Raymond James, chip H100 có giá từ 25.000 đến 40.000 USD và cần hàng nghìn con chip này làm việc cùng nhau để tạo ra những mô hình lớn nhất trong một quy trình gọi là “đào tạo”.
 
Sự phấn khích đối với GPU AI của Nvidia đã khiến cổ phiếu của công ty tăng vọt, tăng hơn 230% tính đến thời điểm hiện tại trong năm 2023. Nvidia dự kiến ​​doanh thu khoảng 16 tỷ USD trong quý tài chính thứ ba, tăng 170% so với một năm trước.
 
Cải tiến quan trọng của H200 là nó bao gồm 141GB bộ nhớ “HBM3” thế hệ tiếp theo sẽ giúp chip thực hiện “suy luận” hoặc sử dụng một mô hình lớn sau khi được đào tạo để tạo văn bản, hình ảnh hoặc dự đoán.
 
Nvidia cho biết H200 sẽ tạo ra sản lượng nhanh gần gấp đôi so với H100. Điều đó dựa trên thử nghiệm sử dụng Llama 2 LLM của Meta.
 
H200 dự kiến xuất xưởng vào quý 2 năm 2024 sẽ cạnh tranh với GPU MI300X của AMD. Chip của AMD, tương tự như H200, có bộ nhớ bổ sung so với các phiên bản tiền nhiệm, giúp phù hợp với các mẫu phần cứng lớn để chạy suy luận.

Nvidia cho biết H200 sẽ tương thích với H100, nghĩa là các công ty AI đang đào tạo với mẫu trước đó sẽ không cần thay đổi hệ thống máy chủ hoặc phần mềm của họ để sử dụng phiên bản mới.
 
Nvidia cho biết nó sẽ có sẵn ở cấu hình máy chủ 4 GPU hoặc 8 GPU trên hệ thống hoàn chỉnh HGX của công ty, cũng như trong một con chip có tên GH200, kết hợp GPU H200 với bộ xử lý dựa trên Arm.
 
Tuy nhiên, H200 có thể không giữ được ngôi vương chip AI Nvidia nhanh nhất trong thời gian dài.
 
Trong khi các công ty như Nvidia cung cấp nhiều cấu hình chip khác nhau, chất bán dẫn mới thường có một bước tiến lớn cứ sau hai năm, khi các nhà sản xuất chuyển sang một kiến trúc khác giúp mang lại hiệu suất tăng đáng kể hơn so với việc thêm bộ nhớ hoặc các tối ưu hóa nhỏ hơn khác. Cả H100 và H200 đều dựa trên kiến trúc Hopper của Nvidia.
 
Vào tháng 10, Nvidia đã thông báo với các nhà đầu tư rằng họ sẽ chuyển từ mô hình kiến trúc hai năm sang mô hình phát hành một năm do nhu cầu cao về GPU. Công ty đã trình chiếu một slide gợi ý rằng họ sẽ công bố và phát hành chip B100, dựa trên kiến trúc Blackwell sắp ra mắt vào năm 2024.
Huawei có kế hoạch cạnh tranh với Nvidia trong lĩnh vực kinh doanh chip AI như thế nào Vietnet24h - Việc Hoa Kỳ hạn chế bán chip nhân tạo tiên tiến của Nvidia sang Trung Quốc đang tạo cơ hội cho Huawei giành thị phần, với các nguồn tin cho biết họ đã giành được đơn đặt hàng chip AI khá lớn từ gã khổng lồ công nghệ Trung Quốc Baidu trong năm nay.
Nvidia sẽ đứng số 1 về doanh thu ngành bán dãn năm nay Vietnet24h - Nvidia có thể sẽ trở thành công ty bán dẫn số 1 về doanh thu trong năm nay, Semiconductor Intelligence ước tính doanh thu năm 2023 của Nvidia vào khoảng 52,9 tỷ USD và của Intel là 51,6 tỷ USD.
Tin khác cùng chuyên mục
Tin đọc nhiều
Huawei Watch D2: chăm sóc sức khỏe toàn diện với công nghệ đo huyết áp 24/7 Vietnet24h - Với công nghệ đo huyết áp động ABPM, Huawei Watch D2 không chỉ cung cấp chỉ số sức khỏe liên tục mà còn giúp người dùng nhận diện và quản lý huyết áp một cách chủ động. Thiết bị mang lại một giải pháp sức khỏe tối ưu, hiện đại cho người dùng toàn cầu.
Tổng quan về sản phẩm thiên nhiên CAREOX - mang cuộc sống xanh đến mọi nhà Vietnet24h - Chuyển đổi từ sản phẩm hóa chất sang sinh học đang trở thành xu hướng tất yếu để bảo vệ sức khỏe và môi trường. CAREOX, sản phẩm tẩy rửa sinh học của German Oekotec Việt Nam, là minh chứng cho nỗ lực này với khả năng làm sạch, diệt khuẩn và khử mùi toàn diện nhờ công nghệ điện phân tách màng tiên tiến từ CHLB Đức.
Khám phá Macbook Pro 2024 với chip M4 max: cỗ máy đồ họa siêu việt Vietnet24h - Apple đã chính thức trình làng chip M4 Max, sản phẩm mạnh nhất trong dòng vi xử lý M4, đi kèm với MacBook Pro 2024. Sự kết hợp này mang đến hiệu suất đồ họa ấn tượng, hứa hẹn sẽ đáp ứng mọi nhu cầu của người dùng sáng tạo.
Trải nghiệm sáng tạo không giới hạn với Galaxy Z Flip6 Vietnet24h - Được trang bị nhiều tính năng độc đáo và công nghệ tiên tiến, Galaxy Z Flip6 mang đến cho người trẻ những công cụ cần thiết để ghi lại khoảnh khắc sống động và thể hiện phong cách cá nhân một cách ấn tượng.
Apple phát hành bản xem trước mới của AI, bao gồm tích hợp ChatGPT Vietnet24h - Hôm thứ Tư, Apple đã phát hành phiên bản beta của một loạt tính năng Apple Intelligence, bao gồm cả tính năng tích hợp ChatGPT được mong đợi từ lâu.
Microsoft cải thiện Windows Update: thời gian cài đặt giảm tới 45% Vietnet24h - Windows 11 24H2 được tinh chỉnh để tối ưu hóa hiệu suất hệ thống, với quy trình cập nhật nhanh và ít tiêu tốn tài nguyên hơn, ngay cả trên các thiết bị cũ kỹ.
SKT ra mắt phiên bản PC của dịch vụ AI cung cấp quyền truy cập vào nhiều mô hình ngôn ngữ lớn (LLM) Vietnet24h - Phiên bản PC cho phép người dùng so sánh các LLM khác nhau mà không cần quá trình sao chép và dán, đồng thời cung cấp khả năng chuyển đổi giữa các mô hình liền mạch để phản ánh bối cảnh của các cuộc đối thoại với mô hình trước đó khi tiếp tục các cuộc trò chuyện với một mô hình khác.
Oura ra mắt nhẫn thông minh mới với thiết kế được cập nhật và cảm biến mới với giá 349 đô la Vietnet24h - Theo thông cáo báo chí, chiếc nhẫn thông minh mới có công nghệ cảm biến chính xác hơn, thiết kế đẹp hơn và thời lượng pin lên đến tám ngày.
Tương lai bền vững: Smartphone sạc pin từ ánh sáng mặt trời Vietnet24h - Một nhóm nghiên cứu tại UNIST đã phát triển thành công pin mặt trời trong suốt có khả năng sạc smartphone chỉ bằng ánh sáng mặt trời. Phát minh này không chỉ nâng cao hiệu suất của các thiết bị điện tử mà còn mở ra kỷ nguyên mới cho năng lượng tái tạo trong cuộc sống hằng ngày.
Huawei dự kiến phát hành Mate XT gập ba quốc tế trong quý i/2025 Vietnet24h - Huawei chuẩn bị ra mắt dòng điện thoại gập ba Mate XT trên thị trường quốc tế, sau khi gây chú ý tại Trung Quốc.
Giới chức Mỹ kiện TikTok vì lo ngại thanh thiếu niên bị ảnh hưởng bởi nghiện mạng xã hội Vietnet24h - TikTok, nền tảng video nổi tiếng, đã trở thành mục tiêu của các vụ kiện từ 13 bang ở Mỹ, với cáo buộc gây nghiện cho thanh thiếu niên và làm tổn hại đến sức khỏe tâm thần của họ thông qua những thuật toán được thiết kế để tăng thời gian sử dụng.
Cách sử dụng ChatGPT vừa ra mắt chế độ giọng nói nâng cao cho trò chuyện âm thanh của OpenAI Vietnet24h - Mặc dù công cụ này phản hồi nhanh và có thể nói bằng nhiều giọng khác nhau, nhưng bạn có thể gặp phải giới hạn về tốc độ nếu sử dụng nhiều lần trong một ngày.
Đánh giá sơ bộ về iPhone 16 mới ra lò của Apple Vietnet24h - iPhone 16 Pro Max có thời lượng pin tốt hơn và camera tuyệt vời, nhưng Apple Intelligence vẫn chưa xuất hiện
Apple Watch Series 10 chỉ có những nâng cấp nhỏ, nhưng điểm cộng lớn là sạc nhanh hơn Vietnet24h - Apple Watch là một phần của bộ phận Thiết bị đeo, Gia đình và Phụ kiện của công ty, đã báo cáo doanh thu 8,1 tỷ đô la trong quý tài chính thứ ba, giảm 2% so với một năm trước.
Apple phát hành iOS 18 cho iPhone, nhưng không bao gồm Apple Intelligence Vietnet24h - Đây là bản cập nhật iPhone lớn nhất trong năm của Apple, nhưng bản cập nhật này không bao gồm Apple Intelligence, hệ thống AI sắp ra mắt của công ty.
Lý do nhiều người không ưa chuộng smartphone màn hình gập Vietnet24h - Đã nhiều năm trôi qua kể từ khi smartphone màn hình gập lần đầu tiên xuất hiện, nhưng doanh số của thiết bị đầy sáng tạo này vẫn chưa thể cạnh tranh với smartphone thông thường. Dù các thương hiệu liên tục thúc đẩy sản phẩm ra thị trường, nhiều người vẫn tỏ ra không mặn mà với dòng sản phẩm này. Vậy điều gì khiến smartphone màn hình gập chưa thể đạt được thành công mong đợi? Hãy cùng khám phá.
Liệu trẻ em có nên dùng Apple Watch? Vietnet24h - Apple vừa tung ra một trang web tiếp thị mới, quảng cáo Apple Watch như một cách để các bậc cha mẹ giữ liên lạc với con cái của họ.
Đánh giá sơ bộ về máy tính bảng Surface Pro của Microsoft Vietnet24h - Phiên bản thứ 11 của máy tính bảng chuyển đổi Surface Pro của Microsoft dựa trên chip Qualcomm tiêu thụ năng lượng, dẫn đến thời lượng pin hơn 8 giờ trong các thử nghiệm ban đầu.
Cảnh báo: mạng lưới lừa đảo với chiêu thức giả mạo ứng dụng bảo hiểm xã hội số Vietnet24h - Trong bối cảnh không gian mạng ngày càng trở nên phức tạp, Cục An toàn thông tin, thuộc Bộ Thông tin và Truyền thông, đã phát đi một thông báo khẩn cấp về những chiêu trò lừa đảo mới mẻ, đặc biệt là các vụ việc giả mạo ứng dụng VssID - Bảo hiểm xã hội số.
Cổng tiếp nhận phản ánh lạm dụng tên miền: Hỗ trợ người dùng bảo vệ quyền lợi Vietnet24h - Cổng tiếp nhận phản ánh lạm dụng tên miền hỗ trợ người dùng bảo vệ quyền lợi và chống lại hành vi vi phạm.