Công nghệ
Nvidia trình làng H200, chip cao cấp mới nhất để đào tạo các mô hình AI
Anh Sơn - Thứ Năm, 16/11/2023 9:46 CH
Vietnet24h - Thứ Hai tuần này (Nvidia hôm thứ Hai đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo thúc đẩy sự bùng nổ AI.
Thứ Hai đầu tuần này, Nvidia đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo đang thúc đẩy sự bùng nổ AI.
 
GPU mới là bản nâng cấp từ H100, con chip mà OpenAI sử dụng để đào tạo mô hình ngôn ngữ lớn tiên tiến nhất của hãng, GPT-4. Các công ty lớn, các công ty khởi nghiệp và các cơ quan chính phủ đều đang cạnh tranh để có được nguồn cung chip hạn chế.
 
Theo ước tính của Raymond James, chip H100 có giá từ 25.000 đến 40.000 USD và cần hàng nghìn con chip này làm việc cùng nhau để tạo ra những mô hình lớn nhất trong một quy trình gọi là “đào tạo”.
 
Sự phấn khích đối với GPU AI của Nvidia đã khiến cổ phiếu của công ty tăng vọt, tăng hơn 230% tính đến thời điểm hiện tại trong năm 2023. Nvidia dự kiến ​​doanh thu khoảng 16 tỷ USD trong quý tài chính thứ ba, tăng 170% so với một năm trước.
 
Cải tiến quan trọng của H200 là nó bao gồm 141GB bộ nhớ “HBM3” thế hệ tiếp theo sẽ giúp chip thực hiện “suy luận” hoặc sử dụng một mô hình lớn sau khi được đào tạo để tạo văn bản, hình ảnh hoặc dự đoán.
 
Nvidia cho biết H200 sẽ tạo ra sản lượng nhanh gần gấp đôi so với H100. Điều đó dựa trên thử nghiệm sử dụng Llama 2 LLM của Meta.
 
H200 dự kiến xuất xưởng vào quý 2 năm 2024 sẽ cạnh tranh với GPU MI300X của AMD. Chip của AMD, tương tự như H200, có bộ nhớ bổ sung so với các phiên bản tiền nhiệm, giúp phù hợp với các mẫu phần cứng lớn để chạy suy luận.

Nvidia cho biết H200 sẽ tương thích với H100, nghĩa là các công ty AI đang đào tạo với mẫu trước đó sẽ không cần thay đổi hệ thống máy chủ hoặc phần mềm của họ để sử dụng phiên bản mới.
 
Nvidia cho biết nó sẽ có sẵn ở cấu hình máy chủ 4 GPU hoặc 8 GPU trên hệ thống hoàn chỉnh HGX của công ty, cũng như trong một con chip có tên GH200, kết hợp GPU H200 với bộ xử lý dựa trên Arm.
 
Tuy nhiên, H200 có thể không giữ được ngôi vương chip AI Nvidia nhanh nhất trong thời gian dài.
 
Trong khi các công ty như Nvidia cung cấp nhiều cấu hình chip khác nhau, chất bán dẫn mới thường có một bước tiến lớn cứ sau hai năm, khi các nhà sản xuất chuyển sang một kiến trúc khác giúp mang lại hiệu suất tăng đáng kể hơn so với việc thêm bộ nhớ hoặc các tối ưu hóa nhỏ hơn khác. Cả H100 và H200 đều dựa trên kiến trúc Hopper của Nvidia.
 
Vào tháng 10, Nvidia đã thông báo với các nhà đầu tư rằng họ sẽ chuyển từ mô hình kiến trúc hai năm sang mô hình phát hành một năm do nhu cầu cao về GPU. Công ty đã trình chiếu một slide gợi ý rằng họ sẽ công bố và phát hành chip B100, dựa trên kiến trúc Blackwell sắp ra mắt vào năm 2024.
Huawei có kế hoạch cạnh tranh với Nvidia trong lĩnh vực kinh doanh chip AI như thế nào Vietnet24h - Việc Hoa Kỳ hạn chế bán chip nhân tạo tiên tiến của Nvidia sang Trung Quốc đang tạo cơ hội cho Huawei giành thị phần, với các nguồn tin cho biết họ đã giành được đơn đặt hàng chip AI khá lớn từ gã khổng lồ công nghệ Trung Quốc Baidu trong năm nay.
Nvidia sẽ đứng số 1 về doanh thu ngành bán dãn năm nay Vietnet24h - Nvidia có thể sẽ trở thành công ty bán dẫn số 1 về doanh thu trong năm nay, Semiconductor Intelligence ước tính doanh thu năm 2023 của Nvidia vào khoảng 52,9 tỷ USD và của Intel là 51,6 tỷ USD.
Tin khác cùng chuyên mục
Tin đọc nhiều
Vì sao màn hình kép và AI khiến Yoga Book 9i trở nên khác biệt? Vietnet24h - Không phải là chiếc laptop đầu tiên có màn hình kép, nhưng Yoga Book 9i kết hợp công nghệ OLED, AI và thiết kế xoay gập linh hoạt theo cách mà rất ít sản phẩm trên thị trường có thể làm được. Đâu là điểm khiến nó trở thành công cụ mơ ước cho người làm sáng tạo?
Muốn dùng AI không cần mạng? Google đã có giải pháp mới cho bạn Vietnet24h - Không cần Wi-Fi, không cần 4G, bạn vẫn có thể tạo ảnh, viết code hay tóm tắt văn bản nhờ AI. Với AI Edge Gallery, Google mang trải nghiệm trí tuệ nhân tạo về ngay trong túi áo của bạn – gọn nhẹ, bảo mật và sẵn sàng mọi lúc.
Thiết kế siêu mỏng "đòi hỏi" đánh đổi – iPhone 17 Air và bài toán năng lượng Vietnet24h - Việc Apple chuẩn bị trình làng iPhone 17 Air với thiết kế siêu mỏng chỉ 5,5 mm, theo tiết lộ mới nhất từ tài khoản yeux1122 trên Naver, đang tạo ra nhiều kỳ vọng về mặt thẩm mỹ – nhưng cũng đồng thời đặt ra những dấu hỏi lớn về hiệu suất pin và trải nghiệm người dùng trong thực tế.
MediaTek ra mắt bộ xử lý AI cho Chromebook Plus Vietnet24h - MediaTek Inc., nhà thiết kế IC lớn nhất tại Đài Loan, đã giới thiệu bộ xử lý mới -- Kompanio Ultra -- vào thứ Hai, công ty mô tả đây là cột mốc mới nhất trong Chromebook hiệu suất cao, chạy bằng trí tuệ nhân tạo.
Chuẩn GPMI của Trung Quốc: ‘Một dây cáp cho mọi thiết bị’ Vietnet24h - GPMI được thiết kế để tối giản hóa kết nối số bằng cách gộp cả dữ liệu và điện năng vào một sợi cáp duy nhất. Nếu được phổ biến, đây có thể là bước ngoặt định hình lại hệ sinh thái điện tử trong tương lai.
Rò rỉ cách Apple sẽ làm cho màn hình bên trong của iPhone gập trở nên quen thuộc với người dùng iPad Vietnet24h - Chiếc điện thoại có thể gập đầu tiên của Apple dự kiến ​​sẽ được sản xuất hàng loạt vào cuối năm sau và có thể ra mắt vào quý 4 năm 2026 hoặc quý 1 năm 2027.
Alibaba cung cấp miễn phí mô hình tạo video AI trên toàn cầu Vietnet24h - Gã khổng lồ Trung Quốc cho biết họ đang mở mã nguồn bốn mô hình thuộc dòng Wan2.1, phiên bản mới nhất của mô hình AI nền tảng của công ty, có khả năng tạo hình ảnh và video từ dữ liệu đầu vào là văn bản và hình ảnh.
Từ Gmail đến Word, cài đặt quyền riêng tư và AI của bạn đang bước vào một mối quan hệ mới Vietnet24h - Các chương trình như Gmail, Microsoft và Facebook đã tồn tại trong nhiều năm qua đã âm thầm kích hoạt và tích hợp các tính năng AI.
AI trong Gmail, Word: Tiện ích hay mối đe dọa quyền riêng tư? Vietnet24h - AI đang dần xâm nhập vào mọi ngóc ngách của cuộc sống số, từ email đến sổ sách kế toán. Tuy nhiên, sự thiếu rõ ràng trong chính sách bảo mật khiến nhiều chuyên gia cảnh báo về nguy cơ dữ liệu cá nhân bị lạm dụng.
OpenAI bật mí 5 mẹo dùng ChatGPT mà bạn chưa biết Vietnet24h - Nick Turley, chuyên gia của OpenAI, tiết lộ các tính năng như tải tập tin, tạo GPT tùy chỉnh và sử dụng giọng nói, hứa hẹn thay đổi cách người dùng tương tác với ChatGPT.
iPhone 17: Khi Apple buộc phải lắng nghe người dùng Vietnet24h - Từ màn hình lớn hơn đến tốc độ làm mới 120Hz, dòng iPhone 17 cho thấy Apple đang phá bỏ ranh giới giữa tiêu chuẩn và cao cấp. Đặc biệt, phiên bản iPhone 17 Air có thể là quân bài chiến lược để đối đầu trực tiếp với Samsung trong cuộc đua thiết kế mỏng nhẹ.
Nvidia vượt qua Microsoft, giành lại danh hiệu công ty có giá trị nhất lần đầu tiên kể từ tháng Giêng Vietnet24h - Nvidia đã vượt qua Microsoft về vốn hóa thị trường vào thứ Ba, một lần nữa trở thành công ty đại chúng có giá trị nhất thế giới.
Trung Quốc chỉ trích Trump vì 'lạm dụng' kiểm soát xuất khẩu chất bán dẫn Vietnet24h - Trung Quốc lên tiếng phản đối việc kiểm soát xuất khẩu chất bán dẫn của Hoa Kỳ để đáp trả cáo buộc của Trump rằng nền kinh tế lớn thứ hai thế giới đã vi phạm thỏa thuận thương mại sơ bộ giữa hai nước.
Tàu vũ trụ Starship của SpaceX phát nổ lần thứ ba liên tiếp Vietnet24h - SpaceX chứng kiến ​​hệ thống Starship của mình phát nổ vào thứ ba trong chuyến bay thử nghiệm, đây là thất bại thứ ba liên tiếp của nhà sản xuất tên lửa của Elon Musk.
Samsung sẽ bổ sung model Edge vào Galaxy S26 vào năm sau Vietnet24h - Samsung đang có kế hoạch bổ sung thêm một mẫu Edge vào dòng điện thoại thông minh Galaxy S26 của mình vào năm tới,
CEO Nvidia công bố sáng kiến ​​xây dựng siêu máy tính AI cho Đài Loan Vietnet24h - CEO Nvidia Huang Jensen công bố sáng kiến xây dựng "siêu máy tính AI khổng lồ đầu tiên" cho Đài Loan vào thứ Hai (19/5).
Samsung Display ra mắt tại Computex, tiết lộ màn hình OLED CNTT thế hệ tiếp theo Vietnet24h - Samsung Display đã công bố vào ngày 20 tháng 5 việc công ty sẽ lần đầu tiên tham gia Computex, triển lãm công nghệ thông tin (CNTT) lớn nhất châu Á được tổ chức tại Đài Loan, giới thiệu một loạt các tấm nền diode phát quang hữu cơ (OLED) hàng đầu trong ngành.
Nvidia công bố công nghệ mới để giữ vị trí trung tâm trong phát triển AI Vietnet24h - Chương trình “NVLink Fusion” mới của Nvidia sẽ cho phép khách hàng và đối tác sử dụng CPU và GPU không phải của Nvidia cùng với các sản phẩm của Nvidia và NVLink.
Nvidia, Cisco, Oracle và OpenAI đang hỗ trợ dự án trung tâm dữ liệu Stargate của UAE Vietnet24h - Các gã khổng lồ công nghệ Hoa Kỳ là Nvidia, Cisco, Oracle và OpenAI đang hỗ trợ trung tâm dữ liệu trí tuệ nhân tạo “UAE Stargate” được công bố trong tuần này.
Sự chuyển dịch của Apple khỏi Trung Quốc bắt đầu với thỏa thuận chip trị giá 433 triệu đô la của Foxconn tại Ấn Độ Vietnet24h - Nhà máy này dự kiến ​​sẽ đi vào hoạt động tại tiểu bang Uttar Pradesh, miền bắc Ấn Độ vào năm 2027 và sẽ sản xuất chip điều khiển màn hình của Foxconn, được sử dụng trong thiết bị điện tử tiêu dùng.
LG Innotek ra mắt mô-đun xe truyền thông vệ tinh 5G đầu tiên trên thế giới Vietnet24h - Mô-đun mới nhất hỗ trợ 5G NR-NTN, một mạng truyền thông di động hoạt động trên các vệ tinh quỹ đạo Trái đất thấp, cho phép truyền dữ liệu khối lượng lớn theo thời gian thực.
Công nghệ như phim viễn tưởng: Đeo kính áp tròng, nhắm mắt vẫn thấy rõ! Vietnet24h - Ngỡ chỉ có trong phim Marvel, nhưng loại kính áp tròng siêu nhỏ gọn vừa ra đời tại Trung Quốc lại có thể giúp người dùng nhìn thấy trong đêm tối mà không cần mở mắt. Chuyện thật như đùa, nhưng khoa học đã chứng minh điều đó là khả thi.
Google, Samsung sẽ ra mắt kính thông minh XR trong năm nay Vietnet24h - Samsung bước lên vị trí dẫn đầu về phần cứng trong sự trở lại của kính thông minh Google, mở rộng vai trò trong hệ sinh thái XR đang phát triển
Neuralink: cấy chip não, biên tập video và đăng YouTube bằng suy nghĩ Vietnet24h - Trong một bước đột phá ấn tượng, Bradford Smith, người mắc bệnh ALS, đã chứng minh khả năng tuyệt vời của công nghệ giao diện não-máy tính (BCI) khi có thể biên tập video và đăng tải lên YouTube chỉ bằng suy nghĩ, mà không cần sự trợ giúp từ bất kỳ thiết bị hay người khác. Đây không chỉ là sự tiến bộ trong lĩnh vực công nghệ mà còn mang lại hy vọng mới cho những người khuyết tật vận động.
LG Display công bố màn hình OLED màu xanh huỳnh quang thương mại đầu tiên trên thế giới Vietnet24h - LG Display đã xác minh thành công hiệu suất sản xuất của tấm nền điốt phát quang hữu cơ phát quang màu xanh lam (OLED) cho dây chuyền sản xuất hàng loạt lần đầu tiên trên thế giới, công ty cho biết hôm thứ Năm (1/5).
Người Trung Quốc chuẩn bị bay như Iron Man! Vietnet24h - Một thiết bị bay cá nhân vừa được trình diễn tại Hàng Châu khiến nhiều người liên tưởng đến các bộ phim siêu anh hùng. Nhưng lần này, không phải Hollywood mà chính các nhà khoa học Trung Quốc mới là người hiện thực hóa giấc mơ bay cá nhân.
Công nghệ cấy ghép não được FDA chấp thuận cho Precision Neuroscience Vietnet24h - Precision Neuroscience thông báo rằng một thành phần cốt lõi của hệ thống cấy ghép não đã được Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ chấp thuận.
Từ ghi hình kép đến UX sáng tạo: iPhone 17 Pro có thể mở ra chương mới trong thiết kế trải nghiệm Vietnet24h - Không chỉ là tính năng mới, ghi hình kép trên iPhone 17 Pro là phép thử đầu tiên cho cách Apple xây dựng trải nghiệm người dùng kiểu mới – nơi cảm xúc, phản ứng và câu chuyện của người quay trở thành trung tâm của mọi khung hình.
Kim loại lỏng: Apple đang thử nghiệm cho iPhone gập, bền hơn titan 2,5 lần Vietnet24h - Công nghệ bản lề kim loại lỏng có thể giúp iPhone gập không chỉ bền hơn mà còn có thiết kế sang trọng hơn. Liệu đây có phải là bước tiến lớn trong công nghệ smartphone gập?
Apple áp dụng kim loại lỏng cho iPhone gập, mở ra kỷ nguyên mới Vietnet24h - Apple được cho là sẽ sử dụng kim loại lỏng để chế tạo bản lề cho iPhone gập, giúp tăng độ bền và hạn chế nếp gấp màn hình. Công nghệ này có thể tạo ra bước đột phá trên thị trường smartphone gập.