Tầm nhìn công nghệ
Nvidia trình làng H200, chip cao cấp mới nhất để đào tạo các mô hình AI
Anh Sơn - Thứ Năm, 16/11/2023 9:46 CH
Vietnet24h - Thứ Hai tuần này (Nvidia hôm thứ Hai đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo thúc đẩy sự bùng nổ AI.
Thứ Hai đầu tuần này, Nvidia đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo đang thúc đẩy sự bùng nổ AI.
 
GPU mới là bản nâng cấp từ H100, con chip mà OpenAI sử dụng để đào tạo mô hình ngôn ngữ lớn tiên tiến nhất của hãng, GPT-4. Các công ty lớn, các công ty khởi nghiệp và các cơ quan chính phủ đều đang cạnh tranh để có được nguồn cung chip hạn chế.
 
Theo ước tính của Raymond James, chip H100 có giá từ 25.000 đến 40.000 USD và cần hàng nghìn con chip này làm việc cùng nhau để tạo ra những mô hình lớn nhất trong một quy trình gọi là “đào tạo”.
 
Sự phấn khích đối với GPU AI của Nvidia đã khiến cổ phiếu của công ty tăng vọt, tăng hơn 230% tính đến thời điểm hiện tại trong năm 2023. Nvidia dự kiến ​​doanh thu khoảng 16 tỷ USD trong quý tài chính thứ ba, tăng 170% so với một năm trước.
 
Cải tiến quan trọng của H200 là nó bao gồm 141GB bộ nhớ “HBM3” thế hệ tiếp theo sẽ giúp chip thực hiện “suy luận” hoặc sử dụng một mô hình lớn sau khi được đào tạo để tạo văn bản, hình ảnh hoặc dự đoán.
 
Nvidia cho biết H200 sẽ tạo ra sản lượng nhanh gần gấp đôi so với H100. Điều đó dựa trên thử nghiệm sử dụng Llama 2 LLM của Meta.
 
H200 dự kiến xuất xưởng vào quý 2 năm 2024 sẽ cạnh tranh với GPU MI300X của AMD. Chip của AMD, tương tự như H200, có bộ nhớ bổ sung so với các phiên bản tiền nhiệm, giúp phù hợp với các mẫu phần cứng lớn để chạy suy luận.

Nvidia cho biết H200 sẽ tương thích với H100, nghĩa là các công ty AI đang đào tạo với mẫu trước đó sẽ không cần thay đổi hệ thống máy chủ hoặc phần mềm của họ để sử dụng phiên bản mới.
 
Nvidia cho biết nó sẽ có sẵn ở cấu hình máy chủ 4 GPU hoặc 8 GPU trên hệ thống hoàn chỉnh HGX của công ty, cũng như trong một con chip có tên GH200, kết hợp GPU H200 với bộ xử lý dựa trên Arm.
 
Tuy nhiên, H200 có thể không giữ được ngôi vương chip AI Nvidia nhanh nhất trong thời gian dài.
 
Trong khi các công ty như Nvidia cung cấp nhiều cấu hình chip khác nhau, chất bán dẫn mới thường có một bước tiến lớn cứ sau hai năm, khi các nhà sản xuất chuyển sang một kiến trúc khác giúp mang lại hiệu suất tăng đáng kể hơn so với việc thêm bộ nhớ hoặc các tối ưu hóa nhỏ hơn khác. Cả H100 và H200 đều dựa trên kiến trúc Hopper của Nvidia.
 
Vào tháng 10, Nvidia đã thông báo với các nhà đầu tư rằng họ sẽ chuyển từ mô hình kiến trúc hai năm sang mô hình phát hành một năm do nhu cầu cao về GPU. Công ty đã trình chiếu một slide gợi ý rằng họ sẽ công bố và phát hành chip B100, dựa trên kiến trúc Blackwell sắp ra mắt vào năm 2024.
Huawei có kế hoạch cạnh tranh với Nvidia trong lĩnh vực kinh doanh chip AI như thế nào Vietnet24h - Việc Hoa Kỳ hạn chế bán chip nhân tạo tiên tiến của Nvidia sang Trung Quốc đang tạo cơ hội cho Huawei giành thị phần, với các nguồn tin cho biết họ đã giành được đơn đặt hàng chip AI khá lớn từ gã khổng lồ công nghệ Trung Quốc Baidu trong năm nay.
Nvidia sẽ đứng số 1 về doanh thu ngành bán dãn năm nay Vietnet24h - Nvidia có thể sẽ trở thành công ty bán dẫn số 1 về doanh thu trong năm nay, Semiconductor Intelligence ước tính doanh thu năm 2023 của Nvidia vào khoảng 52,9 tỷ USD và của Intel là 51,6 tỷ USD.
Tin khác cùng chuyên mục
Tin đọc nhiều
Google sẽ bị chia tách? Bộ Tư pháp Mỹ yêu cầu thay đổi lớn trong hoạt động của Alphabet Vietnet24h - Trong một động thái quyết liệt, Bộ Tư pháp Mỹ đã yêu cầu Tòa án chia tách Google và yêu cầu Alphabet áp dụng các biện pháp để ngừng hành vi ưu tiên công cụ tìm kiếm trên Android. Đề xuất này cho thấy chính quyền Mỹ đang nghiêm túc trong việc kiểm soát quyền lực của các công ty công nghệ lớn.
Hàn Quốc theo dõi chặt chẽ những thay đổi có thể có trong chính sách tín dụng thuế xe điện của Hoa Kỳ Vietnet24h - Hàn Quốc đang theo dõi chặt chẽ những thay đổi tiềm tàng đối với chính sách của Hoa Kỳ về xe điện (EV) dưới thời chính quyền Donald Trump sắp nhậm chức, nhưng chưa có thay đổi nào được xác nhận, Bộ Công nghiệp Hàn Quốc cho biết hôm thứ Sáu.
Chiến thắng của ông Trump có thể mang lại cho TikTok cơ hội tiếp tục ở lại Hoa Kỳ. Vietnet24h - Chiến thắng trong cuộc bầu cử của Donald Trump có thể mang lại cơ hội cho TikTok, ứng dụng đang phải đối mặt với lệnh cấm tiềm tàng của Hoa Kỳ vào tháng 1 nếu không được thoái vốn khỏi công ty mẹ ByteDance.
Đảng cầm quyền Hàn Quốc đề xuất luật chip đặc biệt để ngăn chặn Trump Vietnet24h - Đảng cầm quyền Hàn Quốc đã đề xuất một đạo luật chip đặc biệt vào thứ Hai (11/11) để trợ cấp cho các nhà sản xuất chip và miễn trừ giới hạn giờ làm việc trên toàn quốc, nhằm giải quyết các rủi ro tiềm ẩn từ các biện pháp mà Tổng thống Hoa Kỳ sắp nhậm chức Donald Trump đe dọa.
Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050 Vietnet24h - Ngày 21/9/2024, Thủ tướng Phạm Minh Chính đã ký Quyết định số 1018/QĐ-TTg ban hành Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050. Đây là bước tiến lớn trong việc đưa Việt Nam trở thành một trong những trung tâm hàng đầu thế giới trong lĩnh vực bán dẫn, một ngành công nghiệp đang trở thành trụ cột trong nền kinh tế toàn cầu.
Tổng giám đốc điều hành Intel vạch ra con đường phía trước cho công ty Vietnet24h - Sau cuộc họp hội đồng quản trị kéo dài ba ngày vào tuần trước, Tổng giám đốc điều hành của Intel, Pat Gelsinger đã vạch ra con đường phía trước của công ty trong một lá thư gửi cho nhân viên.
Hoa Kỳ triển khai các biện pháp kiểm soát xuất khẩu liên quan đến chip mới Vietnet24h - Chính quyền Biden đang triển khai các biện pháp kiểm soát xuất khẩu mới đối với các công nghệ quan trọng, bao gồm máy tính lượng tử và hàng hóa bán dẫn, trong bối cảnh Trung Quốc đang đạt được những tiến bộ trong ngành chip toàn cầu.
Các nhà lập pháp lo ngại về quảng cáo ma túy bất hợp pháp trên Facebook và Instagram Vietnet24h - Một nhóm nhà lập pháp lưỡng đảng đã gửi cho Giám đốc điều hành Meta, Mark Zuckerberg một lá thư bày tỏ quan ngại về các quảng cáo ma túy bất hợp pháp trên Facebook và Instagram.
Thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn Vietnet24h - Thủ tướng Chính phủ Phạm Minh Chính đã ký Quyết định số 791/QĐ-TTg về việc thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn (Ban Chỉ đạo).
Khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và mạng xã hội Vietnet24h - Theo báo cáo của Ủy ban giáo dục Hạ viện Anh, việc khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và tăng độ tuổi tối thiểu để mở tài khoản mạng xã hội lên 16 nhằm giảm tác động tiêu cực của công nghệ đối với sức khỏe và giáo dục của thanh thiếu niên.
AI và robot: ranh giới mong manh giữa tiện ích và mối nguy hiểm Vietnet24h - Robot tích hợp AI đang ngày càng thông minh, nhưng cũng là nguyên nhân của nhiều lo ngại. Một video thử nghiệm tại Trung Quốc cho thấy, chỉ cần một mệnh lệnh sai, trí tuệ nhân tạo có thể dẫn dắt máy móc đi lệch quỹ đạo và gây nguy hiểm cho nhân loại.
Samsung, LG ôm trọn Giải thưởng Đổi mới tại CES 2025 Vietnet24h - Trong chương trình năm nay, Samsung đã giành được 29 giải thưởng, bao gồm bốn sản phẩm đổi mới tốt nhất, trong khi LG nhận được 24 giải thưởng với ba giải thưởng đổi mới hàng đầu.
Liệu Samsung có hợp tác với đối thủ cạnh tranh trong lĩnh vực đúc là TSMC không? Vietnet24h - Sự thay đổi chiến lược đang hiện hữu khi gã khổng lồ chip Hàn Quốc đang phải vật lộn để đảm bảo lợi thế trong lĩnh vực chip AI tiên tiến
LG thảo luận về hợp tác chiến lược với nhà thiết kế chip nổi tiếng Jim Keller Vietnet24h - Tổng giám đốc điều hành LG Electronics Cho Joo-wan đã gặp Jim Keller, một nhà thiết kế chip nổi tiếng và là Tổng giám đốc điều hành của công ty khởi nghiệp bán dẫn trí tuệ nhân tạo (AI) Tenstorrent của Hoa Kỳ.
Hội chợ Thương mại Quốc tế Việt Nam lần thứ 22 tại TP. Hồ Chí Minh VIETNAM EXPO 2024 HCMC - Giải pháp cho cuộc sống hiện đại Vietnet24h - Hội chợ Thương mại Quốc tế Việt Nam lần thứ 22 tại Thành phố Hồ Chí Minh (VIETNAM EXPO 2024 HCMC) với chủ đề “Giải pháp cho cuộc sống hiện đại” sẽ diễn ra từ ngày 5-7 tháng 12 năm 2024 tại Trung tâm Hội nghị và Triển lãm Sài Gòn (SECC) – 799 Nguyễn Văn Linh, Quận 7, TP. Hồ Chí Minh.
Việt Nam mở rộng dấu chân trong mảng đóng gói chip Vietnet24h - Ngành sản xuất bán dẫn hậu cần, vốn ít thâm dụng vốn hơn so với sản xuất chip tiền tuyến mang tính chiến lược hơn tại các xưởng đúc, hiện do Trung Quốc và Đài Loan thống trị, nhưng Việt Nam là một trong những quốc gia tăng trưởng nhanh nhất trong phân khúc 95 tỷ đô la.
Huawei kêu gọi nhà mạng cùng xây dựng tương lai AI di động Vietnet24h - Phó chủ tịch Huawei, ông Li Peng, cho rằng mạng 5.5G sẽ là bệ phóng cho AI di động, giúp các nhà mạng khai thác tối đa cơ hội tăng trưởng từ nhu cầu sử dụng AI ngày càng tăng của người dùng.
Tại sao Meta và Snap chi hàng tỷ đô la cho kính AR Vietnet24h - Sau một thập kỷ phát triển và hàng tỷ đô la, vào tháng 9, CEO của Meta, Mark Zuckerberg đã vén bức màn về một trong những dự án đầy tham vọng nhất của công ty: một nguyên mẫu thực tế tăng cường có tên là Orion.
Tấn công mạng: khi AI trở thành vũ khí mới của tội phạm Vietnet24h - Một báo cáo mới từ Imperva chỉ ra rằng, với sự phổ biến của trí tuệ nhân tạo và mô hình ngôn ngữ lớn, ngành bán lẻ đang phải đối mặt với một làn sóng tấn công mạng ngày càng tinh vi. Hơn 500.000 cuộc tấn công mỗi ngày đang đe dọa nghiêm trọng đến an ninh thông tin và uy tín doanh nghiệp.
CEO Tesla Elon Musk ra mắt robotaxi 'Cybercab' Vietnet24h - Vào thứ năm (10/10), CEO của Tesla, Elon Musk đã giới thiệu một chiếc xe taxi robot được mong đợi từ lâu với hai cửa cánh chim và không có vô lăng hoặc bàn đạp và gây bất ngờ với xe tải robot, đặt cược vào sự thay đổi trọng tâm từ những chiếc xe giá rẻ dành cho thị trường đại chúng sang xe robot.
Các công ty LG cắt giảm 4,25 triệu tấn khí thải vào năm 2023 Vietnet24h - Bảy công ty liên kết của Tập đoàn LG đã giảm 4,25 triệu tấn khí thải carbon vào năm ngoái như một phần trong nỗ lực của tập đoàn nhằm đạt được trạng thái phát thải ròng bằng 0 vào năm 2050.
Tín hiệu tốt cho ngành pin Hàn Quốc trên đất Mỹ Vietnet24h - Ngành công nghiệp pin Hàn Quốc đặt kỳ vọng vào các chính sách bảo hộ và quan hệ đối tác chiến lược tại Mỹ, trong bối cảnh chính quyền mới của ông Trump có thể mang lại lợi thế cạnh tranh trước các đối thủ Trung Quốc.
Luật năng lượng mới giúp Trung Quốc tiến nhanh trên lộ trình trung hòa Carbon Vietnet24h - Hướng tới phát triển bền vững, Trung Quốc vừa thông qua luật năng lượng mới, tăng cường đầu tư vào năng lượng tái tạo và xe năng lượng sạch. Động thái này góp phần cải thiện chất lượng môi trường và nâng cao vai trò của nước này trong cuộc chiến chống biến đổi khí hậu.
Không khí trong nhà ô nhiễm ảnh hưởng đến sức khỏe như thế nào? Vietnet24h - Trong khi chúng ta luôn chú trọng đến môi trường sống bên ngoài, ít ai để ý rằng không khí trong chính ngôi nhà của mình có thể là một sát thủ vô hình, âm thầm gây ra nhiều vấn đề nghiêm trọng cho sức khỏe. Không khí trong nhà, nếu không được quản lý đúng cách, có thể ô nhiễm hơn gấp nhiều lần so với bên ngoài, đe dọa trực tiếp đến sức khỏe của cả gia đình.
Pin mặt trời trên mái nhà: Cân bằng giữa năng lượng sạch và nhiệt độ đô thị Vietnet24h - Dữ liệu từ nghiên cứu mới cho thấy các tấm pin mặt trời vừa giúp giảm ô nhiễm vừa thay đổi nhiệt độ đô thị, yêu cầu các thành phố cần giải pháp tối ưu để tận dụng năng lượng tái tạo.
UNDP và IBM cùng nhau tạo ra bước đột phá trong dự báo năng lượng bằng AI Vietnet24h - Với sự ra mắt của GeoHub, UNDP và IBM đã phát triển các mô hình AI giúp người dùng phân tích và đưa ra quyết định dựa trên dữ liệu năng lượng, mở ra hy vọng cho một tương lai bền vững hơn.
LG Energy Solution tái chế pin hướng tới tương lai bền vững Vietnet24h - LG Energy Solution (LGES) đã tìm kiếm các cơ hội kinh doanh mới trên thị trường tái sử dụng và tái chế pin.
Septic: Giải pháp bể tự hoại thông minh giúp ngăn ngừa ô nhiễm nguồn nước Vietnet24h - Với khả năng chống thấm và xử lý chất thải tối ưu, bể tự hoại thông minh Septic đang được nhiều gia đình lựa chọn để thay thế cho các bể phốt bê tông cũ, giúp bảo vệ môi trường và đảm bảo an toàn sức khỏe.
Samsung SDI giới thiệu pin thế hệ tiếp theo tại IAA Transportation 2024 Vietnet24h - Samsung SDI đang giới thiệu dòng sản phẩm pin thế hệ tiếp theo được tối ưu hóa cho xe thương mại điện tại IAA Transportation 2024 ở Hanover, CHLB Đức.
Phát triển Kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam Vietnet24h - Ngày 12/09/2024 tại Thành phố Hải Phòng đã diễn ra Diễn đàn Phát triển kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam do Bộ Kế hoạch và Đầu tư tổ chức. Diễn đàn tập trung đánh giá những kết quả đạt được, phân tích những tồn tại, hạn chế và nguyên nhân của việc thúc đẩy phát triển các mô hình kinh tế tuần hoàn tại Việt Nam.