Tầm nhìn công nghệ
Nvidia trình làng H200, chip cao cấp mới nhất để đào tạo các mô hình AI
Anh Sơn - Thứ Năm, 16/11/2023 9:46 CH
Vietnet24h - Thứ Hai tuần này (Nvidia hôm thứ Hai đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo thúc đẩy sự bùng nổ AI.
Thứ Hai đầu tuần này, Nvidia đã tiết lộ H200, một bộ xử lý đồ họa được thiết kế để đào tạo và triển khai các loại mô hình trí tuệ nhân tạo đang thúc đẩy sự bùng nổ AI.
 
GPU mới là bản nâng cấp từ H100, con chip mà OpenAI sử dụng để đào tạo mô hình ngôn ngữ lớn tiên tiến nhất của hãng, GPT-4. Các công ty lớn, các công ty khởi nghiệp và các cơ quan chính phủ đều đang cạnh tranh để có được nguồn cung chip hạn chế.
 
Theo ước tính của Raymond James, chip H100 có giá từ 25.000 đến 40.000 USD và cần hàng nghìn con chip này làm việc cùng nhau để tạo ra những mô hình lớn nhất trong một quy trình gọi là “đào tạo”.
 
Sự phấn khích đối với GPU AI của Nvidia đã khiến cổ phiếu của công ty tăng vọt, tăng hơn 230% tính đến thời điểm hiện tại trong năm 2023. Nvidia dự kiến ​​doanh thu khoảng 16 tỷ USD trong quý tài chính thứ ba, tăng 170% so với một năm trước.
 
Cải tiến quan trọng của H200 là nó bao gồm 141GB bộ nhớ “HBM3” thế hệ tiếp theo sẽ giúp chip thực hiện “suy luận” hoặc sử dụng một mô hình lớn sau khi được đào tạo để tạo văn bản, hình ảnh hoặc dự đoán.
 
Nvidia cho biết H200 sẽ tạo ra sản lượng nhanh gần gấp đôi so với H100. Điều đó dựa trên thử nghiệm sử dụng Llama 2 LLM của Meta.
 
H200 dự kiến xuất xưởng vào quý 2 năm 2024 sẽ cạnh tranh với GPU MI300X của AMD. Chip của AMD, tương tự như H200, có bộ nhớ bổ sung so với các phiên bản tiền nhiệm, giúp phù hợp với các mẫu phần cứng lớn để chạy suy luận.

Nvidia cho biết H200 sẽ tương thích với H100, nghĩa là các công ty AI đang đào tạo với mẫu trước đó sẽ không cần thay đổi hệ thống máy chủ hoặc phần mềm của họ để sử dụng phiên bản mới.
 
Nvidia cho biết nó sẽ có sẵn ở cấu hình máy chủ 4 GPU hoặc 8 GPU trên hệ thống hoàn chỉnh HGX của công ty, cũng như trong một con chip có tên GH200, kết hợp GPU H200 với bộ xử lý dựa trên Arm.
 
Tuy nhiên, H200 có thể không giữ được ngôi vương chip AI Nvidia nhanh nhất trong thời gian dài.
 
Trong khi các công ty như Nvidia cung cấp nhiều cấu hình chip khác nhau, chất bán dẫn mới thường có một bước tiến lớn cứ sau hai năm, khi các nhà sản xuất chuyển sang một kiến trúc khác giúp mang lại hiệu suất tăng đáng kể hơn so với việc thêm bộ nhớ hoặc các tối ưu hóa nhỏ hơn khác. Cả H100 và H200 đều dựa trên kiến trúc Hopper của Nvidia.
 
Vào tháng 10, Nvidia đã thông báo với các nhà đầu tư rằng họ sẽ chuyển từ mô hình kiến trúc hai năm sang mô hình phát hành một năm do nhu cầu cao về GPU. Công ty đã trình chiếu một slide gợi ý rằng họ sẽ công bố và phát hành chip B100, dựa trên kiến trúc Blackwell sắp ra mắt vào năm 2024.
Huawei có kế hoạch cạnh tranh với Nvidia trong lĩnh vực kinh doanh chip AI như thế nào Vietnet24h - Việc Hoa Kỳ hạn chế bán chip nhân tạo tiên tiến của Nvidia sang Trung Quốc đang tạo cơ hội cho Huawei giành thị phần, với các nguồn tin cho biết họ đã giành được đơn đặt hàng chip AI khá lớn từ gã khổng lồ công nghệ Trung Quốc Baidu trong năm nay.
Nvidia sẽ đứng số 1 về doanh thu ngành bán dãn năm nay Vietnet24h - Nvidia có thể sẽ trở thành công ty bán dẫn số 1 về doanh thu trong năm nay, Semiconductor Intelligence ước tính doanh thu năm 2023 của Nvidia vào khoảng 52,9 tỷ USD và của Intel là 51,6 tỷ USD.
Tin khác cùng chuyên mục
Tin đọc nhiều
Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050 Vietnet24h - Ngày 21/9/2024, Thủ tướng Phạm Minh Chính đã ký Quyết định số 1018/QĐ-TTg ban hành Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050. Đây là bước tiến lớn trong việc đưa Việt Nam trở thành một trong những trung tâm hàng đầu thế giới trong lĩnh vực bán dẫn, một ngành công nghiệp đang trở thành trụ cột trong nền kinh tế toàn cầu.
Tổng giám đốc điều hành Intel vạch ra con đường phía trước cho công ty Vietnet24h - Sau cuộc họp hội đồng quản trị kéo dài ba ngày vào tuần trước, Tổng giám đốc điều hành của Intel, Pat Gelsinger đã vạch ra con đường phía trước của công ty trong một lá thư gửi cho nhân viên.
Hoa Kỳ triển khai các biện pháp kiểm soát xuất khẩu liên quan đến chip mới Vietnet24h - Chính quyền Biden đang triển khai các biện pháp kiểm soát xuất khẩu mới đối với các công nghệ quan trọng, bao gồm máy tính lượng tử và hàng hóa bán dẫn, trong bối cảnh Trung Quốc đang đạt được những tiến bộ trong ngành chip toàn cầu.
Các nhà lập pháp lo ngại về quảng cáo ma túy bất hợp pháp trên Facebook và Instagram Vietnet24h - Một nhóm nhà lập pháp lưỡng đảng đã gửi cho Giám đốc điều hành Meta, Mark Zuckerberg một lá thư bày tỏ quan ngại về các quảng cáo ma túy bất hợp pháp trên Facebook và Instagram.
Thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn Vietnet24h - Thủ tướng Chính phủ Phạm Minh Chính đã ký Quyết định số 791/QĐ-TTg về việc thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn (Ban Chỉ đạo).
Khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và mạng xã hội Vietnet24h - Theo báo cáo của Ủy ban giáo dục Hạ viện Anh, việc khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và tăng độ tuổi tối thiểu để mở tài khoản mạng xã hội lên 16 nhằm giảm tác động tiêu cực của công nghệ đối với sức khỏe và giáo dục của thanh thiếu niên.
Hội nghị thượng đỉnh AI toàn cầu lần thứ hai đảm bảo các cam kết an toàn từ các công ty Vietnet24h - Mười sáu công ty đi đầu trong việc phát triển Trí tuệ nhân tạo đã cam kết vào thứ Ba tại một cuộc họp toàn cầu để phát triển công nghệ này một cách an toàn vào thời điểm các cơ quan quản lý đang cố gắng theo kịp sự đổi mới nhanh chóng và những rủi ro mới nổi.
Hàn Quốc thiết lập hệ thống bản quyền nội dung AI vào cuối năm nay Vietnet24h - Theo Bộ Khoa học và CNTT Hàn Quốc hôm nay thứ Ba (21/5) cho biết, Chính phủ Hàn Quốc có kế hoạch thiết lập các giao thức kỹ thuật số mới bằng cách cải tiến hệ thống bản quyền cho nội dung do AI tạo ra và giải quyết các tin tức giả mạo do deepfake tạo ra.
Hàn Quốc chuẩn bị gói hỗ trợ trị giá hơn 7 tỷ USD cho ngành công nghiệp chip Vietnet24h - Tổng thống Hàn Quốc Yoon Suk Yeol tuyên bố sẽ dồn mọi nguồn lực có thể để giành chiến thắng trong "cuộc chiến" về chip, hứa hẹn lợi ích về thuế cho các khoản đầu tư.
Samsung có kế hoạch tăng thêm 1 tỷ USD đầu tư vào Việt Nam hàng năm Vietnet24h - Giám đốc tài chính (CFO) của Samsung Electronics Park Hark-kyu cho biết khi gặp Thủ tướng Phạm Minh Chính tại Hà Nội hôm thứ Năm vừa qua (10/5), Samsung có kế hoạch bổ sung khoảng 1 tỷ USD vào đầu tư vào Việt Nam hàng năm.
Huawei kêu gọi nhà mạng cùng xây dựng tương lai AI di động Vietnet24h - Phó chủ tịch Huawei, ông Li Peng, cho rằng mạng 5.5G sẽ là bệ phóng cho AI di động, giúp các nhà mạng khai thác tối đa cơ hội tăng trưởng từ nhu cầu sử dụng AI ngày càng tăng của người dùng.
Tại sao Meta và Snap chi hàng tỷ đô la cho kính AR Vietnet24h - Sau một thập kỷ phát triển và hàng tỷ đô la, vào tháng 9, CEO của Meta, Mark Zuckerberg đã vén bức màn về một trong những dự án đầy tham vọng nhất của công ty: một nguyên mẫu thực tế tăng cường có tên là Orion.
Tấn công mạng: khi AI trở thành vũ khí mới của tội phạm Vietnet24h - Một báo cáo mới từ Imperva chỉ ra rằng, với sự phổ biến của trí tuệ nhân tạo và mô hình ngôn ngữ lớn, ngành bán lẻ đang phải đối mặt với một làn sóng tấn công mạng ngày càng tinh vi. Hơn 500.000 cuộc tấn công mỗi ngày đang đe dọa nghiêm trọng đến an ninh thông tin và uy tín doanh nghiệp.
CEO Tesla Elon Musk ra mắt robotaxi 'Cybercab' Vietnet24h - Vào thứ năm (10/10), CEO của Tesla, Elon Musk đã giới thiệu một chiếc xe taxi robot được mong đợi từ lâu với hai cửa cánh chim và không có vô lăng hoặc bàn đạp và gây bất ngờ với xe tải robot, đặt cược vào sự thay đổi trọng tâm từ những chiếc xe giá rẻ dành cho thị trường đại chúng sang xe robot.
Có gì trong Triển lãm Quốc tế Thang máy lớn nhất Việt Nam? Vietnet24h - Nằm trong khuôn khổ Hội chợ Vietnam Expo, Vietnam Elevator Expo là triển lãm thang máy duy nhất, quy mô lớn nhất tại Việt Nam được tổ chức dưới sự hợp tác giữa Hiệp hội Thang máy Việt Nam (VNEA) và Công ty VINEXAD.
Liệu Samsung có kịp chuẩn bị cho sự suy thoái của ngành chip không? Vietnet24h - Các báo cáo cáo buộc cắt giảm việc làm trên toàn thế giới trong bối cảnh lo ngại về chip ngày càng tăng.
Kỷ nguyên mới: Mark Zuckerberg dự đoán kính AR sẽ thay thế smartphone Vietnet24h - Mark Zuckerberg, CEO Meta, đã công bố mẫu kính AR Orion và tin tưởng rằng trong thập kỷ tới, kính AR sẽ trở thành công cụ thay thế smartphone. Được trang bị nhiều tính năng tiên tiến và thiết kế nhẹ hơn, kính AR của Meta hứa hẹn thay đổi cách chúng ta tương tác với thế giới số.
Chủ đề 'Khuếch đại trí tuệ' của Huawei chiếm vị trí trung tâm tại Huawei Connect 2024 Vietnet24h - Huawei đã công bố những tiến bộ đáng kể trong công nghệ AI và điện toán tại Huawei Connect 2024, khai mạc vào ngày 19/9 tại Thượng Hải, Trung Quốc.
Samsung đang rất cần tăng năng suất đúc chip cho bộ vi xử lý AI Vietnet24h - Samsung Electronics đang phải đối mặt với nhu cầu cấp thiết là phải tăng năng suất sản xuất tại xưởng đúc cho bộ xử lý trí tuệ nhân tạo (AI) vì Nvidia đã gợi ý khả năng chuyển các đơn đặt hàng khỏi TSMC của Đài Loan, với lý do nhu cầu mạnh mẽ liên tục đối với chipset của công ty.
Giới công nghệ nhìn nhận điều gì ở việc Huawei ra mắt điện thoại gập ba Vietnet24h - Gã khổng lồ công nghệ Trung Quốc Huawei đã ra mắt điện thoại thông minh mới vào thứ Ba (10/9), được coi là điện thoại gập ba đầu tiên trên thế giới, vài giờ sau khi đối thủ cạnh tranh của Hoa Kỳ là Apple vén bức màn về chiếc iPhone mới được xây dựng cho AI.
Không khí trong nhà ô nhiễm ảnh hưởng đến sức khỏe như thế nào? Vietnet24h - Trong khi chúng ta luôn chú trọng đến môi trường sống bên ngoài, ít ai để ý rằng không khí trong chính ngôi nhà của mình có thể là một sát thủ vô hình, âm thầm gây ra nhiều vấn đề nghiêm trọng cho sức khỏe. Không khí trong nhà, nếu không được quản lý đúng cách, có thể ô nhiễm hơn gấp nhiều lần so với bên ngoài, đe dọa trực tiếp đến sức khỏe của cả gia đình.
Pin mặt trời trên mái nhà: Cân bằng giữa năng lượng sạch và nhiệt độ đô thị Vietnet24h - Dữ liệu từ nghiên cứu mới cho thấy các tấm pin mặt trời vừa giúp giảm ô nhiễm vừa thay đổi nhiệt độ đô thị, yêu cầu các thành phố cần giải pháp tối ưu để tận dụng năng lượng tái tạo.
UNDP và IBM cùng nhau tạo ra bước đột phá trong dự báo năng lượng bằng AI Vietnet24h - Với sự ra mắt của GeoHub, UNDP và IBM đã phát triển các mô hình AI giúp người dùng phân tích và đưa ra quyết định dựa trên dữ liệu năng lượng, mở ra hy vọng cho một tương lai bền vững hơn.
LG Energy Solution tái chế pin hướng tới tương lai bền vững Vietnet24h - LG Energy Solution (LGES) đã tìm kiếm các cơ hội kinh doanh mới trên thị trường tái sử dụng và tái chế pin.
Septic: Giải pháp bể tự hoại thông minh giúp ngăn ngừa ô nhiễm nguồn nước Vietnet24h - Với khả năng chống thấm và xử lý chất thải tối ưu, bể tự hoại thông minh Septic đang được nhiều gia đình lựa chọn để thay thế cho các bể phốt bê tông cũ, giúp bảo vệ môi trường và đảm bảo an toàn sức khỏe.
Samsung SDI giới thiệu pin thế hệ tiếp theo tại IAA Transportation 2024 Vietnet24h - Samsung SDI đang giới thiệu dòng sản phẩm pin thế hệ tiếp theo được tối ưu hóa cho xe thương mại điện tại IAA Transportation 2024 ở Hanover, CHLB Đức.
Phát triển Kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam Vietnet24h - Ngày 12/09/2024 tại Thành phố Hải Phòng đã diễn ra Diễn đàn Phát triển kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam do Bộ Kế hoạch và Đầu tư tổ chức. Diễn đàn tập trung đánh giá những kết quả đạt được, phân tích những tồn tại, hạn chế và nguyên nhân của việc thúc đẩy phát triển các mô hình kinh tế tuần hoàn tại Việt Nam.
Viettronics Tân Bình: Doanh nghiệp Xanh năm 2024 Vietnet24h - Vào tối ngày 29/08/2024, tại Khách sạn Rex, Quận 1, TP. HCM, Hiệp hội Doanh nghiệp TP. HCM (HUBA) và Báo Sài Gòn Giải Phóng phối hợp tổ chức Lễ Tôn vinh và trao Danh hiệu “Doanh nghiệp xanh TP. HCM năm 2024” .
Việc sử dụng nhiên liệu bền vững sẽ bắt buộc cho tất cả các chuyến bay quốc tế từ năm 2027 Vietnet24h - Tổ chức Hàng không Dân dụng Quốc tế (ICAO) bắt buộc các quốc gia áp dụng Chương trình Bù trừ và Giảm phát thải Carbon cho Hàng không Quốc tế (CORSIA) đối với 193 quốc gia thành viên bắt đầu từ năm 2027.
TSMC đối phó với những lo ngaii về thiếu hụt nguồn nước: ở Kumamoto Vietnet24h - Taiwan Semiconductor Manufacturing Co. (TSMC) đang tham gia một chương trình tại Nhật Bản nhằm bảo tồn tài nguyên nước ngầm bằng cách làm ngập các cánh đồng lúa chưa sử dụng, trong bối cảnh lo ngại rằng các nhà máy sản xuất chip của công ty tại tỉnh Kumamoto có thể gây ra tình trạng thiếu nước trong khu vực.