Môi trường & Năng lượng
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050 Vietnet24h - Ngày 21/9/2024, Thủ tướng Phạm Minh Chính đã ký Quyết định số 1018/QĐ-TTg ban hành Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050. Đây là bước tiến lớn trong việc đưa Việt Nam trở thành một trong những trung tâm hàng đầu thế giới trong lĩnh vực bán dẫn, một ngành công nghiệp đang trở thành trụ cột trong nền kinh tế toàn cầu.
Tổng giám đốc điều hành Intel vạch ra con đường phía trước cho công ty Vietnet24h - Sau cuộc họp hội đồng quản trị kéo dài ba ngày vào tuần trước, Tổng giám đốc điều hành của Intel, Pat Gelsinger đã vạch ra con đường phía trước của công ty trong một lá thư gửi cho nhân viên.
Hoa Kỳ triển khai các biện pháp kiểm soát xuất khẩu liên quan đến chip mới Vietnet24h - Chính quyền Biden đang triển khai các biện pháp kiểm soát xuất khẩu mới đối với các công nghệ quan trọng, bao gồm máy tính lượng tử và hàng hóa bán dẫn, trong bối cảnh Trung Quốc đang đạt được những tiến bộ trong ngành chip toàn cầu.
Các nhà lập pháp lo ngại về quảng cáo ma túy bất hợp pháp trên Facebook và Instagram Vietnet24h - Một nhóm nhà lập pháp lưỡng đảng đã gửi cho Giám đốc điều hành Meta, Mark Zuckerberg một lá thư bày tỏ quan ngại về các quảng cáo ma túy bất hợp pháp trên Facebook và Instagram.
Thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn Vietnet24h - Thủ tướng Chính phủ Phạm Minh Chính đã ký Quyết định số 791/QĐ-TTg về việc thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn (Ban Chỉ đạo).
Khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và mạng xã hội Vietnet24h - Theo báo cáo của Ủy ban giáo dục Hạ viện Anh, việc khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và tăng độ tuổi tối thiểu để mở tài khoản mạng xã hội lên 16 nhằm giảm tác động tiêu cực của công nghệ đối với sức khỏe và giáo dục của thanh thiếu niên.
Hội nghị thượng đỉnh AI toàn cầu lần thứ hai đảm bảo các cam kết an toàn từ các công ty Vietnet24h - Mười sáu công ty đi đầu trong việc phát triển Trí tuệ nhân tạo đã cam kết vào thứ Ba tại một cuộc họp toàn cầu để phát triển công nghệ này một cách an toàn vào thời điểm các cơ quan quản lý đang cố gắng theo kịp sự đổi mới nhanh chóng và những rủi ro mới nổi.
Hàn Quốc thiết lập hệ thống bản quyền nội dung AI vào cuối năm nay Vietnet24h - Theo Bộ Khoa học và CNTT Hàn Quốc hôm nay thứ Ba (21/5) cho biết, Chính phủ Hàn Quốc có kế hoạch thiết lập các giao thức kỹ thuật số mới bằng cách cải tiến hệ thống bản quyền cho nội dung do AI tạo ra và giải quyết các tin tức giả mạo do deepfake tạo ra.
Hàn Quốc chuẩn bị gói hỗ trợ trị giá hơn 7 tỷ USD cho ngành công nghiệp chip Vietnet24h - Tổng thống Hàn Quốc Yoon Suk Yeol tuyên bố sẽ dồn mọi nguồn lực có thể để giành chiến thắng trong "cuộc chiến" về chip, hứa hẹn lợi ích về thuế cho các khoản đầu tư.
Samsung có kế hoạch tăng thêm 1 tỷ USD đầu tư vào Việt Nam hàng năm Vietnet24h - Giám đốc tài chính (CFO) của Samsung Electronics Park Hark-kyu cho biết khi gặp Thủ tướng Phạm Minh Chính tại Hà Nội hôm thứ Năm vừa qua (10/5), Samsung có kế hoạch bổ sung khoảng 1 tỷ USD vào đầu tư vào Việt Nam hàng năm.
Huawei kêu gọi nhà mạng cùng xây dựng tương lai AI di động Vietnet24h - Phó chủ tịch Huawei, ông Li Peng, cho rằng mạng 5.5G sẽ là bệ phóng cho AI di động, giúp các nhà mạng khai thác tối đa cơ hội tăng trưởng từ nhu cầu sử dụng AI ngày càng tăng của người dùng.
Tại sao Meta và Snap chi hàng tỷ đô la cho kính AR Vietnet24h - Sau một thập kỷ phát triển và hàng tỷ đô la, vào tháng 9, CEO của Meta, Mark Zuckerberg đã vén bức màn về một trong những dự án đầy tham vọng nhất của công ty: một nguyên mẫu thực tế tăng cường có tên là Orion.
Tấn công mạng: khi AI trở thành vũ khí mới của tội phạm Vietnet24h - Một báo cáo mới từ Imperva chỉ ra rằng, với sự phổ biến của trí tuệ nhân tạo và mô hình ngôn ngữ lớn, ngành bán lẻ đang phải đối mặt với một làn sóng tấn công mạng ngày càng tinh vi. Hơn 500.000 cuộc tấn công mỗi ngày đang đe dọa nghiêm trọng đến an ninh thông tin và uy tín doanh nghiệp.
CEO Tesla Elon Musk ra mắt robotaxi 'Cybercab' Vietnet24h - Vào thứ năm (10/10), CEO của Tesla, Elon Musk đã giới thiệu một chiếc xe taxi robot được mong đợi từ lâu với hai cửa cánh chim và không có vô lăng hoặc bàn đạp và gây bất ngờ với xe tải robot, đặt cược vào sự thay đổi trọng tâm từ những chiếc xe giá rẻ dành cho thị trường đại chúng sang xe robot.
Có gì trong Triển lãm Quốc tế Thang máy lớn nhất Việt Nam? Vietnet24h - Nằm trong khuôn khổ Hội chợ Vietnam Expo, Vietnam Elevator Expo là triển lãm thang máy duy nhất, quy mô lớn nhất tại Việt Nam được tổ chức dưới sự hợp tác giữa Hiệp hội Thang máy Việt Nam (VNEA) và Công ty VINEXAD.
Liệu Samsung có kịp chuẩn bị cho sự suy thoái của ngành chip không? Vietnet24h - Các báo cáo cáo buộc cắt giảm việc làm trên toàn thế giới trong bối cảnh lo ngại về chip ngày càng tăng.
Kỷ nguyên mới: Mark Zuckerberg dự đoán kính AR sẽ thay thế smartphone Vietnet24h - Mark Zuckerberg, CEO Meta, đã công bố mẫu kính AR Orion và tin tưởng rằng trong thập kỷ tới, kính AR sẽ trở thành công cụ thay thế smartphone. Được trang bị nhiều tính năng tiên tiến và thiết kế nhẹ hơn, kính AR của Meta hứa hẹn thay đổi cách chúng ta tương tác với thế giới số.
Chủ đề 'Khuếch đại trí tuệ' của Huawei chiếm vị trí trung tâm tại Huawei Connect 2024 Vietnet24h - Huawei đã công bố những tiến bộ đáng kể trong công nghệ AI và điện toán tại Huawei Connect 2024, khai mạc vào ngày 19/9 tại Thượng Hải, Trung Quốc.
Samsung đang rất cần tăng năng suất đúc chip cho bộ vi xử lý AI Vietnet24h - Samsung Electronics đang phải đối mặt với nhu cầu cấp thiết là phải tăng năng suất sản xuất tại xưởng đúc cho bộ xử lý trí tuệ nhân tạo (AI) vì Nvidia đã gợi ý khả năng chuyển các đơn đặt hàng khỏi TSMC của Đài Loan, với lý do nhu cầu mạnh mẽ liên tục đối với chipset của công ty.
Giới công nghệ nhìn nhận điều gì ở việc Huawei ra mắt điện thoại gập ba Vietnet24h - Gã khổng lồ công nghệ Trung Quốc Huawei đã ra mắt điện thoại thông minh mới vào thứ Ba (10/9), được coi là điện thoại gập ba đầu tiên trên thế giới, vài giờ sau khi đối thủ cạnh tranh của Hoa Kỳ là Apple vén bức màn về chiếc iPhone mới được xây dựng cho AI.
Không khí trong nhà ô nhiễm ảnh hưởng đến sức khỏe như thế nào? Vietnet24h - Trong khi chúng ta luôn chú trọng đến môi trường sống bên ngoài, ít ai để ý rằng không khí trong chính ngôi nhà của mình có thể là một sát thủ vô hình, âm thầm gây ra nhiều vấn đề nghiêm trọng cho sức khỏe. Không khí trong nhà, nếu không được quản lý đúng cách, có thể ô nhiễm hơn gấp nhiều lần so với bên ngoài, đe dọa trực tiếp đến sức khỏe của cả gia đình.
Pin mặt trời trên mái nhà: Cân bằng giữa năng lượng sạch và nhiệt độ đô thị Vietnet24h - Dữ liệu từ nghiên cứu mới cho thấy các tấm pin mặt trời vừa giúp giảm ô nhiễm vừa thay đổi nhiệt độ đô thị, yêu cầu các thành phố cần giải pháp tối ưu để tận dụng năng lượng tái tạo.
UNDP và IBM cùng nhau tạo ra bước đột phá trong dự báo năng lượng bằng AI Vietnet24h - Với sự ra mắt của GeoHub, UNDP và IBM đã phát triển các mô hình AI giúp người dùng phân tích và đưa ra quyết định dựa trên dữ liệu năng lượng, mở ra hy vọng cho một tương lai bền vững hơn.
LG Energy Solution tái chế pin hướng tới tương lai bền vững Vietnet24h - LG Energy Solution (LGES) đã tìm kiếm các cơ hội kinh doanh mới trên thị trường tái sử dụng và tái chế pin.
Septic: Giải pháp bể tự hoại thông minh giúp ngăn ngừa ô nhiễm nguồn nước Vietnet24h - Với khả năng chống thấm và xử lý chất thải tối ưu, bể tự hoại thông minh Septic đang được nhiều gia đình lựa chọn để thay thế cho các bể phốt bê tông cũ, giúp bảo vệ môi trường và đảm bảo an toàn sức khỏe.
Samsung SDI giới thiệu pin thế hệ tiếp theo tại IAA Transportation 2024 Vietnet24h - Samsung SDI đang giới thiệu dòng sản phẩm pin thế hệ tiếp theo được tối ưu hóa cho xe thương mại điện tại IAA Transportation 2024 ở Hanover, CHLB Đức.
Phát triển Kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam Vietnet24h - Ngày 12/09/2024 tại Thành phố Hải Phòng đã diễn ra Diễn đàn Phát triển kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam do Bộ Kế hoạch và Đầu tư tổ chức. Diễn đàn tập trung đánh giá những kết quả đạt được, phân tích những tồn tại, hạn chế và nguyên nhân của việc thúc đẩy phát triển các mô hình kinh tế tuần hoàn tại Việt Nam.
Viettronics Tân Bình: Doanh nghiệp Xanh năm 2024 Vietnet24h - Vào tối ngày 29/08/2024, tại Khách sạn Rex, Quận 1, TP. HCM, Hiệp hội Doanh nghiệp TP. HCM (HUBA) và Báo Sài Gòn Giải Phóng phối hợp tổ chức Lễ Tôn vinh và trao Danh hiệu “Doanh nghiệp xanh TP. HCM năm 2024” .
Việc sử dụng nhiên liệu bền vững sẽ bắt buộc cho tất cả các chuyến bay quốc tế từ năm 2027 Vietnet24h - Tổ chức Hàng không Dân dụng Quốc tế (ICAO) bắt buộc các quốc gia áp dụng Chương trình Bù trừ và Giảm phát thải Carbon cho Hàng không Quốc tế (CORSIA) đối với 193 quốc gia thành viên bắt đầu từ năm 2027.
TSMC đối phó với những lo ngaii về thiếu hụt nguồn nước: ở Kumamoto Vietnet24h - Taiwan Semiconductor Manufacturing Co. (TSMC) đang tham gia một chương trình tại Nhật Bản nhằm bảo tồn tài nguyên nước ngầm bằng cách làm ngập các cánh đồng lúa chưa sử dụng, trong bối cảnh lo ngại rằng các nhà máy sản xuất chip của công ty tại tỉnh Kumamoto có thể gây ra tình trạng thiếu nước trong khu vực.