Kinh tế
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Những nhà lãnh đạo công nghệ này đã quyên góp cho Trump và bây giờ họ mất hàng tỷ đô la Vietnet24h - Các nhà lãnh đạo Thung lũng Silicon đã quyên góp cho chiến dịch tranh cử hoặc quỹ nhậm chức của Tổng thống Donald Trump.
TSMC giữ nguyên dự báo doanh thu sau khi lợi nhuận vượt ước tính bất chấp lo ngại về thuế quan của Trump Vietnet24h - Công ty đang phải đối mặt với những bất lợi từ chính sách thương mại của Tổng thống Hoa Kỳ Donald Trump, người đã áp đặt mức thuế quan thương mại rộng rãi đối với Đài Loan và kiểm soát xuất khẩu chặt chẽ hơn đối với các khách hàng của TSMC là Nvidia và AMD.
Cổ phiếu Tesla giảm sau đợt tăng mạnh nhất kể từ năm 2013 Vietnet24h - Cổ phiếu Tesla đã có xu hướng giảm trong năm nay, nhưng đã tăng vọt vào thứ Tư sau khi Tổng thống Trump tuyên bố tạm dừng áp dụng hầu hết các mức thuế mới trong 90 ngày.
Khoản lỗ 3 ngày của Apple về vốn hóa thị trường lên đến gần 640 tỷ đô la Vietnet24h - Các nhà phân tích cho biết Apple là một trong những công ty dễ bị ảnh hưởng nhất bởi chiến tranh thương mại do sự phụ thuộc lớn vào Trung Quốc, quốc gia phải đối mặt với mức thuế quan 54%.
Apple dẫn đầu đà giảm của cổ phiếu công nghệ sau thông báo áp thuế của Trump Vietnet24h - Cổ phiếu công nghệ giảm vào phiên giao dịch muộn thứ Tư sau khi Tổng thống Donald Trump công bố mức thuế mới từ 10% đến 49% đối với hàng hóa nhập khẩu.
Samsung Electronics dự báo lợi nhuận hoạt động sẽ giảm trong quý 1 năm nay Vietnet24h - Theo một báo cáo cho biết hôm thứ Hai (31/3), Samsung Electronics Co. dự kiến ​​sẽ báo cáo lợi nhuận hoạt động giảm trong quý đầu tiên, chủ yếu là do hiệu suất bán dẫn yếu.
Elon Musk cho biết xAI đã mua lại X trong một thỏa thuận định giá trang web truyền thông xã hội ở mức 33 tỷ đô la Vietnet24h - Elon Musk cho biết vào thứ sáu (28/3) rằng, ông sẽ sáp nhập hai công ty của mình, xAI và X, thành một thực thể duy nhất.
Samsung SDI công bố chào bán quyền mua cổ phiếu trị giá 2 nghìn tỷ won cho khả năng cạnh tranh trong tương lai Vietnet24h - Quỹ sẽ được sử dụng cho liên doanh với GM, mở rộng nhà máy Hungary và tất cả các dây chuyền sản xuất pin thể rắn
Đợt bán tháo cổ phiếu của các ông lớn công nghệ, dẫn đầu là Tesla, đã xóa sổ 2,7 nghìn tỷ đô la giá trị khỏi các công ty vốn hóa lớn Vietnet24h - Bảy công ty công nghệ lớn đã mất tổng cộng 2,7 nghìn tỷ đô la vốn hóa thị trường kể từ khi Nasdaq đạt đỉnh trong năm cách đây khoảng ba tuần.
TSMC phủ nhận đang đàm phán với Intel về liên doanh sản xuất chip Vietnet24h - “TSMC không tham gia vào bất kỳ cuộc thảo luận nào với các công ty khác về bất kỳ liên doanh, cấp phép công nghệ hay công nghệ nào”, CEO C.C. Wei cho biết, bác bỏ tin đồn về sự hợp tác với Intel.
CMC bị mã độc tấn công: Một cú đâm thẳng vào trung tâm phòng thủ số Việt Nam Vietnet24h - Giữa lúc các doanh nghiệp Việt đang dốc lực chuyển đổi số, Tập đoàn CMC – tên tuổi hàng đầu trong lĩnh vực an ninh mạng – lại trở thành nạn nhân của mã độc tống tiền. Cuộc tấn công không chỉ làm lộ ra lỗ hổng kỹ thuật, mà còn khơi gợi nỗi lo sâu xa về chiến tranh mạng đang đến gần.
Thống nhất khởi động đàm phán thỏa thuận thương mại đối ứng Việt Nam - Hoa Kỳ Vietnet24h - Chiều 09/4 (giờ địa phương), trong khuôn khổ chuyến thăm Hoa Kỳ với tư cách là Đặc phái viên của Tổng Bí thư Tô Lâm để trao đổi về các vấn đề kinh tế - thương mại song phương, Phó Thủ tướng Chính phủ Hồ Đức Phớc đã gặp Đại diện Thương mại Hoa Kỳ Jamieson Greer.
Trump nói với Nội các rằng Elon Musk sẽ rời khỏi chính quyền trong những tháng tới Vietnet24h - Tuần trước, Tổng thống Donald Trump đã thông báo với Nội các của mình rằng tỷ phú Elon Musk sẽ rời khỏi vị trí trong chính quyền của mình trong những tháng tới.
Tổng Bí thư Tô Lâm điện đàm với Tổng thống Hoa Kỳ Donald J. Trump Vietnet24h - Tối 4/4/2025, Tổng Bí thư Tô Lâm đã có cuộc điện đàm với Tổng thống Hoa Kỳ Donald J. Trump về quan hệ Việt Nam - Hoa Kỳ.
Thuế quan của Trump có thể mang lại cơ hội kinh doanh lớn cho công ty khởi nghiệp phần mềm chuỗi cung ứng LightSource Vietnet24h - LightSource, một công ty khởi nghiệp về phần mềm chuỗi cung ứng, đã huy động được 33 triệu đô la trong vòng gọi vốn do Bain Capital Ventures và Lightspeed Venture Partners dẫn đầu.
Hệ thống đồng CEO của Samsung bị đặt câu hỏi sau cái chết của Han Jong-hee Vietnet24h - Sau sự ra đi đột ngột của Phó chủ tịch Samsung Electronics Han Jong-hee, mối lo ngại đang gia tăng về tác động của khoảng trống lãnh đạo trong mảng kinh doanh thiết bị điện tử và tiêu dùng của công ty - hiện chỉ còn lại một mình giám đốc bán dẫn.
Hoa Kỳ thêm hàng chục thực thể Trung Quốc vào danh sách đen xuất khẩu Vietnet24h - Hoa Kỳ đã thêm sáu công ty con của Inspur Group, nhà cung cấp dịch vụ dữ liệu lớn và điện toán đám mây hàng đầu của Trung Quốc, cùng hàng chục thực thể Trung Quốc khác vào danh sách hạn chế xuất khẩu của mình vào thứ Ba (25/3).
Samsung Electronics Đối Mặt Với ​​Khoản Tiền Phạt Lớn Lên Đến 601 Triệu Đô La Vì Bị Cáo Buộc Trốn Thuế Ở Ấn Độ Vietnet24h - Samsung Electronics đang phải đối mặt với thách thức tài chính đáng kể tại Ấn Độ, khi chính phủ Ấn Độ đã yêu cầu gã khổng lồ công nghệ này phải trả 601 triệu đô la tiền thuế truy thu và tiền phạt vì trốn thuế nhập khẩu thiết bị viễn thông quan trọng.
Chủ tịch Samsung thăm BYD tại Trung Quốc Vietnet24h - Chủ tịch điều hành Samsung Electronics Lee Jae-yong đã đến thăm trụ sở chính của nhà sản xuất xe điện (EV) Trung Quốc BYD vào thứ Hai (24/3).
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.
Tùng Tán Lâm - Vẻ đẹp thiêng liêng giữa lòng Shangri-La Vietnet24h - Đối với những tín đồ đam mê du lịch tâm linh, tu viện Tùng Tán Lâm (Songzanlin) là một điểm đến không thể bỏ qua. Những người từng đặt chân đến Shangri-la đều khẳng định đây là một trong những tu viện đáng ghé thăm nhất trên thế giới.