Thị trường công nghệ
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Trò chơi Xbox sẽ sớm có trên TV LG thông qua dịch vụ chơi game đám mây Vietnet24h - Theo LG Electronics, gần đây họ đã ký kết một quan hệ đối tác để cung cấp hàng trăm tựa game Xbox cho webOS của LG.
Tấn công mạng làm gián đoạn hoạt động của Japan Airlines Vietnet24h - Vừa qua, Japan Airlines đã trở thành nạn nhân của một cuộc tấn công mạng nghiêm trọng, gây tác động lớn đến các hệ thống nội bộ của hãng. Các chuyên gia cho rằng vụ việc có thể dẫn đến sự cố chậm trễ và hủy chuyến bay trong những ngày tới.
Tình trạng tấn công mạng tại Việt Nam: Mối đe dọa ngày càng nghiêm trọng với hơn 659.000 vụ Vietnet24h - Năm 2024, các cơ quan, doanh nghiệp Việt Nam phải đối mặt với hơn 659.000 vụ tấn công mạng, trong đó hình thức tấn công APT (Advanced Persistent Threat) trở thành mối đe dọa lớn nhất. Báo cáo của Hiệp hội An ninh mạng quốc gia chỉ ra rằng không chỉ số lượng mà cả quy mô các vụ tấn công đang gia tăng, đồng thời nhân lực an ninh mạng tại Việt Nam vẫn đang thiếu hụt trầm trọng, tạo ra nhiều lỗ hổng dễ dàng bị tội phạm mạng khai thác.
Realme 13+ 5G: đột phá công nghệ dành cho game thủ thể thao điện tử Vietnet24h - Realme 13+ 5G là mẫu smartphone mới nhất vừa ra mắt, được trang bị công nghệ tiên tiến với chipset Dimensity 7300 và RAM mở rộng đến 26GB. Sản phẩm hứa hẹn sẽ mang đến trải nghiệm chơi game tuyệt vời với chế độ GT tối ưu hóa hiệu suất, cùng với sạc siêu nhanh 80W giúp người dùng không lo về thời gian chờ đợi.
Chip Core Ultra 200S của Intel: Cuộc cách mạng trong xử lý máy tính để bàn Vietnet24h - Intel vừa ra mắt chip Core Ultra 200S, sản phẩm mới nhất trong dòng máy tính để bàn, với những cải tiến đáng kể về hiệu suất và công nghệ AI. Sự ra mắt này không chỉ mang lại những trải nghiệm tốt hơn cho người dùng mà còn mở ra kỷ nguyên mới trong ngành công nghiệp công nghệ.
Thị trường máy tính cá nhân giảm 1,3% trong quý III năm nay Vietnet24h - Lượng máy tính cá nhân xuất xưởng trong quý 3 đạt 62,9 triệu chiếc, giảm 1,3% so với cùng kỳ năm trước so với quý 3 năm 2023 sau ba quý liên tiếp tăng trưởng theo năm.
Black Myth: Wukong ra mắt bản mở rộng đầu tiên vào đầu năm 2025 Vietnet24h - Black Myth: Wukong không chỉ gặt hái thành công khủng ngay từ khi ra mắt mà còn chuẩn bị phát hành bản mở rộng đầu tiên vào đầu năm 2025. Các fan của Tôn Ngộ Không sẽ được trải nghiệm những trận đánh đỉnh cao cùng cốt truyện lôi cuốn.
Sony ra mắt PlayStation 5 Pro nâng cấp để thúc đẩy hoạt động kinh doanh máy chơi game Vietnet24h - Hôm qua, thứ ba (10/9), Sony đã tiết lộ phiên bản nâng cấp của máy chơi game PlayStation 5, có tên là PlayStation 5 Pro.
Black Myth: Wukong bứt phá doanh số, trở thành hiện tượng game mới Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai dựa trên tiểu thuyết Tây Du Ký, đang khiến làng game toàn cầu xôn xao với thành tích ấn tượng: bán được 10 triệu bản chỉ trong hơn ba ngày kể từ ngày phát hành. Thành tích này không chỉ xác lập một kỷ lục mới mà còn cho thấy sự bùng nổ của trò chơi trong giới game thủ.
Anh tiên phong phát triển mạng lượng tử, đặt nền móng cho tương lai an ninh mạng không thể bị xâm phạm Vietnet24h - Chính phủ Anh đang đặt nền móng cho một tương lai an ninh mạng vượt trội bằng cách thúc đẩy phát triển cơ sở hạ tầng mạng dựa trên vật lý lượng tử, với hy vọng tạo ra một hệ thống không thể bị hack. Đây là bước tiến quan trọng nhằm ngăn chặn tình trạng tin tặc đánh cắp thông tin, một thách thức đang ngày càng gia tăng trong kỷ nguyên số.
Doanh thu năm 2024 của Huawei tăng vọt lên mức gần kỷ lục Vietnet24h - Hôm thứ Hai, Huawei báo cáo doanh thu năm 2024 tăng mạnh nhờ các mảng kinh doanh cốt lõi là viễn thông và tiêu dùng tăng tốc.
Theo SK hynix: Chip HBM năm 2026 sẽ bán hết trong nửa đầu năm Vietnet24h - SK hynix có kế hoạch hoàn tất thỏa thuận cung cấp chip nhớ băng thông cao quan trọng đối với trí tuệ nhân tạo vào năm sau trong nửa đầu năm nay, theo CEO của nhà sản xuất chip Kwak Noh-jung.
Micron Technology tăng giá DRAM; Liệu Samsung và SK có làm theo không? Vietnet24h - icron Technology, nhà sản xuất DRAM lớn thứ ba toàn cầu, đã tăng giá bộ nhớ.
Dự báo tăng trưởng 2% năm 2025 cho thiết bị sản xuất front-end Vietnet24h - Chi tiêu cho thiết bị chế tạo năm 2025 cho các cơ sở sản xuất tiền tuyến dự kiến ​​sẽ tăng 2% so với cùng kỳ năm trước lên 110 tỷ đô la, đánh dấu năm tăng trưởng thứ sáu liên tiếp kể từ năm 2020, SEMI cho biết hôm nay trong báo cáo của mình.
Samsung, SK hynix sẽ đối đầu trong cuộc đua chip HBM4 sắp tới Vietnet24h - SK hynix cạnh tranh để giữ vị trí dẫn đầu trong khi Samsung tái khẳng định cam kết bù đắp những sai lầm để vượt qua đối thủ nhỏ hơn
Huawei gây bất ngờ khi Annabel Yao xuất hiện trong chiến dịch quảng bá Pura X Vietnet24h - Không chỉ thu hút sự chú ý với thiết kế gập độc đáo, Huawei Pura X còn gây sốt khi có sự tham gia của Annabel Yao – con gái út của Nhậm Chính Phi – trong vai trò đại diện thương hiệu.
Xuất khẩu công nghệ thông tin của Hàn Quốc đạt giá trị lớn thứ hai từ trước đến nay trong tháng 2 Vietnet24h - Xuất khẩu sản phẩm công nghệ thông tin và truyền thông (ICT) của Hàn Quốc đạt giá trị lớn thứ hai trong tháng 2 năm ngoái mặc dù doanh số bán chip giảm, dữ liệu của chính phủ cho thấy hôm Chủ Nhật
Indonesia cấp phép cho năm mẫu iPhone 16 của Apple Vietnet24h - Việc cấp giấy phép diễn ra một tuần sau khi Indonesia cấp giấy chứng nhận nội dung địa phương cho 20 sản phẩm của Apple bao gồm cả iPhone 16.
Thị trường vật liệu đóng gói mô-đun điện có tốc độ tăng trưởng CAGR 11% trong giai đoạn 2024-2030 Vietnet24h - Yole Group cho biết thị trường vật liệu đóng gói mô-đun điện sẽ đạt gần 6,1 tỷ đô la vào năm 2030 với tốc độ tăng trưởng kép hàng năm (CAGR) gần 11% từ năm 2024 đến năm 2030.
Samsung thắng lệnh cấm đối với TCL tại Đức Vietnet24h - Samsung Electronics đã giành được lệnh tạm thời đối với nhà sản xuất thiết bị gia dụng Trung Quốc TCL tại Đức, cấm TCL sử dụng tên thương hiệu TV đang bị tranh chấp tại Liên minh Châu Âu.
Samsung Display đặt mục tiêu tăng trưởng 50% trong lô hàng tấm nền màn hình QD-OLED Vietnet24h - Samsung Display đặt mục tiêu tăng trưởng 50 phần trăm trong lô hàng tấm nền màn hình chấm lượng tử (QD)-OLED trong năm nay,
TV OLED của LG càn quét top 10 bảng xếp hạng của US Consumer Reports Vietnet24h - TV OLED của LG Electronics gần đây đã càn quét tất cả 10 vị trí hàng đầu trong bảng xếp hạng của tổ chức người tiêu dùng Mỹ Consumer Reports.
Xiaomi đưa điều hòa, tủ lạnh về Việt Nam: Tham vọng lớn hơn cả smartphone? Vietnet24h - Không chỉ dừng lại ở điện thoại và thiết bị thông minh, Xiaomi tiếp tục tham vọng lấn sân sang thị trường gia dụng. Điều hòa, tủ lạnh và máy giặt sẽ là những sản phẩm chủ lực tiếp theo của hãng tại Việt Nam.
LG Electronics sắp trở thành nhà cung cấp TV cao cấp số 1 thế giới Vietnet24h - LG Electronics đang hướng đến mục tiêu trở thành công ty hàng đầu về doanh số và doanh thu trong phân khúc TV cao cấp và công ty đang tiến gần hơn đến mục tiêu này.
LG phản ứng trước đề xuất áp thuế TV của Trump Vietnet24h - LG Electronics đang vật lộn với mức thuế dự kiến ​​từ chính quyền của Tổng thống Hoa Kỳ Donald Trump đối với tivi nhập khẩu.
Nhà Trắng nhắc đến Samsung, LG như một phần trong nỗ lực thúc đẩy sản xuất của Hoa Kỳ Vietnet24h - Nhà Trắng đã đề cập đến hai gã khổng lồ điện tử Hàn Quốc vào thứ Hai (10/3) khi nêu rõ tiến triển trong nỗ lực của Tổng thống Hoa Kỳ Donald Trump nhằm đưa hoạt động sản xuất trở lại Hoa Kỳ thông qua thuế quan.
LG Electronics ra mắt dòng sản phẩm TV OLED và QNED 2025 Vietnet24h - LG Electronics cho biết OLED evo 2025 tích hợp công nghệ tăng cường độ sáng, tối ưu hóa thuật toán hiển thị và cấu trúc hợp chất hữu cơ để cung cấp hình ảnh sáng hơn gấp ba lần so với TV OLED thông thường.
Samsung Electronics kỷ niệm 11 năm thống trị thị trường Soundbar toàn cầu Vietnet24h - Samsung chiếm 20,1% thị phần về giá trị; duy trì vị thế vững chắc với 18,4% doanh số bán hàng.
Các nhà sản xuất TV Trung Quốc bị kiện tại Hoa Kỳ vì 'quảng cáo sai sự thật' trên TV QD Vietnet24h - Hai gã khổng lồ truyền hình Trung Quốc là TCL và Hisense đã phải đối mặt với các vụ kiện tập thể tại Hoa Kỳ vì cáo buộc "quảng cáo sai sự thật" về TV LED chấm lượng tử (QLED) của họ sau một cuộc tranh cãi ở Hàn Quốc rằng TV của họ thiếu các yếu tố chính cần thiết cho công nghệ chấm lượng tử (QD).
Aux gia nhập thị trường máy lạnh Việt Nam với những cải tiến mới Vietnet24h - Aux Air Conditioning đã chính thức gia nhập thị trường Việt Nam, đánh dấu sự ra mắt bằng hai hội nghị đại lý lớn tại Thành phố Hồ Chí Minh và Hà Nội.