Thị trường công nghệ
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
Việt Nam vào top 30 thế giới về tốc độ mạng: Nhưng hàng trăm bản làng vẫn mòn mỏi đợi sóng Vietnet24h - Trong khi người dân thành phố tận hưởng Internet 5G tốc độ cao, thì ở Sơn La, hơn 600 thôn bản vẫn chưa có đường truyền mạng. Câu chuyện kết nối số tại Việt Nam vẫn là bức tranh hai mảng sáng – tối, đòi hỏi những hành động quyết liệt hơn từ cơ quan quản lý và doanh nghiệp viễn thông.
Game Pet Samkok chiếm top 1 tại Việt Nam, nổi bật ở Thái Lan và Indonesia Vietnet24h - Chỉ sau một ngày phát hành, Pet Samkok – Báo Thủ 3Q do SohaGame phát triển – đã vươn lên đứng đầu App Store, Google Play tại Việt Nam và được Apple chọn hiển thị nổi bật tại Thái Lan, Indonesia, đánh dấu bước tiến mới của game Việt tại thị trường Đông Nam Á.
CEO của Nvidia, Jensen Huang cho biết Nintendo Switch 2 có bộ xử lý AI chuyên dụng Vietnet24h - CEO của Nvidia, Jensen Huang đã trình bày chi tiết về khả năng của máy chơi game Switch 2 mới của Nintendo.
Lượng tử hóa an ninh mạng: Khi thông tin được bảo vệ bởi định luật vật lý Vietnet24h - Hãy tưởng tượng mỗi tin nhắn bạn gửi được bảo vệ bằng định luật vật lý – không hacker nào có thể đọc trộm, vì chỉ cần nghe lén là… chính họ tự làm sai lệch thông tin. Đó không còn là viễn tưởng, mà là thực tế đang diễn ra tại Trung Quốc, nơi cuộc gọi mã hóa lượng tử đầu tiên vừa được thực hiện nhờ công nghệ bảo mật cấp độ nguyên tử.
Lượng PC xuất xưởng tăng trong quý đầu tiên khi các công ty chuẩn bị cho thuế quan Vietnet24h - Nhiều công ty đã đẩy nhanh quá trình giao hàng để chuẩn bị cho mức thuế quan sắp tới có thể gây áp lực lên thị trường máy tính và thiết bị điện tử đang phục hồi.
Trò chơi Xbox sẽ sớm có trên TV LG thông qua dịch vụ chơi game đám mây Vietnet24h - Theo LG Electronics, gần đây họ đã ký kết một quan hệ đối tác để cung cấp hàng trăm tựa game Xbox cho webOS của LG.
Tấn công mạng làm gián đoạn hoạt động của Japan Airlines Vietnet24h - Vừa qua, Japan Airlines đã trở thành nạn nhân của một cuộc tấn công mạng nghiêm trọng, gây tác động lớn đến các hệ thống nội bộ của hãng. Các chuyên gia cho rằng vụ việc có thể dẫn đến sự cố chậm trễ và hủy chuyến bay trong những ngày tới.
Tình trạng tấn công mạng tại Việt Nam: Mối đe dọa ngày càng nghiêm trọng với hơn 659.000 vụ Vietnet24h - Năm 2024, các cơ quan, doanh nghiệp Việt Nam phải đối mặt với hơn 659.000 vụ tấn công mạng, trong đó hình thức tấn công APT (Advanced Persistent Threat) trở thành mối đe dọa lớn nhất. Báo cáo của Hiệp hội An ninh mạng quốc gia chỉ ra rằng không chỉ số lượng mà cả quy mô các vụ tấn công đang gia tăng, đồng thời nhân lực an ninh mạng tại Việt Nam vẫn đang thiếu hụt trầm trọng, tạo ra nhiều lỗ hổng dễ dàng bị tội phạm mạng khai thác.
Realme 13+ 5G: đột phá công nghệ dành cho game thủ thể thao điện tử Vietnet24h - Realme 13+ 5G là mẫu smartphone mới nhất vừa ra mắt, được trang bị công nghệ tiên tiến với chipset Dimensity 7300 và RAM mở rộng đến 26GB. Sản phẩm hứa hẹn sẽ mang đến trải nghiệm chơi game tuyệt vời với chế độ GT tối ưu hóa hiệu suất, cùng với sạc siêu nhanh 80W giúp người dùng không lo về thời gian chờ đợi.
Chip Core Ultra 200S của Intel: Cuộc cách mạng trong xử lý máy tính để bàn Vietnet24h - Intel vừa ra mắt chip Core Ultra 200S, sản phẩm mới nhất trong dòng máy tính để bàn, với những cải tiến đáng kể về hiệu suất và công nghệ AI. Sự ra mắt này không chỉ mang lại những trải nghiệm tốt hơn cho người dùng mà còn mở ra kỷ nguyên mới trong ngành công nghiệp công nghệ.
Cuộc đụng độ của Trump với Apple có thể khiến giá điện thoại Samsung tăng mạnh Vietnet24h - Tổng thống Donald Trump đã thúc giục Apple chuyển hoạt động sản xuất của mình ra khỏi Trung Quốc và gã khổng lồ công nghệ đã phản ứng bằng cách di dời sản xuất sang Ấn Độ.
25% thuế nhập khẩu iPhone: Cái giá vẫn còn “rẻ” nếu so với sản xuất tại Mỹ Vietnet24h - Dù bị cảnh báo sẽ phải chịu mức thuế nhập khẩu tới 25% nếu tiếp tục sản xuất ngoài Mỹ, Apple nhiều khả năng vẫn sẽ không “hồi hương” dây chuyền sản xuất. Bởi chi phí cho lựa chọn này có thể đẩy giá iPhone lên tới 3.500 USD – một mức giá mà ngay cả khách hàng trung thành cũng phải chùn bước.
SK Hynix ký hợp đồng cung cấp chất kết dính TC với cả Hanwha và Hanmi Vietnet24h - SK Hynix đã đồng ý mua chất liên kết nén nhiệt (TC) từ các nhà cung cấp Hanwha Semitech và Hanmi Semiconductor.
Hàng điện tử và IC không bị ảnh hưởng trực tiếp bởi thuế quan Vietnet24h - Theo Báo cáo Giám sát sản xuất chất bán dẫn quý 1 (SMM) của SEMI/TechInsights, doanh số bán hàng điện tử và IC quý 1 không bị ảnh hưởng trực tiếp bởi thuế quan.
AI giá rẻ khiến Nvidia lao đao: Jensen Huang nói “cảm ơn” DeepSeek R1 Vietnet24h - Thay vì phản bác, CEO Nvidia lại khen ngợi mô hình R1 của DeepSeek là “món quà” cho ngành AI – ngay cả khi nó làm cổ phiếu bán dẫn lao dốc và khiến nhiều nhà đầu tư nghi ngờ mô hình kinh doanh của chính Nvidia. Đây là sự nhún nhường chiến lược, hay dấu hiệu Nvidia phải chuyển mình trước cơn địa chấn AI mới?
AMD sẽ bán mảng kinh doanh sản xuất máy chủ của ZT Systems cho Sanmina với giá 3 tỷ đô la Vietnet24h - AMD sẽ bán mảng kinh doanh sản xuất máy chủ của ZT Systems mới mua lại cho Sanmina trong một thỏa thuận trị giá 3 tỷ đô la.
Qualcomm ra mắt bộ xử lý trung tâm dữ liệu liên kết với chip Nvidia Vietnet24h - Qualcomm cho biết họ đang có kế hoạch ra mắt một bộ xử lý trung tâm tùy chỉnh cho trung tâm dữ liệu có thể kết nối với GPU và phần mềm của Nvidia.
Doanh số bán hàng của SK hynix tại Hoa Kỳ chiếm hơn 70% trong quý 1 nhờ nhu cầu AI tăng cao Vietnet24h - Theo báo cáo tài chính của công ty được công bố vào thứ năm, doanh thu tại Hoa Kỳ đạt tổng cộng 12,8 nghìn tỷ won (9,1 tỷ đô la) trong quý đầu tiên.
Fortnite hiện đã ngoại tuyến trên iOS trên toàn thế giới vì bị Apple chặn trò chơi Vietnet24h - Fortnite hiện không khả dụng trên iOS toàn cầu, Epic Games cho biết hôm thứ Sáu (16/5), sau khi Apple chặn một nỗ lực khôi phục trò chơi phổ biến này trên App Store tại Hoa Kỳ.
Nvidia bán 18.000 chip AI hàng đầu của mình đến Ả Rập Xê Út Vietnet24h - Nvidia sẽ bán hơn 18.000 chip trí tuệ nhân tạo mới nhất của mình cho công ty Humain của Saudi, CEO Jensen Huang tuyên bố hôm thứ ba.
Samsung sẽ ra mắt Galaxy Z Flip 7 và Fold 7 vào tháng 7 tại New York Vietnet24h - Samsung Electronics chuẩn bị ra mắt điện thoại màn hình gập mới vào tháng tới, tự hào với hiệu suất tương đương với mẫu Ultra, mẫu cao cấp nhất của dòng Galaxy S.
Xiaomi dẫn đầu thị trường thiết bị đeo tay toàn cầu, thị phần Apple giảm sút trong quý 1/2025 Vietnet24h - Theo báo cáo của Canalys, Xiaomi ghi nhận mức tăng trưởng 44% doanh số thiết bị đeo tay trong quý đầu năm 2025, qua đó chiếm lĩnh vị trí số 1 thị trường toàn cầu với 19% thị phần, vượt qua Apple – nhà sản xuất vốn thống trị lâu nay với 16%.
Doanh số bán điện thoại di động mang thương hiệu nước ngoài tại Trung Quốc tăng nhẹ vào tháng 4 Vietnet24h - Lượng điện thoại mang thương hiệu nước ngoài được bán ra tại Trung Quốc trong tháng 4 đã tăng lên 3,52 triệu chiếc so với mức 3,50 triệu chiếc của cùng kỳ năm trước.
Lượng iPhone xuất khẩu của Ấn Độ sang Hoa Kỳ tăng vọt ước tính 76%. Vietnet24h - Dữ liệu từ Canalys, hiện là một phần của Omdia, cho thấy số lượng iPhone được vận chuyển từ Ấn Độ đến Mỹ vào tháng 4 đã tăng khoảng 76%, đạt 3.000.000 chiếc.
BYD đánh bại Tesla về doanh số bán xe điện tại Châu Âu bất chấp thuế quan của EU trong 'thời khắc quan trọng' Vietnet24h - Dữ liệu từ JATO Dynamics cho thấy doanh số của BYD tại Châu Âu đã tăng 359% vào tháng 4 so với năm ngoái.
Xuất khẩu điện thoại thông minh của Trung Quốc sang Hoa Kỳ, bao gồm cả iPhone của Apple, giảm xuống mức thấp nhất kể từ năm 2011 Vietnet24h - Xuất khẩu điện thoại thông minh của Trung Quốc giảm 72% xuống chỉ còn dưới 700 triệu đô la Mỹ vào tháng 4, khi chiến dịch áp thuế của Trump làm gián đoạn chuỗi cung ứng công nghệ.
LG và Samsung đối đầu trên thị trường TV di động đang phát triển Vietnet24h - LG dẫn đầu thị trường TV di động trước những thách thức mới.
LG mở rộng dấu ấn tại Ấn Độ với nhà máy mới trị giá 600 triệu đô la Vietnet24h - LG đã mở rộng nhà máy thứ 3 tăng cường chuỗi cung ứng nội địa, đáp ứng nhu cầu ngày càng tăng về đồ gia dụng cao cấp tại Ấn Độ.
iPhone 16e giảm giá sâu nhưng vẫn lạc nhịp tại Việt Nam: Bài toán sai của Apple trong phân khúc phổ thông? Vietnet24h - Dù đang là sản phẩm góp công lớn giúp Apple giữ vững thị phần toàn cầu, iPhone 16e lại chật vật tại Việt Nam. Cú trượt giá dưới 16 triệu đồng sau hai tháng lên kệ cho thấy một thực tế: thị trường trong nước chưa sẵn sàng đón nhận chiến lược "iPhone phổ thông" mà Apple đang thử nghiệm.
Các nhà sản xuất TV Trung Quốc phải đối mặt với các vụ kiện tập thể tại Hoa Kỳ trong bối cảnh ngày càng giám sát chặt chẽ các khiếu nại về TV QLED Vietnet24h - Những nghi ngờ về TV LED chấm lượng tử (QLED) của các nhà sản xuất Trung Quốc đang gia tăng tại Hoa Kỳ, khi khách hàng ở Illinois gần đây đã đệ đơn kiện tập thể chống lại Hisense vì cáo buộc quảng cáo sai sự thật về TV QLED của hãng này — sau các vụ việc tương tự ở California và New York.