Tiêu điểm công nghệ
Nvidia tiết lộ chip trí tuệ nhận tạo và cho biết chi phí chạy mô hình ngôn ngữ lớn sẽ 'giảm đáng kể'
Vĩnh An - Thứ Tư, 09/08/2023 5:45 CH
Vietnet24h - Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba (7/8).
Nvidia đã công bố một con chip mới được thiết kế để chạy các mô hình trí tuệ nhân tạo vào thứ ba khi công ty đang tìm cách chống lại các đối thủ cạnh tranh trong không gian phần cứng AI, bao gồm AMD, Google và Amazon.
 
Hiện tại, Nvidia đang thống trị thị trường chip AI với hơn 80% thị phần, theo một số ước tính. Chuyên môn của công ty là các đơn vị xử lý đồ họa hoặc GPU, đã trở thành chip ưa thích cho các mô hình AI lớn làm nền tảng cho phần mềm AI tổng quát, chẳng hạn như Bard của Google và ChatGPT của OpenAI. Nhưng chip của Nvidia đang bị thiếu hụt khi những gã khổng lồ công nghệ, nhà cung cấp đám mây và công ty khởi nghiệp tranh giành năng lực GPU để phát triển các mô hình AI của riêng họ.
 
Chip mới của Nvidia, GH200, có cùng GPU với chip AI cao cấp nhất hiện tại của công ty, H100. Nhưng GH200 kết hợp GPU đó với bộ nhớ tiên tiến 141 gigabyte, cũng như bộ xử lý trung tâm ARM 72 lõi.
 
Giám đốc điều hành Nvidia Jensen Huang cho biết trong một cuộc nói chuyện tại một hội nghị vào thứ Ba: “Chúng tôi đang tăng cường sức mạnh cho bộ xử lý này. Anh ấy nói thêm, “Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.”
 
Huang cho biết chip mới sẽ có sẵn từ các nhà phân phối của Nvidia vào quý hai năm sau và sẽ có sẵn để lấy mẫu vào cuối năm nay. Đại diện của Nvidia từ chối đưa ra mức giá.
 
Thông thường, quá trình làm việc với các mô hình AI được chia thành ít nhất hai phần: đào tạo và suy luận.
 
Đầu tiên, một mô hình được đào tạo bằng cách sử dụng lượng lớn dữ liệu, một quá trình có thể mất hàng tháng và đôi khi yêu cầu hàng nghìn GPU, chẳng hạn như trong trường hợp của Nvidia là chip H100 và A100 của nó. Sau đó, mô hình được sử dụng trong phần mềm để đưa ra dự đoán hoặc tạo nội dung, sử dụng quy trình gọi là suy luận. Giống như đào tạo, suy luận rất tốn kém về mặt tính toán và đòi hỏi nhiều sức mạnh xử lý mỗi khi phần mềm chạy, chẳng hạn như khi phần mềm hoạt động để tạo văn bản hoặc hình ảnh. Nhưng không giống như đào tạo, suy luận diễn ra gần như liên tục, trong khi đào tạo chỉ được yêu cầu khi mô hình cần cập nhật.
 
“Bạn có thể lấy gần như bất kỳ mô hình ngôn ngữ lớn nào bạn muốn và đặt nó vào đây và nó sẽ suy luận như điên,” Huang nói. “Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.”
 
GH200 mới của Nvidia được thiết kế để suy luận vì nó có nhiều dung lượng bộ nhớ hơn, cho phép các mô hình AI lớn hơn phù hợp với một hệ thống duy nhất, Phó chủ tịch Nvidia Ian Buck cho biết trong một cuộc gọi với các nhà phân tích và phóng viên hôm thứ Ba. H100 của Nvidia có bộ nhớ 80GB, so với 141GB trên GH200 mới. Nvidia cũng đã công bố một hệ thống kết hợp hai chip GH200 vào một máy tính duy nhất cho các mẫu thậm chí còn lớn hơn.
 
Buck cho biết: “Việc có bộ nhớ lớn hơn cho phép mô hình duy trì trạng thái cố định trên một GPU duy nhất và không cần phải yêu cầu nhiều hệ thống hoặc nhiều GPU để chạy,” Buck nói.
 
Thông báo này được đưa ra khi đối thủ GPU chính của Nvidia, AMD, gần đây đã công bố chip định hướng AI của riêng mình, MI300X, có thể hỗ trợ bộ nhớ 192GB và đang được bán trên thị trường nhờ khả năng suy luận AI. Các công ty bao gồm Google và Amazon cũng đang thiết kế chip AI tùy chỉnh của riêng họ để suy luận.
Nvidia trở thành công ty nghìn tỷ nhờ AI Vietnet24h - Nvidia vừa chạm mốc vốn hóa 1.000 tỷ USD vào ngày 30/5, trở thành hãng chip đầu tiên gia nhập “câu lạc bộ” nghìn tỷ nhờ sự bùng nổ của trí tuệ nhân tạo (AI).
Nvidia phải 'chạy chứ không đi bộ' trước đối thủ như Intel Vietnet24h - Thứ Ba (30/5), người sáng lập và Giám đốc điều hành của Nvidia, Jensen Huang cho biết công ty của ông phải "chạy ... không đi bộ" trước sự cạnh tranh từ các đối thủ bao gồm Intel Corp có trụ sở tại Hoa Kỳ.
Theo CNBC
Tin khác cùng chuyên mục
Tin đọc nhiều
MediaTek ra mắt bộ xử lý AI cho Chromebook Plus Vietnet24h - MediaTek Inc., nhà thiết kế IC lớn nhất tại Đài Loan, đã giới thiệu bộ xử lý mới -- Kompanio Ultra -- vào thứ Hai, công ty mô tả đây là cột mốc mới nhất trong Chromebook hiệu suất cao, chạy bằng trí tuệ nhân tạo.
Chuẩn GPMI của Trung Quốc: ‘Một dây cáp cho mọi thiết bị’ Vietnet24h - GPMI được thiết kế để tối giản hóa kết nối số bằng cách gộp cả dữ liệu và điện năng vào một sợi cáp duy nhất. Nếu được phổ biến, đây có thể là bước ngoặt định hình lại hệ sinh thái điện tử trong tương lai.
Rò rỉ cách Apple sẽ làm cho màn hình bên trong của iPhone gập trở nên quen thuộc với người dùng iPad Vietnet24h - Chiếc điện thoại có thể gập đầu tiên của Apple dự kiến ​​sẽ được sản xuất hàng loạt vào cuối năm sau và có thể ra mắt vào quý 4 năm 2026 hoặc quý 1 năm 2027.
Alibaba cung cấp miễn phí mô hình tạo video AI trên toàn cầu Vietnet24h - Gã khổng lồ Trung Quốc cho biết họ đang mở mã nguồn bốn mô hình thuộc dòng Wan2.1, phiên bản mới nhất của mô hình AI nền tảng của công ty, có khả năng tạo hình ảnh và video từ dữ liệu đầu vào là văn bản và hình ảnh.
Từ Gmail đến Word, cài đặt quyền riêng tư và AI của bạn đang bước vào một mối quan hệ mới Vietnet24h - Các chương trình như Gmail, Microsoft và Facebook đã tồn tại trong nhiều năm qua đã âm thầm kích hoạt và tích hợp các tính năng AI.
AI trong Gmail, Word: Tiện ích hay mối đe dọa quyền riêng tư? Vietnet24h - AI đang dần xâm nhập vào mọi ngóc ngách của cuộc sống số, từ email đến sổ sách kế toán. Tuy nhiên, sự thiếu rõ ràng trong chính sách bảo mật khiến nhiều chuyên gia cảnh báo về nguy cơ dữ liệu cá nhân bị lạm dụng.
OpenAI bật mí 5 mẹo dùng ChatGPT mà bạn chưa biết Vietnet24h - Nick Turley, chuyên gia của OpenAI, tiết lộ các tính năng như tải tập tin, tạo GPT tùy chỉnh và sử dụng giọng nói, hứa hẹn thay đổi cách người dùng tương tác với ChatGPT.
Ghi âm cuộc gọi và cải tiến camera: Những điểm nổi bật trong iOS 18.1 của Apple Vietnet24h - Vào tối 28 tháng 10, Apple phát hành phiên bản iOS 18.1, mang đến tính năng ghi âm cuộc gọi lần đầu tiên cho người dùng iPhone. Cùng với đó là những cải tiến cho camera và giao diện, hứa hẹn sẽ nâng cao trải nghiệm người dùng trên các thiết bị mới.
Orion sắp ra mắt: OpenAI mở ra chương mới cho trí tuệ nhân tạo Vietnet24h - Với việc ra mắt mô hình AI mới mang tên Orion vào tháng 12/2024, OpenAI đang tạo ra những bước tiến mạnh mẽ trong lĩnh vực công nghệ. Orion được kỳ vọng sẽ có sức mạnh vượt trội gấp 100 lần GPT-4, đánh dấu một cột mốc quan trọng trong hành trình phát triển trí tuệ nhân tạo tổng quát.
Chỉnh sửa ảnh thông minh với Microsoft Paint nhờ AI Vietnet24h - Microsoft Paint không ngừng cải tiến với sự ra mắt của Generative Fill và Generative Erase. Hai tính năng mới này giúp người dùng dễ dàng thêm hoặc xóa các chi tiết trong ảnh, mang lại trải nghiệm chỉnh sửa ảnh phong phú và trực quan hơn bao giờ hết.
Với iPhone 17, Apple chơi lớn: Tự chủ chip, mở rộng AI, dứt khoát chia tay “Plus” Vietnet24h - Việc khai tử phiên bản Plus để nhường chỗ cho mẫu Air siêu mỏng là dấu hiệu cho thấy Apple đang tái cấu trúc danh mục iPhone. Cùng lúc, hãng đẩy mạnh nội địa hóa linh kiện, nâng cấp phần cứng và tích hợp AI sâu rộng nhằm giữ vị thế dẫn đầu trong cuộc đua công nghệ.
Bên trong nhà máy sản xuất chip hoàn toàn tự động của LG Innotek: Robot, AI và không bụi Vietnet24h - LG Innotek đã mở cửa "Dream Factory" tiên tiến của mình tại Gumi, tỉnh Gyeongsang Bắc, lần đầu tiên cho giới truyền thông địa phương, thể hiện động thái đầy tham vọng của công ty nhằm định vị mình là một công ty lớn trong thị trường chất nền bán dẫn thế hệ tiếp theo.
Nvidia cho biết họ tuân thủ luật xuất khẩu của Hoa Kỳ một ngày sau khi ngừng bán chip AI cho Trung Quốc Vietnet24h - Nvidia cho biết hôm thứ Tư rằng họ tuân thủ theo chỉ đạo của chính phủ Hoa Kỳ về nơi họ có thể bán chip AI của mình "theo đúng nghĩa đen".
Điện thoại thông minh, màn hình máy tính và linh kiện điện tử được miễn thuế quan mới nhất của Trump Vietnet24h - Theo thông báo của Cơ quan Hải quan và Bảo vệ Biên giới Hoa Kỳ được đăng vào cuối ngày thứ Sáu (11/4), các thiết bị điện tử nhập khẩu vào Hoa Kỳ sẽ được miễn thuế quan có đi có lại của Tổng thống Donald Trump.
Các nhà phân tích cảnh báo Apple sẽ không còn phao cứu sinh khi cuộc chiến thương mại Mỹ - Trung ngày càng leo thang Vietnet24h - Apple đang phụ thuộc quá nhiều vào Trung Quốc, nơi chứng kiến ​​mức thuế quan tiếp tục tăng lên tới mức kỷ lục là 145%.
Ông Trump tạm thời hạ thuế quan đối ứng với Việt Nam và các nước khác xuống 10% trong thời gian tạm dừng 90 ngày Vietnet24h - Tổng thống Hoa Kỳ Donald Trump hôm thứ Tư đã hạ thuế quan "có đi có lại" đối với Việt Nam và các đối tác thương mại khác xuống còn 10 phần trăm trong cái mà ông gọi là tạm dừng kéo dài trong 90 ngày, trong khi tăng thuế đối với Trung Quốc lên 125 phần trăm sau động thái trả đũa của Trung Quốc.
Intel bước vào giai đoạn rủi ro khi tiến hành sản xuất chip quy trình 18A Vietnet24h - Ông Kevin O’Buckley, phó chủ tịch cấp cao của Foundry Services, cho biết tại hội nghị Intel Vision 2025 ngày 1/4 vừa qua rằng Intel đã bước vào sản xuất rủi ro trên quy trình 18A.
Meta phát hành mô hình AI mới Llama 4 Vietnet24h - Meta Platforms đã phát hành phiên bản mới nhất của mô hình ngôn ngữ lớn (LLM) Llama vào thứ Bảy, được gọi là Llama 4 Scout và Llama 4 Maverick.
Cerebras Systems, Ranovus giành được hợp đồng quân sự trị giá 45 triệu đô la của Hoa Kỳ để đẩy nhanh kết nối chip Vietnet24h - Cerebras Systems, một công ty chip AI có trụ sở tại Thung lũng Silicon và công ty khởi nghiệp chip Canada Ranovus cho biết hôm thứ Ba (1/4) rằng, họ đã được quân đội Hoa Kỳ trao hợp đồng trị giá 45 triệu đô la để tăng tốc kết nối giữa các chip điện toán.
iOS 19 lộ diện tại WWDC 2025: Bản cập nhật quan trọng nhất của iPhone Vietnet24h - WWDC 2025 sẽ là nơi Apple chính thức công bố iOS 19 – phiên bản hứa hẹn sẽ thay đổi cách người dùng tương tác với iPhone, với thiết kế trong suốt và tinh tế hơn bao giờ hết.
Công nghệ cấy ghép não được FDA chấp thuận cho Precision Neuroscience Vietnet24h - Precision Neuroscience thông báo rằng một thành phần cốt lõi của hệ thống cấy ghép não đã được Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ chấp thuận.
Từ ghi hình kép đến UX sáng tạo: iPhone 17 Pro có thể mở ra chương mới trong thiết kế trải nghiệm Vietnet24h - Không chỉ là tính năng mới, ghi hình kép trên iPhone 17 Pro là phép thử đầu tiên cho cách Apple xây dựng trải nghiệm người dùng kiểu mới – nơi cảm xúc, phản ứng và câu chuyện của người quay trở thành trung tâm của mọi khung hình.
Kim loại lỏng: Apple đang thử nghiệm cho iPhone gập, bền hơn titan 2,5 lần Vietnet24h - Công nghệ bản lề kim loại lỏng có thể giúp iPhone gập không chỉ bền hơn mà còn có thiết kế sang trọng hơn. Liệu đây có phải là bước tiến lớn trong công nghệ smartphone gập?
Apple áp dụng kim loại lỏng cho iPhone gập, mở ra kỷ nguyên mới Vietnet24h - Apple được cho là sẽ sử dụng kim loại lỏng để chế tạo bản lề cho iPhone gập, giúp tăng độ bền và hạn chế nếp gấp màn hình. Công nghệ này có thể tạo ra bước đột phá trên thị trường smartphone gập.
Amazon sẽ mang công nghệ quét lòng bàn tay đến các cơ sở y tế NYU Langone Vietnet24h - Bệnh nhân của NYU Langone Health sẽ có thể đăng ký lịch hẹn bằng Amazon One, công nghệ quét lòng bàn tay của công ty.
Lenovo hé lộ máy tính xách tay màn hình gập chạy bằng năng lượng mặt trời trong khái niệm mới nhất Vietnet24h - Lenovo đã tiết lộ khái niệm Lenovo ThinkBook ‘flip’, một chiếc máy tính xách tay có màn hình có thể gập lại. Khi mở hoàn toàn, toàn màn hình có kích thước 18 inch.
Meta công bố kính thông minh nghiên cứu thử nghiệm Aria Gen 2 Vietnet24h - Meta đã tiết lộ phiên bản mới nhất của loại kính thử nghiệm nhằm hỗ trợ nghiên cứu về trí tuệ nhân tạo, robot và nhận thức của máy móc.
Smartphone gập ba: Samsung chạm đỉnh công nghệ, người dùng chạm đáy túi tiền Vietnet24h - Với tham vọng thay đổi cách người dùng trải nghiệm thiết bị di động, Samsung sắp ra mắt điện thoại gập ba. Dù mang thiết kế tiên phong, giá bán lên đến 2.800 USD sẽ là rào cản lớn để sản phẩm đến tay người dùng đại chúng.
Samsung Display sẽ ra mắt màn hình gập 18,1 inch tại CES Vietnet24h - Samsung Display cho biết hôm Chủ Nhật rằng họ sẽ ra mắt màn hình OLED có thể gập 18,1 inch đầu tiên trên thế giới tại CES 2025, dự kiến ​​sẽ khai mạc vào thứ Ba (7/1) tại Las Vegas.
Khí quyển của TRAPPIST-1: một phát hiện thú vị về sự tồn tại sự sống ngoài trái đất Vietnet24h - TRAPPIST-1b, hành tinh cách Trái đất 40 năm ánh sáng, đã gây bất ngờ khi các nhà khoa học phát hiện rằng nó có khí quyển dày đặc và một lớp sương mù đặc biệt, mở ra triển vọng mới trong nghiên cứu sự sống ngoài hành tinh.