Tầm nhìn chính sách
ISSCC2021: Chip trí tuệ nhân tạo
Anh Sơn - Thứ Năm, 18/02/2021 1:56 CH
Vietnet24h - Với chip ISSCC, một phiên bản được thiết lập 9 lớp mỏng như tờ giấy cho bộ xử lý nghiêng máy (ML).
Đây là một phiên bản đóng gói, với chín lớp, trên các chip từ bộ xử lý 5nm và 7nm để sử dụng trên điện thoại di động và đám mây, cho đến các bộ gia tốc dành riêng cho ứng dụng tiêu thụ điện năng cực thấp dành cho thiết bị đeo được.

IBM và Samsung đều giới thiệu bộ xử lý ML cho điện thoại, trong đó xử lý AI cục bộ sẽ loại bỏ nhu cầu tham gia đám mây, miễn là các kiến ​​trúc đủ mạnh và đủ linh hoạt để đối phó với khối lượng công việc đa dạng - có thể cấu hình lại để phù hợp với các mạng nơ-ron khác nhau một chút -chiều rộng, số lớp và các kích thước khác có sẵn cho chúng.
IBM’s là chip 4 nhân 7nm với 25,6Tflop / s khả dụng cho đào tạo FP8 ‘hybrid’ và 102,4Top / s cho hội nghị INT4 (xem sơ đồ).
 
Dấu phẩy động lai 8bit (HFP8) là một định dạng được phát minh tại IBM (được tiết lộ vào năm 2019) như một cách khắc phục những hạn chế của định dạng dấu phẩy động 8bit tiêu chuẩn (1 dấu, 5 số mũ, 2 phần định trị) FP8, hoạt động tốt khi đào tạo một số mạng nơ-ron tiêu chuẩn, nhưng dẫn đến độ chính xác kém khi đào tạo người khác. Hybrid FP8 sử dụng 4 số mũ và 3 bit phần định trị để truyền về phía trước, sau đó là 5 số mũ và 2 bit phần định trị để truyền ngược, tăng đáng kể độ chính xác của quá trình huấn luyện, theo công ty.
 
Bốn lõi được liên kết bằng một cặp vòng dữ liệu nhanh rộng, một để truyền theo chiều kim đồng hồ và một để truyền ngược chiều kim đồng hồ. Chúng có thể được đóng trong chip, hoặc được mở và định tuyến qua bộ nhớ ngoài hoặc nhiều chip giống hệt nhau để xử lý các mạng lớn hơn. Các vòng và lõi không đồng bộ để cho phép các tốc độ xung nhịp khác nhau trao đổi năng lượng cho hiệu suất một cách riêng biệt.
 
Mỗi lõi được chia thành hai lõi phụ dùng chung bộ nhớ bàn di chuột, sau đó mỗi lõi phụ có một mảng động cơ 8 × 8 được tối ưu hóa để tăng tốc tích chập và nhân ma trận với các đường ống riêng biệt để tính toán dấu phẩy động và điểm cố định - cùng cung cấp Khả năng FP16, HFP8, INT4 và INT2 cho cả đào tạo và suy luận AI.
 
Chip 36mm2 được sản xuất bằng cách sử dụng kỹ thuật in thạch bản EUV và đạt được các chỉ số hiệu suất ở trên với 0,75V trên lõi và 0,95V trên SRAM. Sử dụng kiến ​​thức mạng thu thập được khi mạng được biên dịch, chip có thể điều chỉnh các lớp mạng ngốn điện để duy trì trong phạm vi ngân sách năng lượng. Hoạt động danh nghĩa (lõi 0,55V, 0,7V SRAM) mang lại xung nhịp 1GHz và duy trì 3,5Tflop / s / W FP8 và 16Top / s / W INT4.
 
Bộ xử lý AI di động của Samsung nhỏ hơn, với kích thước 5,46mm2 và sử dụng quy trình 5nm để triển khai tổng cộng ba lõi của nó và có thể thực hiện 623 suy luận/s.
 
Mỗi lõi có hai lõi phụ ('động cơ tích hợp') cùng với một đơn vị xử lý vectơ và 1Mbyte bàn di chuột. Mỗi lõi phụ có trọng số - bản đồ tính năng - tìm nạp tổng một phần và một mảng 1.024 MAC - vì vậy> 6.000 MAC trên chip). Nó có thể thực thi 64 sản phẩm chấm của vectơ 16 chiều trên mỗi chu kỳ. Bàn di chuột chứa tất cả các trọng số, bản đồ tính năng đầu vào, bản đồ tính năng đầu ra và tổng một phần cho một lớp hoặc, nếu lớp lớn để phù hợp cùng một lúc, hãy xếp chồng lên lớp đó. Một đơn vị xử lý vectơ thực hiện các chức năng phi tuyến tính phức tạp như chuẩn hóa và softmax.
 
Không giống như các bus vòng của IBM, các lõi trong trường hợp này được kết nối bằng một bus thông thường hơn sử dụng DMA (truy cập bộ nhớ trực tiếp).
 
Để tiết kiệm quá trình xử lý lãng phí và do đó, năng lượng, tính năng không bỏ qua bản đồ được triển khai. “Việc sử dụng MAC trên các lớp phức hợp trong Inception-V3 có thể được cải thiện trung bình 36% bằng tính năng không bỏ qua bản đồ tính năng,” theo bản trình bày của ISSCC. “Không giống như không bỏ qua trọng lượng, tính năng không bỏ qua bản đồ nâng cao hiệu suất hiệu quả và tiết kiệm năng lượng mà không cần bất kỳ bước đào tạo bổ sung nào như cắt giảm trọng lượng.
 
Con chip này chạy từ 550mV đến 900mV, và 332Mz đến 1.2GHz xung nhịp. Công suất và hiệu suất được đo trong khi chạy các lớp tích hợp, gộp và được kết nối đầy đủ của mẫu 8bit Inception-V3 mà không cần cắt bớt trọng lượng. Thông lượng suy luận tổng thể là 194 suy luận / s ở 332MHz và 623 suy luận / s ở 1.196GHz ở chế độ ưu tiên thông lượng tương đương với hoạt động của CPU đa luồng. 1.190 suy luận / J được đo ở 0,6V, tương ứng với 13,6Top / s / W cho Inception-V3.
 
Trên mỗi khu vực, chip Samsung đạt 2,69Top / s / mm2 và 114 suy luận / s / mm2.
 
Về khía cạnh nhỏ bé, Đại học Công nghệ Nanyang từ Singapore và Đại học Columbia đã xem xét trí tuệ nhân tạo vi năng lượng. Nanyang đã trình bày một hệ thống nhận dạng cử chỉ tay trong thời gian thực cho các thiết bị có thể đeo và IoT, hoạt động bằng cách kiểm tra dữ liệu cạnh từ hình ảnh VGA (640x480x8bit), tiếp theo là bộ phân loại nhỏ gọn kết hợp để nhận dạng cử chỉ tĩnh và một bộ phân tích trình tự có khả năng chịu lỗi để nhận dạng cử chỉ động .
 
Chip 65nm 1,5mm2 có thể nhận dạng 24 cử chỉ động với độ chính xác trung bình là 92,6%, tất cả đều cho 184μW ở 0,6V.
 
Bộ xử lý của Columbia là công cụ phát hiện từ khóa luôn chạy 65nm được thiết kế để hoạt động trong điều kiện nhiễu nền. Huấn luyện không phụ thuộc vào tiếng ồn thông thường hơn - huấn luyện với nhiều mức độ và loại tiếng ồn khác nhau - sẽ dẫn đến một mạng lưới thần kinh quá lớn, vì vậy nhóm đã sử dụng một sơ đồ lấy cảm hứng từ sinh học đơn giản hơn gọi là 'bình thường hóa năng lượng chia'. Quá trình xử lý được trải rộng trên một chip "chiết xuất tính năng âm thanh chuẩn hóa" lấy tín hiệu âm thanh từ micrô và tạo ra các tính năng được mã hóa tốc độ tăng đột biến (cho 109nW) và chip phân loại mạng thần kinh tăng đột biến.
 
Đối với công suất 570nW, hệ thống hai chip đạt độ chính xác 89 - 94% trên tỷ lệ tín hiệu trên nhiễu từ -5 đến 20dB với bốn loại nhiễu khác nhau (bộ dữ liệu HeySnips). Về khả năng, độ chính xác là 96,5% khi tìm kiếm một từ khóa hoặc 90,2% khi tìm bốn từ khóa.
 
Chip lớp mỏng ISSCC 9.1 Một chip AI 4 nhân 7nm với đào tạo FP8 lai 25,6Tclops, suy luận INT4 102,4Tops và điều chỉnh khối lượng công việc nhận biết
 
Chip lớp mỏng ISSCC 9.5 Một đơn vị xử lý thần kinh nhận biết tính năng 6k-MAC-bản đồ-độ thưa thớt trong SoC di động hàng đầu 5nm
 
Chip lớp mỏng ISSCC 9.7 Một hệ thống nhận dạng cử chỉ tay theo thời gian thực 184µW với các bộ phân loại siêu nhỏ kết hợp cho các thiết bị đeo thông minh
 
Chip lớp mỏng ISSCC 9.9 Một bộ chiết xuất tính năng âm thanh 109nW chịu được nhiễu nền và biến đổi quy trình dựa trên chuẩn hóa năng lượng chia miền tăng đột biến cho thiết bị phát hiện từ khóa luôn bật.
Qualcomm phản đối việc mua lại Arm 40 tỷ đô la của Nvidia Vietnet24h - Theo các nguồn tin quen thuộc với vấn đề này, Qualcomm đã nói với các nhà quản lý trên toàn thế giới rằng họ chống lại việc Nvidia mua lại nhà thiết kế chip Arm người Anh trị giá 40 tỷ USD.
Theo EW
Tin khác cùng chuyên mục
Tin đọc nhiều
Hàng tỷ đô la bị đe dọa: Kế hoạch bãi bỏ Đạo luật CHIPS của Trump khiến các nhà sản xuất chip Hàn Quốc lo lắng Vietnet24h - Bất ổn chính trị kéo dài khiến các công ty Hàn Quốc không còn quyền đàm phán với Hoa Kỳ.
Nỗ lực bãi bỏ Đạo luật CHIP của Trump gây ra cuộc tranh luận về Chiến lược bán dẫn của Hoa Kỳ Vietnet24h - Tổng thống Hoa Kỳ Donald Trump đã tuyên bố ý định bãi bỏ Đạo luật CHIPs trong phiên họp chung của Quốc hội Hoa Kỳ vào ngày 4 tháng 3 (giờ địa phương).
Cổ phiếu công nghệ giảm 7% kể từ khi Trump nhậm chức vì chiến tranh thương mại làm gia tăng sự bất ổn Vietnet24h - Cổ phiếu công nghệ đã giảm hơn 7% kể từ khi Tổng thống Donald Trump nhậm chức.
Nhật Bản ưu tiên phần mềm nội địa cho an ninh mạng Vietnet24h - Tính đến năm 2021, các công ty trong nước chiếm khoảng 40% các sản phẩm đối phó an ninh mạng của Nhật Bản. Nhưng đối với các sản phẩm mới nhất, tỷ lệ này thường dưới 10%.
Hàn Quốc: Bộ trưởng Công nghiệp đưa ra giải pháp thay thế 'mang tính xây dựng', 'cùng có lợi' trong bối cảnh lo ngại về thuế quan của Trump Vietnet24h - Bộ trưởng Công nghiệp Hàn Quốc bày tỏ sự tin tưởng vào thứ Tư (26/2) rằng, Seoul và Washington sẽ có thể tìm ra một giải pháp thay thế "mang tính xây dựng" và "cùng có lợi".
Bắc Kinh áp dụng DeepSeek để dẫn đầu việc áp dụng AI khi tìm kiếm động lực tăng trưởng mới Vietnet24h - DeepSeek cũng đã làm rung chuyển hệ sinh thái AI của Trung Quốc, với các tổ chức nhà nước cũng như các công ty công nghệ lớn, bao gồm cả các đối thủ cạnh tranh, tận dụng kiến ​​trúc nguồn mở của nó.
Đài Loan cam kết đàm phán với Hoa Kỳ, đầu tư nhiều hơn để xoa dịu Trump Vietnet24h - Tổng thống Đài Loan Lai Ching-te đã cam kết vào thứ Sáu (14/2) sẽ đàm phán với Hoa Kỳ về những lo ngại của Tổng thống Donald Trump đối với ngành công nghiệp chip và đầu tư nhiều hơn vào và mua nhiều hơn từ quốc gia này, đồng thời tăng chi tiêu quốc phòng.
Hàn Quốc: Khủng hoảng thiếu hụt nhân tài chip được củng cố bởi nỗi ám ảnh về trường y Vietnet24h - Với các trường y khoa đang hút cạn những tài năng hàng đầu như một 'hố đen', các chuyên gia về chip kêu gọi một chính sách phát triển tài năng có hệ thống
Tổng thống Pháp Macron sẽ đầu tư 109 tỷ euro vào AI cho khu vực tư nhân của Pháp Vietnet24h - Pháp sẽ công bố các khoản đầu tư của khu vực tư nhân với tổng trị giá khoảng 109 tỷ euro (112,5 tỷ đô la) trong lĩnh vực trí tuệ nhân tạo của mình trong Hội nghị thượng đỉnh Paris AI sẽ khai mạc vào thứ Hai (10/2), Tổng thống Emmanuel Macron cho biết.
Hàn Quốc: Bộ Môi trường tham gia vào động thái chặn quyền truy cập vào DeepSeek Vietnet24h - Hôm nay, thứ Năm, 6/2, Bộ Môi trường Hàn Quốc đã tham gia cùng nhiều bộ khác của chính phủ Hàn Quốc trong việc chặn quyền truy cập vào dịch vụ trí tuệ nhân tạo (AI) của Trung Quốc DeepSeek giữa những lo ngại về việc thu thập dữ liệu người dùng.
Các gã khổng lồ công nghệ Hoa Kỳ đang đặt cược lớn vào robot hình người — nhưng Trung Quốc đã đi trước Vietnet24h - Sự phấn khích của các nhà đầu tư xung quanh robot ngày càng tăng khi có nhiều lời nhắc đến từ các nhà lãnh đạo công nghệ như Jensen Huang của Nvidia và các kế hoạch đầy tham vọng của Elon Musk của Tesla.
Giám đốc điều hành lượng tử của Google cho biết công nghệ 'còn 5 năm nữa mới có thể đột phá thực sự' Vietnet24h - Một trong những giám đốc điều hành cấp cao của Google chuyên nghiên cứu máy tính lượng tử cho biết ông tin rằng công nghệ này chỉ còn cách năm năm nữa là có thể chạy các ứng dụng thực tế mà máy tính hiện đại không thể tính toán được.
2 bằng sáng chế OLED của Solus Advanced bị công ty con của Samsung vô hiệu hóa Vietnet24h - Hai bằng sáng chế mới nhất mà Solus Advanced Materials nộp đã bị đối thủ Novaled, một công ty con của Samsung Group, vô hiệu hóa.
Đồng hồ gập của Apple: Bước đột phá đáng mong đợi Vietnet24h - Một bằng sáng chế mới của Apple hé lộ khả năng hãng đang phát triển Apple Watch có màn hình gập, giúp thiết bị linh hoạt hơn và hoạt động độc lập hơn. Nếu thành hiện thực, đây có thể là một trong những sản phẩm sáng tạo nhất của Apple.
CEO Huang Jensen của Nvidia cho biết chip nhanh hơn là cách tốt nhất để giảm chi phí AI Vietnet24h - Phát biểu tại hội nghị GTC của Nvidia vào thứ Ba, Huang cho biết những thắc mắc của khách hàng về chi phí và lợi tức đầu tư vào bộ xử lý đồ họa (GPU) của công ty sẽ không còn nữa khi có những con chip nhanh hơn.
Samsung hướng đến AI, các thỏa thuận M&A để thúc đẩy tăng trưởng cổ phiếu Vietnet24h - CEO gợi ý về thỏa thuận M&A 'có ý nghĩa' trong năm nay để thúc đẩy hoạt động kinh doanh chip AI.
Hơn 20 công ty công nghệ Đài Loan tham gia Hội nghị Trí tuệ nhân tạo toàn cầu GTC của Nvidia 2025 Vietnet24h - Một số công ty Đài Loan sẽ tham gia hội nghị trí tuệ nhân tạo toàn cầu tại California vào tuần này, do gã khổng lồ công nghệ Mỹ Nvidia Corp. tổ chức, đây là công ty hàng đầu trong thiết kế bộ xử lý đồ họa.
Những khó khăn của nhà máy đúc Samsung trầm trọng hơn trong bối cảnh đàm phán liên doanh TSMC-Intel Vietnet24h - Hoạt động kinh doanh xưởng đúc của Samsung có thể gặp "nguy cơ nghiêm trọng" nếu TSMC và các nhà thiết kế chip lớn của Hoa Kỳ thành lập một liên doanh để vận hành các cơ sở sản xuất chất bán dẫn của Intel.
Hội nghị quốc tế về "Trí tuệ nhân tạo và Bán dẫn - AISC 2025": Cơ hội tiếp cận những bước tiến mới nhất về AI, bán dẫn tại Việt Nam Vietnet24h - Ngày 12/3, Hội nghị quốc tế về trí tuệ nhân tạo và bán dẫn (AISC) 2025 được tổ chức bởi Trung tâm Đổi mới sáng tạo quốc gia (NIC) Aitomactic, Hoa Kỳ và chính thức khai mạc tại NIC Hòa Lạc.
TSMC, MediaTek chứng minh thành tựu chung Vietnet24h - Taiwan Semiconductor Manufacturing Co. (TSMC) và MediaTek Inc. đã cùng nhau trình diễn bộ phận quản lý năng lượng (PMU) và bộ khuếch đại công suất tích hợp (iPA) đầu tiên được thể hiện bằng silicon trên quy trình N6RF+ của TSMC
VinFast và BNI ký kết quan hệ đối tác chiến lược toàn diện để thúc đẩy quá trình chuyển đổi xanh và tăng trưởng bền vững Vietnet24h - VinFast và PT Bank Negara Indonesia (Persero) Tbk (BNI) đã ký Biên bản ghi nhớ (MOU) trong Đối thoại doanh nghiệp cấp cao Việt Nam-Indonesia với chủ đề "Việt Nam-Indonesia: Quan hệ đối tác vì sự tiến bộ và thịnh vượng".
Chủ tịch Tập đoàn SK gặp gỡ Tổng bí thư Tô Lâm thảo luận về hợp tác năng lượng Vietnet24h - Ông Chey đã có cuộc hội đàm với quan chức cấp cao của Việt Nam tại Hà Nội vào thứ Sáu (15/2), cùng với các giám đốc của SK Innovation E&S, SK Energy, SKC và SK Earth On.
Hội nghị năng lượng điện khai mạc tại Seoul giới thiệu nhiều công nghệ tiên tiến Vietnet24h - Một hội nghị về năng lượng điện đã khai mạc tại Seoul vào hôm nay, thứ Tư (12/2), để giới thiệu các công nghệ điện tiên tiến của các công ty trong và ngoài Hàn Quốc.
Tổng thống Trump ra lệnh cho Hoa Kỳ rút khỏi thỏa thuận khí hậu Paris, sẽ tuyên bố 'tình trạng khẩn cấp về năng lượng quốc gia' Vietnet24h - Tổng thống Donald Trump đã ra lệnh cho Hoa Kỳ rút khỏi thỏa thuận khí hậu Paris.
Kế hoạch tái chế nhôm từ ô tô và lưu giữ toàn bộ tại Hoa Kỳ của một công ty khởi nghiệp Vietnet24h - Sortera cho biết họ là công ty duy nhất của Hoa Kỳ có công nghệ phân loại để tái sử dụng chất lượng cao nhất — tức là lấy nhôm từ nắp capo ô tô và đưa trở lại nắp capo ô tô.
Samsung Display đạt chứng nhận không rác thải hàng đầu Vietnet24h - Chứng nhận này được xác minh bởi UL Solutions, một tổ chức khoa học an toàn ứng dụng toàn cầu. Samsung Display đã được xếp hạng Bạch kim cho bốn cơ sở trong nước và bốn cơ sở khác ở nước ngoài.
Sự phát triển của AI và những thách thức đối với hệ thống điện Mỹ Vietnet24h - Các trung tâm dữ liệu AI đang ngày càng trở thành nguồn tiêu thụ năng lượng lớn, gây ra những áp lực đáng lo ngại đối với hệ thống lưới điện tại Mỹ. Với mục tiêu duy trì sự ổn định và bền vững, các tập đoàn công nghệ lớn đang tìm kiếm giải pháp năng lượng sạch như hạt nhân để đáp ứng nhu cầu này, nhưng điều này có đủ để giải quyết vấn đề lâu dài?
Đầu tư mạnh mẽ vào năng lượng hạt nhân: kỳ vọng từ các cường quốc Vietnet24h - Khi các quốc gia như Nga, Pháp, và Mỹ đẩy mạnh phát triển năng lượng hạt nhân, thế giới đang chứng kiến một cuộc chuyển mình mạnh mẽ trong ngành năng lượng. Các thỏa thuận lớn và những bước tiến công nghệ đang mở đường cho một tương lai năng lượng sạch và bền vững hơn.
LG Display, Hanwha Solutions hợp tác phát triển bao bì thân thiện với môi trường bằng nhựa tái chế Vietnet24h - LG Display cho biết hôm thứ Hai (23/12) rằng, họ đã phát triển bao bì thân thiện với môi trường cho các linh kiện điện tử bằng nhựa tái chế sau khi tiêu dùng hợp tác với Hanwha Solutions.
Samsung Display đạt chứng nhận cắt giảm carbon đầu tiên trong ngành với tấm nền điện thoại thông minh Vietnet24h - Samsung Display đã nhận được chứng nhận giảm phát thải carbon quốc tế cho tấm nền màn hình OLED dành cho Galaxy S24 và Galaxy Z Flip 6