Hướng dẫn công nghệ
ISSCC2021: Chip trí tuệ nhân tạo
Anh Sơn - Thứ Năm, 18/02/2021 1:56 CH
Vietnet24h - Với chip ISSCC, một phiên bản được thiết lập 9 lớp mỏng như tờ giấy cho bộ xử lý nghiêng máy (ML).
Đây là một phiên bản đóng gói, với chín lớp, trên các chip từ bộ xử lý 5nm và 7nm để sử dụng trên điện thoại di động và đám mây, cho đến các bộ gia tốc dành riêng cho ứng dụng tiêu thụ điện năng cực thấp dành cho thiết bị đeo được.

IBM và Samsung đều giới thiệu bộ xử lý ML cho điện thoại, trong đó xử lý AI cục bộ sẽ loại bỏ nhu cầu tham gia đám mây, miễn là các kiến ​​trúc đủ mạnh và đủ linh hoạt để đối phó với khối lượng công việc đa dạng - có thể cấu hình lại để phù hợp với các mạng nơ-ron khác nhau một chút -chiều rộng, số lớp và các kích thước khác có sẵn cho chúng.
IBM’s là chip 4 nhân 7nm với 25,6Tflop / s khả dụng cho đào tạo FP8 ‘hybrid’ và 102,4Top / s cho hội nghị INT4 (xem sơ đồ).
 
Dấu phẩy động lai 8bit (HFP8) là một định dạng được phát minh tại IBM (được tiết lộ vào năm 2019) như một cách khắc phục những hạn chế của định dạng dấu phẩy động 8bit tiêu chuẩn (1 dấu, 5 số mũ, 2 phần định trị) FP8, hoạt động tốt khi đào tạo một số mạng nơ-ron tiêu chuẩn, nhưng dẫn đến độ chính xác kém khi đào tạo người khác. Hybrid FP8 sử dụng 4 số mũ và 3 bit phần định trị để truyền về phía trước, sau đó là 5 số mũ và 2 bit phần định trị để truyền ngược, tăng đáng kể độ chính xác của quá trình huấn luyện, theo công ty.
 
Bốn lõi được liên kết bằng một cặp vòng dữ liệu nhanh rộng, một để truyền theo chiều kim đồng hồ và một để truyền ngược chiều kim đồng hồ. Chúng có thể được đóng trong chip, hoặc được mở và định tuyến qua bộ nhớ ngoài hoặc nhiều chip giống hệt nhau để xử lý các mạng lớn hơn. Các vòng và lõi không đồng bộ để cho phép các tốc độ xung nhịp khác nhau trao đổi năng lượng cho hiệu suất một cách riêng biệt.
 
Mỗi lõi được chia thành hai lõi phụ dùng chung bộ nhớ bàn di chuột, sau đó mỗi lõi phụ có một mảng động cơ 8 × 8 được tối ưu hóa để tăng tốc tích chập và nhân ma trận với các đường ống riêng biệt để tính toán dấu phẩy động và điểm cố định - cùng cung cấp Khả năng FP16, HFP8, INT4 và INT2 cho cả đào tạo và suy luận AI.
 
Chip 36mm2 được sản xuất bằng cách sử dụng kỹ thuật in thạch bản EUV và đạt được các chỉ số hiệu suất ở trên với 0,75V trên lõi và 0,95V trên SRAM. Sử dụng kiến ​​thức mạng thu thập được khi mạng được biên dịch, chip có thể điều chỉnh các lớp mạng ngốn điện để duy trì trong phạm vi ngân sách năng lượng. Hoạt động danh nghĩa (lõi 0,55V, 0,7V SRAM) mang lại xung nhịp 1GHz và duy trì 3,5Tflop / s / W FP8 và 16Top / s / W INT4.
 
Bộ xử lý AI di động của Samsung nhỏ hơn, với kích thước 5,46mm2 và sử dụng quy trình 5nm để triển khai tổng cộng ba lõi của nó và có thể thực hiện 623 suy luận/s.
 
Mỗi lõi có hai lõi phụ ('động cơ tích hợp') cùng với một đơn vị xử lý vectơ và 1Mbyte bàn di chuột. Mỗi lõi phụ có trọng số - bản đồ tính năng - tìm nạp tổng một phần và một mảng 1.024 MAC - vì vậy> 6.000 MAC trên chip). Nó có thể thực thi 64 sản phẩm chấm của vectơ 16 chiều trên mỗi chu kỳ. Bàn di chuột chứa tất cả các trọng số, bản đồ tính năng đầu vào, bản đồ tính năng đầu ra và tổng một phần cho một lớp hoặc, nếu lớp lớn để phù hợp cùng một lúc, hãy xếp chồng lên lớp đó. Một đơn vị xử lý vectơ thực hiện các chức năng phi tuyến tính phức tạp như chuẩn hóa và softmax.
 
Không giống như các bus vòng của IBM, các lõi trong trường hợp này được kết nối bằng một bus thông thường hơn sử dụng DMA (truy cập bộ nhớ trực tiếp).
 
Để tiết kiệm quá trình xử lý lãng phí và do đó, năng lượng, tính năng không bỏ qua bản đồ được triển khai. “Việc sử dụng MAC trên các lớp phức hợp trong Inception-V3 có thể được cải thiện trung bình 36% bằng tính năng không bỏ qua bản đồ tính năng,” theo bản trình bày của ISSCC. “Không giống như không bỏ qua trọng lượng, tính năng không bỏ qua bản đồ nâng cao hiệu suất hiệu quả và tiết kiệm năng lượng mà không cần bất kỳ bước đào tạo bổ sung nào như cắt giảm trọng lượng.
 
Con chip này chạy từ 550mV đến 900mV, và 332Mz đến 1.2GHz xung nhịp. Công suất và hiệu suất được đo trong khi chạy các lớp tích hợp, gộp và được kết nối đầy đủ của mẫu 8bit Inception-V3 mà không cần cắt bớt trọng lượng. Thông lượng suy luận tổng thể là 194 suy luận / s ở 332MHz và 623 suy luận / s ở 1.196GHz ở chế độ ưu tiên thông lượng tương đương với hoạt động của CPU đa luồng. 1.190 suy luận / J được đo ở 0,6V, tương ứng với 13,6Top / s / W cho Inception-V3.
 
Trên mỗi khu vực, chip Samsung đạt 2,69Top / s / mm2 và 114 suy luận / s / mm2.
 
Về khía cạnh nhỏ bé, Đại học Công nghệ Nanyang từ Singapore và Đại học Columbia đã xem xét trí tuệ nhân tạo vi năng lượng. Nanyang đã trình bày một hệ thống nhận dạng cử chỉ tay trong thời gian thực cho các thiết bị có thể đeo và IoT, hoạt động bằng cách kiểm tra dữ liệu cạnh từ hình ảnh VGA (640x480x8bit), tiếp theo là bộ phân loại nhỏ gọn kết hợp để nhận dạng cử chỉ tĩnh và một bộ phân tích trình tự có khả năng chịu lỗi để nhận dạng cử chỉ động .
 
Chip 65nm 1,5mm2 có thể nhận dạng 24 cử chỉ động với độ chính xác trung bình là 92,6%, tất cả đều cho 184μW ở 0,6V.
 
Bộ xử lý của Columbia là công cụ phát hiện từ khóa luôn chạy 65nm được thiết kế để hoạt động trong điều kiện nhiễu nền. Huấn luyện không phụ thuộc vào tiếng ồn thông thường hơn - huấn luyện với nhiều mức độ và loại tiếng ồn khác nhau - sẽ dẫn đến một mạng lưới thần kinh quá lớn, vì vậy nhóm đã sử dụng một sơ đồ lấy cảm hứng từ sinh học đơn giản hơn gọi là 'bình thường hóa năng lượng chia'. Quá trình xử lý được trải rộng trên một chip "chiết xuất tính năng âm thanh chuẩn hóa" lấy tín hiệu âm thanh từ micrô và tạo ra các tính năng được mã hóa tốc độ tăng đột biến (cho 109nW) và chip phân loại mạng thần kinh tăng đột biến.
 
Đối với công suất 570nW, hệ thống hai chip đạt độ chính xác 89 - 94% trên tỷ lệ tín hiệu trên nhiễu từ -5 đến 20dB với bốn loại nhiễu khác nhau (bộ dữ liệu HeySnips). Về khả năng, độ chính xác là 96,5% khi tìm kiếm một từ khóa hoặc 90,2% khi tìm bốn từ khóa.
 
Chip lớp mỏng ISSCC 9.1 Một chip AI 4 nhân 7nm với đào tạo FP8 lai 25,6Tclops, suy luận INT4 102,4Tops và điều chỉnh khối lượng công việc nhận biết
 
Chip lớp mỏng ISSCC 9.5 Một đơn vị xử lý thần kinh nhận biết tính năng 6k-MAC-bản đồ-độ thưa thớt trong SoC di động hàng đầu 5nm
 
Chip lớp mỏng ISSCC 9.7 Một hệ thống nhận dạng cử chỉ tay theo thời gian thực 184µW với các bộ phân loại siêu nhỏ kết hợp cho các thiết bị đeo thông minh
 
Chip lớp mỏng ISSCC 9.9 Một bộ chiết xuất tính năng âm thanh 109nW chịu được nhiễu nền và biến đổi quy trình dựa trên chuẩn hóa năng lượng chia miền tăng đột biến cho thiết bị phát hiện từ khóa luôn bật.
Qualcomm phản đối việc mua lại Arm 40 tỷ đô la của Nvidia Vietnet24h - Theo các nguồn tin quen thuộc với vấn đề này, Qualcomm đã nói với các nhà quản lý trên toàn thế giới rằng họ chống lại việc Nvidia mua lại nhà thiết kế chip Arm người Anh trị giá 40 tỷ USD.
Theo EW
Tin khác cùng chuyên mục
Tin đọc nhiều
Hướng dẫn cách trao đổi số chỉ bằng cách chạm các iPhone lại với nhau Vietnet24h - Bạn có thể trao đổi thông tin liên lạc bằng cách giữ iPhone của bạn cạnh nhau. Cả hai iPhone đều cần được cập nhật lên iOS 17.
Windows 12 sẽ phát hành vào năm 2024 Vietnet24h - Theo một số báo cáo rò rỉ, Microsoft đang phát triển Windows 12 và dự kiến sẽ phát hành vào năm 2024.
Apple đặt mã QR siêu nhỏ kiểm soát số lượng màn hình lỗi Vietnet24h - Apple đã chi hàng triệu USD để thêm mã vạch (QR) vào màn hình iPhone nhằm tránh bị tính phí hàng trăm triệu USD bởi các nhà cung cấp gian dối trong báo cáo lượng màn hình lỗi của quá trình sản xuất.
LG ra mắt thiết bị giải trí xách tay LG StanbyME Go Vietnet24h - Công ty LG Electronics Việt Nam (LG) vừa trình làng thiết bị giải trí xách tay LG StanbyME Go, mở ra khái niệm “picnic công nghệ” với trải nghiệm linh hoạt và chủ động, không giới hạn không gian.
iPhone 15 Pro modem Qualcomm và khung smartphone dễ sửa chữa hơn Vietnet24h - iPhone 15 Pro và iPhone 15 Pro Max của Apple có thiết kế khung mới, có thể giúp việc sửa chữa màn hình hoặc thay pin của thiết bị trở nên dễ dàng hơn.
Đánh giá Apple iPhone 15 Pro: Phần 2 Vietnet24h - Hai chiếc iPhone Pro là những bản nâng cấp lớn qua từng năm, với những cải tiến thú vị về những tính năng mới.
Đánh giá Apple iPhone 15 Pro: Phần 1 Vietnet24h - Hai chiếc iPhone Pro là những bản nâng cấp lớn qua từng năm, với những cải tiến về camera, thân máy được cải tiến và nút bấm mới.
Thêm tính năng cảnh báo thiết bị định vị xung quanh trên Android 14 Vietnet24h - Unknown Tracker Alerts (UTA), tính năng vừa được Google bổ sung trên Android 14, sẽ thông báo cho người dùng có thiết bị theo dõi ở gần đó hay không.
Ứng dụng trò chuyện Bing của Microsoft hiện cho phép bạn tìm kiếm bằng hình ảnh Vietnet24h - Hôm nay, Microsoft đã công bố một bản cập nhật quan trọng cho chatbot trí tuệ nhân tạo của mình: tìm kiếm trực quan.
Những tính năng đáng kinh ngạc của thiết bị đeo Apple Vision Pro Vietnet24h - Tai nghe Vision Pro của Apple đã khơi dậy sự quan tâm trở lại đối với những thiết bị đeo thực tế ảo.
Apple công bố hội nghị lớn thường niên, nơi hãng có thể tiết lộ chiến lược AI của mình Vietnet24h - Apple hôm thứ Ba đã thông báo rằng hội nghị các nhà phát triển thường niên của họ, WWDC, sẽ diễn ra từ ngày 10 đến ngày 14 tháng 6 năm nay.
Microsoft ra mắt Surface PC đầu tiên có nút Copilot AI chuyên dụng Vietnet24h - Microsoft hôm thứ Năm đã tiết lộ Surface Pro 10 for Business và Surface Laptop 6 for Business.
Rebellions tìm cách trở thành công ty khởi nghiệp đầu tiên của Hàn Quốc sản xuất hàng loạt chip AI cho các mô hình ngôn ngữ lớn Vietnet24h - Hợp tác với Samsung và KT, công ty khởi nghiệp Rebellions đặt mục tiêu trở thành 'Nvidia của Hàn Quốc' trong lĩnh vực chip suy luận.
Samsung Electro-Mechanics ra mắt mô-đun máy ảnh ‘chịu thời tiết’ dành cho ô tô Vietnet24h - Samsung Electro-Mechanics chuẩn bị bắt đầu sản xuất hàng loạt mô-đun máy ảnh “chịu được thời tiết” với khả năng chống thấm nước tiên tiến và tính năng sưởi ấm cho ô tô trong năm nay, công ty cho biết hôm Chủ nhật.
LG tăng tốc việc đầu tư mở rộng robot với 60 triệu USD đầu tư tại Mỹ Vietnet24h - Hôm qua, thứ Ba (12/3), LG Electronics đã đầu tư 60 triệu USD vào Bear Robotics, một công ty robot dịch vụ tự động AI có trụ sở tại Hoa Kỳ, công ty công nghệ Hàn Quốc cho biết.
Samsung xây dựng dây chuyền sản xuất màn hình OLED thế hệ 8.6 đầu tiên trên thế giới Vietnet24h - Samsung Display sẽ chuyển đổi dây chuyền L8 hiện có sang dây chuyền A6 mới dành cho tấm nền OLED thế hệ 8.6 mới nhắm đến các thiết bị công nghệ thông tin sử dụng màn hình lớn.
Viettel đấu giá thành công băng tần 5G với mức giá hơn 7.500 tỷ đồng Vietnet24h - Những đổi mới và bước tiến của Viettel trong lĩnh vực viễn thông hứa hẹn sẽ thay đổi đáng kể cảnh quan ngành viễn thông Việt Nam.
Tech Vietnam Advocates hợp tác với chính phủ Anh thúc đẩy công nghệ Vietnet24h - Là chi nhánh tại Việt Nam của Global Tech Advocates, Tech Vietnam Advocates sẽ hợp tác với chính phủ Anh và các đối tác liên minh để thúc đẩy tăng trưởng và hợp tác trong lĩnh vực công nghệ.
Facebook gặp lỗi trên toàn cầu Vietnet24h - Hiện rất nhiều người dùng trên toàn thế giới đều cho biết đã không truy cập được nền tảng Facebook, Instagram cũng như Threads trên smartphone và máy tính.
Đặc điểm chip M3 trong các Macbook Air mới nhất của Apple Vietnet24h - Apple vừa công bố MacBook Air 13 inch và 15 inch mới, được trang bị chip M3 thế hệ mới nhất của công ty. Các máy tính xách tay mới có thiết kế mỏng nhẹ, màn hình sáng và thời lượng pin dài.
Emo của Alibaba: khi ảnh tĩnh có thể cất tiếng hát Vietnet24h - EMO, một sản phẩm trí tuệ nhân tạo (AI) sáng tạo, trao cho ảnh tĩnh khả năng hát, tạo ra những trải nghiệm âm nhạc độc đáo và hấp dẫn chưa từng có.
Oppo trình làng nguyên mẫu kính thực tế tăng cường có trợ lý giọng nói Vietnet24h - Oppo đã ra mắt Oppo Air Glass 3, một bộ kính thực tế tăng cường (AR) nguyên mẫu có trợ lý giọng nói tại Mobile World Congress ở Barcelona.
Lenovo giới thiệu laptop màn hình trong suốt tại MWC 2024 Vietnet24h - Tại MWC 2024, Lenovo đã trình diễn ý tưởng laptop màn hình trong suốt mới có tên ThinkBook Transparent Display Laptop. Điểm nhấn của chiếc laptop này là nó sở hữu viền màn hình siêu mỏng và được tích hợp trí tuệ nhân tạo. Đây cũng được coi là một trong những thiết bị độc đáo nhất được trưng bày tại MWC 2024.
Bệnh nhân cấy chip não Neuralink đã điều khiển được chuột máy tính bằng suy nghĩ Vietnet24h - Tỉ phú Elon Musk cho biết người đầu tiên được cấy chip não từ Công ty Neuralink của ông đã bình phục hoàn toàn, và có thể điều khiển chuột máy tính bằng suy nghĩ.
Tianhe-3: Siêu máy tính bí ẩn của Trung Quốc Vietnet24h - Khám phá bí ẩn đằng sau siêu máy tính Tianhe-3, một dự án bí mật của Trung Quốc đang làm thay đổi cục diện công nghệ trên thế giới.
Samsung và SK Hynix mở rộng sử dụng EUV để tăng nhu cầu về khí CO2 Vietnet24h - Samsung và SK Hynix đang mở rộng việc sử dụng kỹ thuật in thạch bản cực tím (EUV) khi họ chuyển sang sản xuất DRAM ngày càng tiên tiến hơn.
Công ty Neuralink của Musk lần đầu cấy chip não lên người Vietnet24h - Nhà sáng lập Neuralink - tỷ phú Elon Musk cho biết hôm 28/1 vừa rồi, bệnh nhân đầu tiên đã được cấy ghép chip não từ công ty khởi nghiệp chip não Neuralink và bệnh nhân này đang hồi phục tốt.
Robot đồng hành Ballie của Samsung tạo cảm giác mạnh tại CES Vietnet24h - Theo các quan chức trong ngành, Samsung Electronics đã giới thiệu nhiều công nghệ khác nhau tại triển lãm thương mại công nghệ CES năm nay ở Las Vegas, bao gồm TV micro LED trong suốt và các thiết bị gia dụng dựa trên AI, và trong số đó, Ballie, robot đồng hành với AI, đã nhận được sự quan tâm đặc biệt.
LG Display ra mắt màn hình ô tô lớn nhất tại CES Vietnet24h - Theo nhà sản xuất màn hình, LG Display đã công bố một bộ màn hình ô tô có thể thay đổi cuộc chơi, bao gồm cả những gì họ tuyên bố là lớn nhất trong ngành, tại Triển lãm Điện tử Tiêu dùng (CES) 2024 đang diến ra tại Las Vegas, Hoa Kỳ.
Robot AI của KAIST phá kỷ lục thế giới 100 mét Vietnet24h - Viện Khoa học và Công nghệ Tiên tiến Hàn Quốc (KAIST) cho biết robot trí tuệ nhân tạo (AI) của họ đã phá kỷ lục thế giới 100 mét đối với robot bốn chân, trích dẫn Kỷ lục Guinness Thế giới hôm thứ Sáu tuần qua.