Xã hội
ISSCC2021: Chip trí tuệ nhân tạo
Anh Sơn - Thứ Năm, 18/02/2021 1:56 CH
Vietnet24h - Với chip ISSCC, một phiên bản được thiết lập 9 lớp mỏng như tờ giấy cho bộ xử lý nghiêng máy (ML).
Đây là một phiên bản đóng gói, với chín lớp, trên các chip từ bộ xử lý 5nm và 7nm để sử dụng trên điện thoại di động và đám mây, cho đến các bộ gia tốc dành riêng cho ứng dụng tiêu thụ điện năng cực thấp dành cho thiết bị đeo được.

IBM và Samsung đều giới thiệu bộ xử lý ML cho điện thoại, trong đó xử lý AI cục bộ sẽ loại bỏ nhu cầu tham gia đám mây, miễn là các kiến ​​trúc đủ mạnh và đủ linh hoạt để đối phó với khối lượng công việc đa dạng - có thể cấu hình lại để phù hợp với các mạng nơ-ron khác nhau một chút -chiều rộng, số lớp và các kích thước khác có sẵn cho chúng.
IBM’s là chip 4 nhân 7nm với 25,6Tflop / s khả dụng cho đào tạo FP8 ‘hybrid’ và 102,4Top / s cho hội nghị INT4 (xem sơ đồ).
 
Dấu phẩy động lai 8bit (HFP8) là một định dạng được phát minh tại IBM (được tiết lộ vào năm 2019) như một cách khắc phục những hạn chế của định dạng dấu phẩy động 8bit tiêu chuẩn (1 dấu, 5 số mũ, 2 phần định trị) FP8, hoạt động tốt khi đào tạo một số mạng nơ-ron tiêu chuẩn, nhưng dẫn đến độ chính xác kém khi đào tạo người khác. Hybrid FP8 sử dụng 4 số mũ và 3 bit phần định trị để truyền về phía trước, sau đó là 5 số mũ và 2 bit phần định trị để truyền ngược, tăng đáng kể độ chính xác của quá trình huấn luyện, theo công ty.
 
Bốn lõi được liên kết bằng một cặp vòng dữ liệu nhanh rộng, một để truyền theo chiều kim đồng hồ và một để truyền ngược chiều kim đồng hồ. Chúng có thể được đóng trong chip, hoặc được mở và định tuyến qua bộ nhớ ngoài hoặc nhiều chip giống hệt nhau để xử lý các mạng lớn hơn. Các vòng và lõi không đồng bộ để cho phép các tốc độ xung nhịp khác nhau trao đổi năng lượng cho hiệu suất một cách riêng biệt.
 
Mỗi lõi được chia thành hai lõi phụ dùng chung bộ nhớ bàn di chuột, sau đó mỗi lõi phụ có một mảng động cơ 8 × 8 được tối ưu hóa để tăng tốc tích chập và nhân ma trận với các đường ống riêng biệt để tính toán dấu phẩy động và điểm cố định - cùng cung cấp Khả năng FP16, HFP8, INT4 và INT2 cho cả đào tạo và suy luận AI.
 
Chip 36mm2 được sản xuất bằng cách sử dụng kỹ thuật in thạch bản EUV và đạt được các chỉ số hiệu suất ở trên với 0,75V trên lõi và 0,95V trên SRAM. Sử dụng kiến ​​thức mạng thu thập được khi mạng được biên dịch, chip có thể điều chỉnh các lớp mạng ngốn điện để duy trì trong phạm vi ngân sách năng lượng. Hoạt động danh nghĩa (lõi 0,55V, 0,7V SRAM) mang lại xung nhịp 1GHz và duy trì 3,5Tflop / s / W FP8 và 16Top / s / W INT4.
 
Bộ xử lý AI di động của Samsung nhỏ hơn, với kích thước 5,46mm2 và sử dụng quy trình 5nm để triển khai tổng cộng ba lõi của nó và có thể thực hiện 623 suy luận/s.
 
Mỗi lõi có hai lõi phụ ('động cơ tích hợp') cùng với một đơn vị xử lý vectơ và 1Mbyte bàn di chuột. Mỗi lõi phụ có trọng số - bản đồ tính năng - tìm nạp tổng một phần và một mảng 1.024 MAC - vì vậy> 6.000 MAC trên chip). Nó có thể thực thi 64 sản phẩm chấm của vectơ 16 chiều trên mỗi chu kỳ. Bàn di chuột chứa tất cả các trọng số, bản đồ tính năng đầu vào, bản đồ tính năng đầu ra và tổng một phần cho một lớp hoặc, nếu lớp lớn để phù hợp cùng một lúc, hãy xếp chồng lên lớp đó. Một đơn vị xử lý vectơ thực hiện các chức năng phi tuyến tính phức tạp như chuẩn hóa và softmax.
 
Không giống như các bus vòng của IBM, các lõi trong trường hợp này được kết nối bằng một bus thông thường hơn sử dụng DMA (truy cập bộ nhớ trực tiếp).
 
Để tiết kiệm quá trình xử lý lãng phí và do đó, năng lượng, tính năng không bỏ qua bản đồ được triển khai. “Việc sử dụng MAC trên các lớp phức hợp trong Inception-V3 có thể được cải thiện trung bình 36% bằng tính năng không bỏ qua bản đồ tính năng,” theo bản trình bày của ISSCC. “Không giống như không bỏ qua trọng lượng, tính năng không bỏ qua bản đồ nâng cao hiệu suất hiệu quả và tiết kiệm năng lượng mà không cần bất kỳ bước đào tạo bổ sung nào như cắt giảm trọng lượng.
 
Con chip này chạy từ 550mV đến 900mV, và 332Mz đến 1.2GHz xung nhịp. Công suất và hiệu suất được đo trong khi chạy các lớp tích hợp, gộp và được kết nối đầy đủ của mẫu 8bit Inception-V3 mà không cần cắt bớt trọng lượng. Thông lượng suy luận tổng thể là 194 suy luận / s ở 332MHz và 623 suy luận / s ở 1.196GHz ở chế độ ưu tiên thông lượng tương đương với hoạt động của CPU đa luồng. 1.190 suy luận / J được đo ở 0,6V, tương ứng với 13,6Top / s / W cho Inception-V3.
 
Trên mỗi khu vực, chip Samsung đạt 2,69Top / s / mm2 và 114 suy luận / s / mm2.
 
Về khía cạnh nhỏ bé, Đại học Công nghệ Nanyang từ Singapore và Đại học Columbia đã xem xét trí tuệ nhân tạo vi năng lượng. Nanyang đã trình bày một hệ thống nhận dạng cử chỉ tay trong thời gian thực cho các thiết bị có thể đeo và IoT, hoạt động bằng cách kiểm tra dữ liệu cạnh từ hình ảnh VGA (640x480x8bit), tiếp theo là bộ phân loại nhỏ gọn kết hợp để nhận dạng cử chỉ tĩnh và một bộ phân tích trình tự có khả năng chịu lỗi để nhận dạng cử chỉ động .
 
Chip 65nm 1,5mm2 có thể nhận dạng 24 cử chỉ động với độ chính xác trung bình là 92,6%, tất cả đều cho 184μW ở 0,6V.
 
Bộ xử lý của Columbia là công cụ phát hiện từ khóa luôn chạy 65nm được thiết kế để hoạt động trong điều kiện nhiễu nền. Huấn luyện không phụ thuộc vào tiếng ồn thông thường hơn - huấn luyện với nhiều mức độ và loại tiếng ồn khác nhau - sẽ dẫn đến một mạng lưới thần kinh quá lớn, vì vậy nhóm đã sử dụng một sơ đồ lấy cảm hứng từ sinh học đơn giản hơn gọi là 'bình thường hóa năng lượng chia'. Quá trình xử lý được trải rộng trên một chip "chiết xuất tính năng âm thanh chuẩn hóa" lấy tín hiệu âm thanh từ micrô và tạo ra các tính năng được mã hóa tốc độ tăng đột biến (cho 109nW) và chip phân loại mạng thần kinh tăng đột biến.
 
Đối với công suất 570nW, hệ thống hai chip đạt độ chính xác 89 - 94% trên tỷ lệ tín hiệu trên nhiễu từ -5 đến 20dB với bốn loại nhiễu khác nhau (bộ dữ liệu HeySnips). Về khả năng, độ chính xác là 96,5% khi tìm kiếm một từ khóa hoặc 90,2% khi tìm bốn từ khóa.
 
Chip lớp mỏng ISSCC 9.1 Một chip AI 4 nhân 7nm với đào tạo FP8 lai 25,6Tclops, suy luận INT4 102,4Tops và điều chỉnh khối lượng công việc nhận biết
 
Chip lớp mỏng ISSCC 9.5 Một đơn vị xử lý thần kinh nhận biết tính năng 6k-MAC-bản đồ-độ thưa thớt trong SoC di động hàng đầu 5nm
 
Chip lớp mỏng ISSCC 9.7 Một hệ thống nhận dạng cử chỉ tay theo thời gian thực 184µW với các bộ phân loại siêu nhỏ kết hợp cho các thiết bị đeo thông minh
 
Chip lớp mỏng ISSCC 9.9 Một bộ chiết xuất tính năng âm thanh 109nW chịu được nhiễu nền và biến đổi quy trình dựa trên chuẩn hóa năng lượng chia miền tăng đột biến cho thiết bị phát hiện từ khóa luôn bật.
Qualcomm phản đối việc mua lại Arm 40 tỷ đô la của Nvidia Vietnet24h - Theo các nguồn tin quen thuộc với vấn đề này, Qualcomm đã nói với các nhà quản lý trên toàn thế giới rằng họ chống lại việc Nvidia mua lại nhà thiết kế chip Arm người Anh trị giá 40 tỷ USD.
Theo EW
Tin khác cùng chuyên mục
Tin đọc nhiều
Cổ phiếu của Microsoft đạt kỷ lục mới, giành lại vị trí công ty có giá trị vốn hóa lớn nhất thế giới Vietnet24h - Cổ phiếu Microsoft đã đạt mức kỷ lục đầu tiên vào thứ năm kể từ tháng 7 năm 2024.
Cổ phiếu Tesla tăng 22% vào tháng 5 khi Elon Musk kết thúc thời gian với DOGE của Trump Vietnet24h - Cổ phiếu của hãng sản xuất ô tô Tesla do Elon Musk đứng đầu đã tăng giá vào tháng 5 mặc dù doanh số bán ô tô của công ty tại Trung Quốc và Châu Âu không mấy khả quan.
Apple, Huawei, Xiaomi dẫn đầu bảng xếp hạng 500 thương hiệu tiêu dùng hàng đầu của Trung Quốc Vietnet24h - Theo báo cáo của Đại học Bắc Kinh, bảng xếp hạng này dựa trên hành vi mua sắm trực tuyến của người tiêu dùng trong nước
Cổ phiếu Sony tăng trong phiên giao dịch đầy biến động khi nhà sản xuất PlayStation công bố mua lại cổ phiếu trị giá 1,7 tỷ đô la Vietnet24h - Thu nhập hoạt động trong ba tháng cuối năm tài chính đạt 203,6 tỷ yên, vượt qua ước tính trung bình của các nhà phân tích là 192,2 tỷ yên, mặc dù giảm 11% so với cùng kỳ năm ngoái.
Cổ phiếu Nvidia tăng sau báo cáo Trump sẽ chấm dứt lệnh hạn chế xuất khẩu chip Vietnet24h - Cổ phiếu Nvidia tăng sau báo cáo cho biết chính quyền Trump có kế hoạch sửa đổi một loạt các hạn chế về thương mại chip được gọi là quy tắc “khuyến khích AI”.
Cổ phiếu Arm giảm do dự báo yếu Vietnet24h - Arm đạt được doanh thu và lợi nhuận cao nhưng lại đưa ra dự báo đáng thất vọng trong báo cáo quý vào thứ Tư (7/5).
CEO Tim Cook cho biết thuế quan của Trump có thể khiến Apple mất 900 triệu đô la trong quý này Vietnet24h - Thuế quan có thể làm tăng thêm 900 triệu đô la vào chi phí của Apple trong quý này, CEO Apple Tim Cook cho biết hôm thứ Năm (1/5), khi ông tiết lộ rằng gã khổng lồ công nghệ này đang chuyển hoạt động sản xuất iPhone được bán tại Hoa Kỳ từ Trung Quốc sang Ấn Độ.
Cổ phiếu Meta tăng nhờ doanh thu quý đầu tiên cao hơn dự kiến Vietnet24h - Cổ phiếu Meta tăng tới 5% sau khi công ty báo cáo doanh thu trong quý đầu tiên cao hơn dự kiến.
Intel dự báo tăng trưởng yếu và sẽ cắt giảm chi phí trong năm nay Vietnet24h - Intel báo cáo thu nhập quý đầu tiên vượt kỳ vọng ở cả doanh thu và lợi nhuận, nhưng công ty đã đưa ra hướng dẫn đáng thất vọng.
Những nhà lãnh đạo công nghệ này đã quyên góp cho Trump và bây giờ họ mất hàng tỷ đô la Vietnet24h - Các nhà lãnh đạo Thung lũng Silicon đã quyên góp cho chiến dịch tranh cử hoặc quỹ nhậm chức của Tổng thống Donald Trump.
Cuộc đấu khẩu giữa Trump và Musk gây ra phản ứng từ các tỷ phú, chính trị gia và chuyên gia Vietnet24h - Trump đe dọa sẽ rút lại hàng tỷ đô la trong các hợp đồng của chính phủ dành cho Musk.
NASA bị cắt 6 tỷ USD, hơn 5 sứ mệnh đối mặt nguy cơ hủy bỏ Vietnet24h - Từ con số 24,9 tỷ USD năm 2025, ngân sách NASA dự kiến giảm còn 18,8 tỷ USD vào năm 2026. Hơn 1/3 nhân sự có thể bị cắt giảm và hàng loạt chương trình vũ trụ chiến lược đứng trước nguy cơ dừng hoạt động vĩnh viễn.
Trung Quốc và cuộc cách mạng thú cưng AI: Công nghệ đang lấp đầy khoảng trống cảm xúc Vietnet24h - Khi robot không còn chỉ là công cụ lao động mà trở thành bạn đồng hành, Trung Quốc đang chứng kiến sự trỗi dậy mạnh mẽ của thú cưng AI – từ đồ chơi tinh vi cho giới trẻ đến trợ thủ đắc lực cho người già và trẻ nhỏ. Xu hướng này không chỉ phản ánh nhu cầu gắn kết trong xã hội hiện đại mà còn mở ra một tương lai nơi cảm xúc được số hóa và công nghệ trở thành liệu pháp tâm lý.
Trung Quốc phản bác cáo buộc của Trump về việc vi phạm thỏa thuận thương mại Geneva Vietnet24h - Trung Quốc đã phản bác lại lời cáo buộc của Washington rằng nước này đã vi phạm thỏa thuận Geneva.
Chủ tịch nước Lương Cường chủ trì lễ đón Tổng thống Cộng hòa Pháp Emmanuel Macron Vietnet24h - Sáng 26/5, tại Phủ Chủ tịch, Chủ tịch nước Lương Cường và Phu nhân đã chủ trì Lễ đón Tổng thống Emmanuel Macron và Phu nhân thăm cấp Nhà nước tới Việt Nam.
Trí tuệ nhân tạo chưa giúp tăng năng suất hay lương thưởng – lỗi tại công nghệ hay tại cách dùng? Vietnet24h - Việc ứng dụng AI trong doanh nghiệp đang tăng nhanh, nhưng hiệu quả ghi nhận vẫn khiêm tốn. Nhiều chuyên gia cho rằng vấn đề không nằm ở khả năng của AI, mà ở cách doanh nghiệp phân bổ lại giá trị gia tăng do công nghệ tạo ra.
Việt Nam thành “mặt trận nóng” trong chiến tranh mạng kiểu mới: Brute-force, RDP và mối đe dọa ẩn danh Vietnet24h - Số vụ tấn công vét cạn vào các hệ thống doanh nghiệp tại Việt Nam đã vượt 19,8 triệu – cao nhất Đông Nam Á. Đây không chỉ là dấu hiệu về sự quan tâm của tin tặc quốc tế, mà còn phản ánh khoảng trống đáng báo động trong hệ thống phòng thủ mạng hiện tại, đặc biệt khi các công cụ tấn công ngày càng “tiến hóa” nhờ trí tuệ nhân tạo.
Seoul, Washington sẽ nối lại đàm phán thuế quan trước thời hạn tháng 7 Vietnet24h - Hàn Quốc và Hoa Kỳ đã tổ chức một cuộc họp thương mại song phương vào thứ Sáu để theo dõi các cuộc đàm phán thuế quan gần đây, thảo luận về các bước tiếp theo hướng tới một gói thương mại chung mà cả hai bên đều đặt mục tiêu hoàn tất vào ngày 8 tháng 7.
Google sẽ trả cho Texas 1,4 tỷ đô la để giải quyết vấn đề bảo mật dữ liệu Vietnet24h - Google đã đồng ý trả gần 1,4 tỷ đô la cho tiểu bang Texas để giải quyết các cáo buộc vi phạm quyền riêng tư dữ liệu của cư dân tiểu bang, Tổng chưởng lý Texas Ken Paxton cho biết.
Các quan chức của Trump sẽ gặp Trung Quốc, báo hiệu sự cởi mở trong đàm phán thương mại Vietnet24h - Hai quan chức cấp cao của chính quyền Trump dự kiến ​​sẽ họp vào cuối tuần này với các đại diện Trung Quốc về các vấn đề thương mại và kinh tế.
iPhone đang làm tổn thương giới trẻ? Người thiết kế ra nó lên tiếng Vietnet24h - Jony Ive, cha đẻ của iPhone, thừa nhận công nghệ smartphone đã dẫn đến những hậu quả đáng lo cho sức khỏe tâm thần. Cùng bà Powell Jobs, ông đang âm thầm phát triển một thiết bị mới để “sửa sai” cho chính di sản của mình.
Meta tìm đến trọng tài để ngăn chặn người tố giác quảng bá cuốn sách tiết lộ tất cả Vietnet24h - Meta đang tìm cách ngăn chặn việc quảng bá cuốn hồi ký mới của một cựu nhân viên có nội dung mô tả công ty theo hướng không hay, bao gồm cả cáo buộc quấy rối tình dục của giám đốc chính sách công ty.
KT kết hợp AI với thể thao, K-pop tại Đại hội Thế giới Di động (MWC) 2025 Vietnet24h - K-Stadium được thiết kế để tăng cường sự tương tác của người hâm mộ bằng AI. Một trong những tính năng chính của nó là hệ thống dịch phụ đề thời gian thực do AI hỗ trợ.
Amazon sẽ giành quyền kiểm soát sáng tạo cho loạt phim James Bond từ gia đình Broccoli Vietnet24h - Amazon sắp giành được quyền sáng tạo đối với loạt phim James Bond béo bở.
Squid Game mùa 2: Cơn sốt hay bẫy lừa đảo tiền số? Vietnet24h - Với sự phổ biến của Squid Game mùa hai, các token liên quan đến bộ phim này đã thu hút hàng triệu USD. Tuy nhiên, không ít nhà đầu tư đã mất trắng khi các token này bị sụt giảm giá trị chỉ trong thời gian ngắn, báo hiệu một làn sóng lừa đảo "rút thảm" trên thị trường tiền số.
Lễ chùa thời công nghệ: Nhật Bản số hóa nghi lễ đầu năm Vietnet24h - Chùa Zojoji, biểu tượng Phật giáo tại Tokyo, đang tiên phong tích hợp công nghệ thanh toán QR cho nghi lễ Saisen, vừa tiện lợi vừa giữ nguyên tinh thần truyền thống.
TikTok gặp rắc rối tại Nga: bị phạt vì không gỡ nội dung cấm Vietnet24h - Vừa qua, TikTok bị phạt gần 30.000 USD tại Nga vì vi phạm các quy định pháp lý về nội dung. Quyết định này cho thấy Nga đang quyết liệt hơn trong việc kiểm soát các nền tảng mạng xã hội.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.