Đó là nhận định của bà April Li, Giám đốc phát triển kinh doanh AI và điện toán hiệu năng cao của TSMC, tại diễn đàn IC thuộc SEMICON Taiwan 2026.

Theo bà, khi các tác nhân AI bắt đầu đi sâu vào quy trình vận hành của doanh nghiệp, đầu tư vào các trung tâm dữ liệu chuyên dụng và AI vật lý cũng đang tăng tốc.

“Trong kỷ nguyên mới này, những doanh nghiệp dẫn đầu thị trường sẽ không đơn thuần là những công ty tạo ra mô hình tốt hơn, mà là những công ty xây dựng được các hệ thống tích hợp tốt nhất”, bà Li nhận định.

Cuộc đua AI chuyển từ chip đơn lẻ sang hệ thống

Theo TSMC, sự phát triển của AI trong tương lai sẽ không thể chỉ dựa vào những cải tiến của từng con chip hay từng mô hình AI.

Thay vào đó, hạ tầng AI cần tích hợp đồng bộ nhiều thành phần, từ năng lực tính toán, bộ nhớ, kết nối, lưu trữ đến quản lý điện năng.

Sự tích hợp này không chỉ diễn ra ở cấp độ con chip mà sẽ mở rộng lên các cụm máy chủ, giá máy chủ và toàn bộ trung tâm dữ liệu.

Nhận định này phản ánh một sự thay đổi quan trọng trong ngành công nghệ.

Trong nhiều năm qua, cuộc đua AI chủ yếu xoay quanh việc phát triển các GPU mạnh hơn hoặc các mô hình AI có năng lực vượt trội hơn. Tuy nhiên, khi quy mô ứng dụng tăng nhanh, hiệu quả của toàn bộ hệ thống đang trở thành yếu tố quyết định.

Một con chip mạnh chưa đủ nếu dữ liệu không thể được truyền tải đủ nhanh, bộ nhớ không đáp ứng được yêu cầu hoặc hệ thống điện và làm mát trở thành điểm nghẽn.

AI suy luận trở thành động lực mới

Một trong những nguyên nhân thúc đẩy sự thay đổi này là nhu cầu ngày càng lớn đối với AI suy luận (inference) – quá trình sử dụng các mô hình đã được huấn luyện để phản hồi yêu cầu và thực hiện nhiệm vụ.

Theo bà Li, khối lượng token phục vụ suy luận AI trên toàn cầu đã tăng gần 500 lần so với năm 2022.

Đặc biệt, các hệ thống AI có khả năng lập luận và các tác nhân AI tiêu thụ lượng token lớn hơn đáng kể so với những truy vấn đơn lẻ truyền thống.

Điều này khiến suy luận AI không còn là một tác vụ có chi phí thấp.

Khi các AI agent hoạt động liên tục trong nền để xử lý công việc, nhu cầu về năng lực tính toán cũng tăng lên tương ứng.

Theo TSMC, AI suy luận đang dần trở thành một trong những động lực chính thúc đẩy việc mở rộng hạ tầng ở cấp độ toàn hệ thống.

Bốn điểm nghẽn lớn của hạ tầng AI

Khối lượng công việc AI ngày càng lớn đang tạo áp lực lên bốn lĩnh vực quan trọng.

Đó là khả năng tiếp tục mở rộng năng lực logic, hiệu quả kết nối giữa các thành phần, hiệu suất của bộ nhớ, cũng như hệ thống cung cấp điện và làm mát.

Trong đó, việc di chuyển dữ liệu đang trở thành một thách thức đặc biệt lớn.

Theo bà Li, riêng hoạt động truyền tải dữ liệu có thể chiếm tới 60% hoạt động của một hệ thống trong các khối lượng công việc điển hình.

Điều này có thể khiến những bộ tăng tốc tính toán đắt tiền hoạt động với mức sử dụng dưới 40%.

Nói cách khác, vấn đề không còn chỉ là sở hữu những chip AI mạnh nhất.

Nếu dữ liệu không được đưa đến bộ xử lý đủ nhanh hoặc bộ nhớ không đáp ứng được yêu cầu, phần lớn năng lực của những con chip đắt tiền có thể không được khai thác hết.

Hơn 1.000 tỷ transistor trong một hệ thống AI

Quy mô ngày càng lớn của AI cũng đang đặt ra những thách thức mới cho công nghệ bán dẫn.

TSMC dự báo các hệ thống đóng gói chip phục vụ AI có thể chứa hơn 1.000 tỷ transistor vào năm 2030.

Điều này khiến kiến trúc đa chip và công nghệ tích hợp dị thể trở thành những yếu tố ngày càng quan trọng.

Thay vì cố gắng đưa toàn bộ chức năng vào một con chip duy nhất, ngành bán dẫn đang chuyển sang kết hợp nhiều chip khác nhau trong cùng một hệ thống.

Cách tiếp cận này cho phép các nhà sản xuất tối ưu từng thành phần cho những nhiệm vụ riêng biệt, sau đó kết nối chúng thành một hệ thống có hiệu năng cao hơn.

Để giải quyết những thách thức này, TSMC đang phát triển các công nghệ trải rộng từ logic tiên tiến, đóng gói chip đến kết nối quang học.

Đóng gói tiên tiến và kết nối quang học lên ngôi

Bà Li đặc biệt đề cập đến nền tảng 3DFabric của TSMC, bao gồm các công nghệ như xếp chồng 3D SoIC và đóng gói tiên tiến CoWoS.

Những công nghệ này đóng vai trò quan trọng trong việc kết nối nhiều chip tính toán và bộ nhớ hiệu năng cao trong các hệ thống AI.

Bên cạnh đó, TSMC cũng phát triển nền tảng Compact Universal Photonic Engine (COUPE) nhằm hỗ trợ truyền tải dữ liệu tốc độ cao bằng công nghệ quang học.

Kết nối quang học được xem là một trong những hướng phát triển quan trọng của hạ tầng AI trong tương lai, khi các hệ thống ngày càng phải xử lý lượng dữ liệu khổng lồ.

TSMC cũng đang tìm cách cải thiện hiệu năng của bộ nhớ băng thông cao, hay HBM, bằng cách ứng dụng công nghệ logic tiên tiến vào các lớp nền của bộ nhớ.

Sự phát triển của HBM, đóng gói tiên tiến và kết nối tốc độ cao cho thấy cuộc đua AI đang mở rộng nhanh chóng ra ngoài lĩnh vực thiết kế GPU.

TSMC không còn chỉ “giao wafer”

Trong phần hỏi đáp, bà Li cho rằng TSMC cần hiểu sâu hơn toàn bộ chuỗi giá trị, từ silicon, trung tâm dữ liệu cho đến lượng token mà hệ thống AI xử lý.

Theo bà, công ty cũng cần hợp tác với các đối tác trong hệ sinh thái để kiểm chứng công nghệ càng sớm càng tốt trên toàn bộ chuỗi này.

Cách tiếp cận đó phản ánh sự thay đổi trong vai trò của TSMC.

Nếu trước đây, nhà sản xuất chip theo hợp đồng lớn nhất thế giới chủ yếu tập trung vào việc sản xuất wafer theo thiết kế của khách hàng, thì sự phức tạp của AI đang khiến doanh nghiệp phải tham gia sâu hơn vào việc hiểu và tối ưu hóa toàn bộ hệ thống.

“Đã qua rồi thời chúng tôi chỉ đơn giản giao các tấm wafer qua hàng rào”, bà Li nói.

AI bước vào giai đoạn công nghiệp hóa

Thông điệp của TSMC cho thấy ngành AI có thể đang bước vào một giai đoạn phát triển mới.

Nếu giai đoạn đầu tập trung vào việc chứng minh AI có thể làm được gì, thì giai đoạn tiếp theo sẽ tập trung vào câu hỏi: làm thế nào để triển khai AI trên quy mô công nghiệp với chi phí, hiệu suất và mức tiêu thụ năng lượng có thể chấp nhận được?

Câu trả lời sẽ không nằm ở một công nghệ đơn lẻ.

Nó đòi hỏi sự phối hợp giữa các nhà sản xuất chip, doanh nghiệp bộ nhớ, công ty máy chủ, nhà vận hành trung tâm dữ liệu, nhà cung cấp điện năng và các công ty phát triển mô hình AI.

Trong cuộc đua mới này, lợi thế cạnh tranh có thể không còn thuộc về doanh nghiệp sở hữu một con chip nhanh hơn hay một mô hình thông minh hơn.

Theo cách nhìn của TSMC, người dẫn đầu sẽ là những công ty có khả năng kết nối tất cả những thành phần đó thành một hệ thống hoàn chỉnh và vận hành hiệu quả trên quy mô lớn.