Hãng hướng tới việc rút ngắn khoảng cách giữa bộ nhớ và bộ xử lý AI, tăng băng thông, mật độ lưu trữ và hiệu quả năng lượng cho các hệ thống điện toán hiệu năng cao.

Samsung Electronics đang đặt cược vào một hướng phát triển mới của công nghệ bộ nhớ khi giới thiệu tầm nhìn về kiến trúc bộ nhớ 3D thế hệ mới tại FMS 2026, diễn ra ở Santa Clara, California, Mỹ.

Không chỉ nâng cấp các thế hệ HBM và NAND hiện tại, Samsung đưa ra những mô hình kiến trúc mới được thiết kế để giải quyết một trong những nút thắt lớn nhất của hạ tầng AI hiện nay: làm thế nào đưa dữ liệu đến bộ xử lý nhanh hơn nhưng tiêu thụ ít năng lượng hơn.

Tại sự kiện, Samsung giới thiệu khoảng 30 công nghệ bộ nhớ và lưu trữ tiên tiến, bao phủ từ DRAM, HBM, NAND đến các giải pháp lưu trữ doanh nghiệp cho trung tâm dữ liệu AI.

zHBM: Đưa bộ nhớ đến gần bộ xử lý AI hơn

Điểm đáng chú ý nhất trong tầm nhìn mới của Samsung là zHBM, mô hình bộ nhớ được thiết kế cho các hệ thống AI hiệu năng cao.

Khác với kiến trúc truyền thống, trong đó HBM được bố trí bên cạnh bộ xử lý, zHBM hướng tới việc xếp chồng HBM theo chiều dọc ngay phía trên bộ tăng tốc AI (AI accelerator).

Theo Samsung, việc rút ngắn khoảng cách giữa bộ nhớ và bộ xử lý có thể giúp giảm độ trễ truyền dữ liệu, đồng thời tăng băng thông và cải thiện hiệu quả năng lượng. Đây là yếu tố đặc biệt quan trọng khi các mô hình AI ngày càng lớn, đòi hỏi lượng dữ liệu khổng lồ trong cả quá trình huấn luyện lẫn suy luận.

Samsung cho biết hệ thống giao tiếp thế hệ mới tích hợp zHBM được kỳ vọng đạt hiệu năng cao khoảng 8 lần so với HBM5.

Đáng chú ý, nhờ công nghệ liên kết wafer (wafer bonding), zHBM được thiết kế để đạt mật độ bộ nhớ cao hơn hơn 10 lần so với HBM5, đồng thời tăng hiệu quả năng lượng khoảng 3 lần và giảm hơn một nửa điện trở nhiệt.

Kiến trúc này cũng cho phép tùy biến theo nhu cầu của từng khách hàng. Samsung có thể tích hợp IP tùy chỉnh vào lớp trung gian giữa bộ nhớ và bộ tăng tốc AI, qua đó mở rộng dung lượng bộ nhớ cũng như tối ưu hiệu năng của hệ thống.

Đây là hướng tiếp cận cho thấy bộ nhớ đang ngày càng trở thành một thành phần chiến lược trong thiết kế hệ thống AI, thay vì chỉ đóng vai trò lưu trữ dữ liệu.

zNAND-O hướng tới AI thời gian thực

Song song với zHBM, Samsung giới thiệu zNAND-O, giải pháp NAND hiệu năng cao thế hệ mới được phát triển trên nền tảng V-NAND.

Hiện Samsung đang phát triển zNAND-O với cấu hình bốn lớp và tám lớp, hướng tới sự kết hợp giữa hiệu quả sử dụng không gian, hiệu năng I/O cao hơn và độ trễ thấp.

Theo Samsung, giải pháp này được tối ưu cho các môi trường Edge AI, nơi hệ thống cần xử lý lượng dữ liệu lớn trong thời gian thực.

Nếu zHBM tập trung giải quyết bài toán truyền dữ liệu giữa bộ nhớ và bộ xử lý AI, zNAND-O hướng tới một mắt xích khác trong hệ thống: cung cấp khả năng lưu trữ và truy xuất dữ liệu nhanh hơn cho những ứng dụng AI không thể phụ thuộc hoàn toàn vào xử lý trên đám mây.

NAND vượt mốc 400 lớp

Một cột mốc khác được Samsung công bố tại FMS 2026 là V10 BV-NAND, kiến trúc V-NAND mới sử dụng công nghệ liên kết wafer.

V10 BV-NAND có hơn 400 lớp, đồng thời đánh dấu lần đầu tiên Samsung đưa kiến trúc Bonding V-NAND vào thế hệ sản phẩm mới này.

Samsung cho biết công nghệ liên kết wafer giúp các ô nhớ được xếp chồng hiệu quả hơn, qua đó nâng mật độ bộ nhớ khoảng 58% so với thế hệ V9.

Không chỉ tăng số lớp, V10 BV-NAND còn được cải thiện về hiệu năng đọc, ghi và I/O, hướng tới các hệ thống AI cần đồng thời dung lượng lưu trữ lớn và tốc độ truy xuất cao.

Đáng chú ý, V10 BV-NAND được giới thiệu đúng 13 năm sau khi Samsung công bố công nghệ V-NAND đầu tiên tại FMS 2013. Điều này cho thấy NAND tiếp tục là một trong những hướng công nghệ chủ lực trong chiến lược bộ nhớ dài hạn của Samsung.

Từ HBM4E, HBM5 đến PIM

Bên cạnh những kiến trúc mới, Samsung cũng trình diễn lộ trình phát triển các sản phẩm bộ nhớ phục vụ AI, gồm HBM4E, HBM5, LPDDR5X-PIM và các giải pháp lưu trữ doanh nghiệp như PM1763 và BM1773.

Samsung cho biết sau khi sản xuất hàng loạt HBM4 vào tháng 2, hãng tiếp tục cung cấp các mẫu HBM4E cho khách hàng toàn cầu từ tháng 5.

Một công nghệ đáng chú ý khác là LPDDR5X-PIM, bộ nhớ LPDDR tích hợp Processing-in-Memory (PIM). Thay vì đưa toàn bộ dữ liệu từ bộ nhớ tới bộ xử lý để xử lý, PIM cho phép thực hiện một phần tác vụ ngay bên trong bộ nhớ.

Cách tiếp cận này có thể giúp giảm lượng dữ liệu phải di chuyển giữa các thành phần của hệ thống, từ đó cải thiện hiệu quả truyền dữ liệu và mức tiêu thụ năng lượng.

Trong bối cảnh các trung tâm dữ liệu AI ngày càng tiêu thụ nhiều điện năng, đây được xem là hướng phát triển quan trọng để nâng hiệu quả của toàn bộ hệ thống thay vì chỉ tập trung tăng sức mạnh xử lý.

Samsung muốn cung cấp "trọn gói" cho hạ tầng AI

Đằng sau danh mục sản phẩm mới là một chiến lược rộng hơn của Samsung: cung cấp giải pháp bán dẫn tích hợp cho khách hàng AI.

Samsung nhấn mạnh lợi thế của mô hình nhà sản xuất thiết bị tích hợp (IDM), với năng lực trải rộng từ bộ nhớ, foundry đến đóng gói tiên tiến.

Theo định hướng này, khách hàng có thể tiếp cận một chuỗi giải pháp từ thiết kế sản phẩm, phát triển bán dẫn cho tới sản xuất hàng loạt. Samsung kỳ vọng mô hình "one-stop turnkey solutions" sẽ giúp rút ngắn chu kỳ phát triển sản phẩm, đồng thời tối ưu hiệu năng và hiệu quả năng lượng.

Điều này đặc biệt có ý nghĩa trong bối cảnh ngành AI đang chuyển từ cuộc đua phát triển chip riêng lẻ sang tối ưu hóa toàn bộ hệ thống tính toán.

Cuộc đua AI đang chuyển sang cuộc đua về bộ nhớ

Sự xuất hiện của zHBM, zNAND-O và V10 BV-NAND cho thấy Samsung đang đặt trọng tâm vào một thực tế ngày càng rõ trong ngành bán dẫn: năng lực xử lý AI không chỉ phụ thuộc vào bộ tăng tốc mà còn phụ thuộc vào khả năng cung cấp và di chuyển dữ liệu.

Khi các mô hình AI ngày càng lớn, bộ xử lý có thể trở nên mạnh hơn nhưng vẫn bị giới hạn nếu dữ liệu không được cung cấp đủ nhanh. Khi đó, băng thông bộ nhớ, độ trễ, mật độ lưu trữ và hiệu quả năng lượng trở thành những yếu tố quyết định hiệu năng thực tế của cả hệ thống.

Với tầm nhìn về bộ nhớ 3D, Samsung đang tìm cách đưa bộ nhớ tiến gần hơn tới bộ xử lý, đồng thời tăng mật độ và giảm chi phí năng lượng của việc di chuyển dữ liệu.

Nếu các công nghệ này tiến từ giai đoạn ý tưởng sang sản xuất thương mại đúng như lộ trình, chúng có thể mở ra một thế hệ kiến trúc bộ nhớ mới cho trung tâm dữ liệu, điện toán hiệu năng cao và các hệ thống AI trong tương lai.

Cuộc đua AI vì thế đang mở rộng từ ai có bộ xử lý mạnh nhất sang câu hỏi rộng hơn: ai có thể xây dựng được hạ tầng bộ nhớ và lưu trữ đủ nhanh, đủ lớn và đủ tiết kiệm năng lượng để nuôi dưỡng những mô hình AI ngày càng khổng lồ.