Gã khổng lồ công nghệ Hàn Quốc đã phối hợp cùng AMD trình diễn giải pháp mở rộng bộ nhớ, đồng thời trưng bày các sản phẩm liên quan đến các nhà sản xuất chip AI như Groq và Nvidia tại sự kiện mà Samsung tham gia với tư cách là Nhà tài trợ Kim cương.
Khi các mô hình AI ngày càng lớn và các tác nhân AI (AI agents) đảm nhận những nhiệm vụ phức tạp hơn, nhu cầu về dung lượng bộ nhớ, tốc độ xử lý dữ liệu và hiệu quả lưu trữ cũng gia tăng. Samsung đã giới thiệu các công nghệ được thiết kế để giải quyết những thách thức này trên ba phương diện: tốc độ tính toán, mở rộng bộ nhớ và lưu trữ dữ liệu.
Một điểm nhấn quan trọng là màn trình diễn chung với AMD về giải pháp mở rộng bộ nhớ dựa trên công nghệ Compute Express Link (CXL). CXL cho phép bộ vi xử lý và các thành phần tính toán khác chia sẻ tài nguyên bộ nhớ, giúp hệ thống AI tiếp cận thêm dung lượng mà không cần phụ thuộc hoàn toàn vào bộ nhớ được lắp đặt trực tiếp trong từng máy chủ riêng lẻ.
Sử dụng công nghệ gộp bộ nhớ (memory pooling) dựa trên chuẩn CMM-D của Samsung, giải pháp này cho phép nhiều hệ thống chia sẻ bộ nhớ linh hoạt hơn, hỗ trợ xử lý khối lượng công việc ngày càng lớn trong quá trình suy luận AI (AI inference) – giai đoạn các mô hình đã được huấn luyện tạo ra phản hồi.
Samsung cũng giới thiệu các sản phẩm bộ nhớ hiệu năng cao, bao gồm bộ nhớ băng thông cao (HBM) tùy chỉnh và HBM5, cũng như công nghệ xử lý ngay trong bộ nhớ (processing-in-memory) – công nghệ thực hiện một số phép tính nhất định ngay bên trong các chip nhớ nhằm giảm thiểu việc truyền tải dữ liệu và nâng cao hiệu quả sử dụng năng lượng.
Công ty đã trưng bày các tấm wafer (phiến bán dẫn) 2-nanometer sử dụng cấu trúc Gate-All-Around (GAA), wafer bộ xử lý ngôn ngữ của Groq và hệ thống Groq 3 LPX của Nvidia, qua đó khẳng định năng lực toàn diện từ mảng bộ nhớ đến sản xuất chip tiên tiến.
Trong lĩnh vực quản lý dữ liệu, Samsung giới thiệu các ổ cứng thể rắn (SSD) dành cho doanh nghiệp cùng các công nghệ giúp tối ưu hóa việc lưu trữ và truy xuất thông tin phục vụ quá trình suy luận AI. Các công nghệ này bao gồm tối ưu hóa bộ nhớ đệm dạng khóa-giá trị (key-value cache optimization), giúp mô hình AI tái sử dụng thông tin đã xử lý trước đó để tạo phản hồi hiệu quả hơn.
Samsung cũng nhấn mạnh tầm quan trọng của việc hợp tác với khách hàng để tối ưu hóa toàn bộ hệ thống AI, thay vì chỉ tập trung vào các sản phẩm bán dẫn riêng lẻ. Phòng thí nghiệm Samsung MAX Lab cho phép khách hàng thử nghiệm các công nghệ bộ nhớ và lưu trữ trong điều kiện khối lượng công việc AI thực tế trước khi đưa sản phẩm ra thị trường. Sự kiện giới thiệu sản phẩm này tiếp nối các buổi trình diễn công nghệ của Samsung tại những sự kiện lớn trong ngành, bao gồm GTC của Nvidia vào tháng 3, COMPUTEX vào tháng 6 và hội nghị Future of Memory and Storage vào tháng 8.
Samsung đang mở rộng danh mục sản phẩm của mình vượt ra ngoài HBM – một thành phần quan trọng trong các bộ tăng tốc AI – để bao gồm cả bộ nhớ hệ thống, ổ cứng SSD và bộ nhớ flash NAND.
Công ty cũng đang tăng cường quan hệ hợp tác với AMD. Trong chuyến thăm Hàn Quốc vào ngày 7 tháng 10, CEO Lisa Su của AMD đã thảo luận về khả năng hợp tác trong các mảng kinh doanh bộ nhớ và gia công bán dẫn (foundry). Trước đó, hai công ty đã ký kết biên bản ghi nhớ vào tháng 3 nhằm mở rộng hợp tác trong lĩnh vực công nghệ điện toán và bộ nhớ AI thế hệ mới.