Văn hóa - Thể thao
Rebellions tìm cách trở thành công ty khởi nghiệp đầu tiên của Hàn Quốc sản xuất hàng loạt chip AI cho các mô hình ngôn ngữ lớn
Alisa H - Thứ Hai, 18/03/2024 9:59 SA
Vietnet24h - Hợp tác với Samsung và KT, công ty khởi nghiệp Rebellions đặt mục tiêu trở thành 'Nvidia của Hàn Quốc' trong lĩnh vực chip suy luận.
Trong một tòa nhà văn phòng nằm ở phía nam Seoul, hàng chục con chip được đặt cạnh nhau trên kệ, mỗi con chip nằm cạnh một chiếc quạt điện riêng để làm mát khi nó hoạt động.
 
Những con chip này, được gọi là ATOM, là các đơn vị xử lý thần kinh (NPU) mới nhất được phát triển bởi công ty khởi nghiệp Rebellions của Hàn Quốc, nhắm đến các mô hình AI có tới 7 tỷ tham số. Hiệu suất của chúng đang được thử nghiệm và so sánh với một số GPU A100 của Nvidia, được đặt trong một phòng riêng trên cùng một tầng.
 
Được coi là thế hệ chip AI tiếp theo, NPU là bộ xử lý được tối ưu hóa cho các hoạt động ma trận đồng thời, nghĩa là chúng tiến thêm một bước trong lĩnh vực học sâu so với các bộ xử lý trung tâm (CPU) và bộ xử lý đồ họa (GPU) đa năng.
 
Rebellions, công ty khởi nghiệp về chip AI cao cấp do 5 kỹ sư Hàn Quốc đồng sáng lập vào năm 2020 để tập trung vào suy luận AI thay vì đào tạo, được coi là hy vọng tốt nhất để sánh ngang hoặc cạnh tranh với Nvidia trong lĩnh vực đó.
 
Park Sung-hyun, Giám đốc điều hành và đồng sáng lập của Rebellions, cho biết trong một cuộc phỏng vấn đầu tuần qua rằng, ATOM sẽ được sản xuất hàng loạt bằng công nghệ 5nm của Samsung vào nửa đầu năm 2024.
 
Đó sẽ là một cột mốc quan trọng đối với ngành công nghiệp chip Hàn Quốc, vì ATOM sẽ là chip được phát triển trong nước đầu tiên hỗ trợ các mô hình ngôn ngữ ở cấp độ sản xuất hàng loạt.
Park Sung-hyun, CEO and co-founder of Rebellions / Courtesy of Rebellions
Park Sung-hyun, CEO và đồng sáng lập của Rebellions.
 
Park cho biết: “Chúng tôi tiết kiệm năng lượng hơn nhiều so với GPU của Nvidia trong suy luận AI,” Park nói, đề cập đến quá trình chạy dữ liệu trực tiếp thông qua mô hình AI được đào tạo để đưa ra dự đoán hoặc giải quyết một nhiệm vụ. Ông nói thêm rằng ATOM tiết kiệm năng lượng hơn tới 5 lần so với A100 của Nvidia, với độ trễ chỉ bằng một nửa – thước đo tốc độ cho chip – của Nvidia A2 trong bài kiểm tra điểm chuẩn suy luận mô hình ngôn ngữ.
 
Trực quan hơn, chip ATOM chỉ cần quạt để làm mát, trong khi chip Nvidia cần hoạt động trong môi trường máy lạnh – đồng nghĩa với việc tiêu thụ nhiều điện năng hơn và chi phí vận hành cao hơn.

Sự trỗi dậy của Rebellions xảy ra khi ngành công nghiệp bán dẫn toàn cầu đang trong một cuộc chiến nảy lửa về chip AI, được thúc đẩy bởi sự phổ biến rộng rãi của ChatGPT của openAI và nhu cầu ngày càng tăng về GPU Nvidia để cung cấp sức mạnh tính toán khổng lồ mà LLM cần.
 
Hàn Quốc, nổi tiếng với vị thế trong lĩnh vực sản xuất chip nhớ, đang sẵn sàng có được chỗ đứng vững chắc trong thị trường đang bùng nổ này. Chẳng hạn, Samsung Electronics đang đối đầu với TSMC để thách thức sự thống trị của họ trong lĩnh vực sản xuất chip AI, trong khi chính phủ Hàn Quốc đặt mục tiêu tăng tỷ lệ chip AI được phát triển trong nước trong các trung tâm dữ liệu trong nước lên 80% vào năm 2030.
 
Rebellions đã giành được sự hỗ trợ từ một số tên tuổi lớn nhất trong ngành công nghệ Hàn Quốc – bao gồm Samsung, KT và Kakao.
 
Vào tháng 1, Rebellions đã hoàn thành vòng cấp vốn mới nhất với tổng trị giá 124 triệu USD, dẫn đầu là KT, cho đến nay đã đầu tư hơn 50 triệu USD vào công ty khởi nghiệp. Điều đó đã nâng mức định giá của Rebellions lên 650 triệu USD, trở thành công ty khởi nghiệp về chip được tài trợ nhiều nhất tại Hàn Quốc.
 
Park cho biết việc đi vào sản xuất hàng loạt sẽ là động lực lớn cho doanh thu của công ty sau nhiều năm ở giai đoạn nguyên mẫu. Theo Park, KT, nhà khai thác viễn thông lớn thứ hai và công ty trung tâm dữ liệu lớn nhất Hàn Quốc, sẽ trở thành khách hàng đầu tiên của Rebellions sau khi công ty này bắt đầu sản xuất hàng loạt ATOM. Ông tin rằng các công ty viễn thông là khách hàng lý tưởng nhất cho chip AI.
 
“Tương lai của ngành AI sẽ là cuộc chơi về cơ sở hạ tầng. Các công ty viễn thông sẵn sàng đầu tư số tiền lớn vào việc xây dựng các trung tâm dữ liệu”, ông nói.
 
Park cũng hy vọng sự hợp tác với công ty trung tâm dữ liệu lớn nhất Hàn Quốc sẽ đóng vai trò là điểm tham chiếu cho việc mở rộng toàn cầu của công ty, đặc biệt là tại thị trường Mỹ. Park cho biết, công ty đã đàm phán với một số công ty siêu quy mô lớn của Hoa Kỳ như IBM.
 
Park, người tốt nghiệp MIT năm 2014 với bằng Tiến sĩ về kỹ thuật điện và khoa học máy tính, đã dành sáu năm phát triển chip ở Mỹ, làm việc cho các công ty trong đó có bộ phận nghiên cứu của Samsung ở Mỹ, Intel và SpaceX.
 
Mặc dù có kinh nghiệm trong ngành công nghiệp chip của Hoa Kỳ, Park vẫn nhận thấy cơ hội tốt hơn để thành lập công ty bán dẫn ở Hàn Quốc. Ông nói: “Trong hệ sinh thái phần cứng bán dẫn, châu Á sẽ là khu vực lớn tiếp theo”. “Hàn Quốc và Đài Loan đang bắt kịp”.

Park trở về quê hương và thành lập Rebellions vào năm 2020, cùng với Oh Jin-wook – một chuyên gia chip AI khác của Hàn Quốc có kiến thức nền tảng về ngành ở Hoa Kỳ – cùng với những người đồng sáng lập khác.
 
Đối với Park, đó không phải là một quyết định dễ dàng, vì hầu hết mạng lưới ngành của ông vào thời điểm đó đều nằm trong nhóm phiến quân Hoa Kỳ. Các thành viên ban đầu trong nhóm nổi dậy bao gồm các nhân vật từ IBM, Intel và Apple, cũng như Samsung USA.
ATOM, Rebellions' second-generation NPU, targets AI models with up to 7 billion parameters with a single chip. Courtesy of Rebellions
ATOM, NPU thế hệ thứ hai của Rebellions, nhắm đến các mô hình AI có tới 7 tỷ thông số chỉ bằng một con chip.
 
Hiện nay, công ty có khoảng 120 nhân viên trong đó có gần 100 kỹ sư. Theo Park, khi nhóm mở rộng qua nhiều năm, nhóm đã thu hút được các chuyên gia có nền tảng địa phương, trong đó những người đến từ các công ty dấu chấm phẩy lớn của Hàn Quốc chiếm gần 70% nhân viên.
 
Rebellions ra mắt sản phẩm đầu tiên mang tên ION vào năm 2021, nhắm đến các nhiệm vụ AI trong ngành tài chính bằng chip do TSMC sản xuất. Sau đó, công ty quyết định tái tập trung vào chip cho các mô hình AI sau khi nhận thấy nhu cầu cao hơn từ các công ty trung tâm dữ liệu thay vì các công ty tài chính.
 
Samsung, nhà sản xuất chip lớn nhất Hàn Quốc, là đối tác sản xuất ATOM của Rebellions. Hai công ty đã tăng cường hợp tác vào tháng 10 năm ngoái bằng cách công bố kế hoạch cùng phát triển REBEL, NPU thế hệ tiếp theo của công ty khởi nghiệp sau ATOM, được thiết lập để nhắm mục tiêu LLM có kích thước tham số lớn hơn và so sánh với GPU H200 thông số kỹ thuật hàng đầu của Nvidia trong các tác vụ suy luận.
 
Park đang đặt hy vọng lớn hơn vào REBEL, dự kiến sẽ hoàn thành quá trình phát triển và bắt đầu sản xuất hàng loạt vào nửa cuối năm nay, sử dụng quy trình chế tạo 4nm của Samsung.

Khi thị trường AI tổng hợp tiếp tục mở rộng, Park kỳ vọng nhu cầu về chip suy luận sẽ trở thành điểm tăng trưởng quan trọng.
 
Park cho biết: “Lưu lượng đào tạo AI phụ thuộc vào số lượng nhà phát triển, trong khi lưu lượng suy luận AI tăng lên khi số lượng người dùng cuối tăng lên”. “Hiện tại, thị trường đào tạo và suy luận đã chiếm gần một nửa, nhưng lưu lượng suy luận sẽ cao hơn nhiều trong tương lai.”
 
Trong vòng hai năm rưỡi, Park đã thấy thị phần của công ty tại thị trường LLM Hàn Quốc tăng lên 30% về nhiệm vụ suy luận và chiếm “ít nhất 3 đến 5%” trên toàn cầu. Theo các nhà phân tích, hiện tại, Nvidia được ước tính chiếm thị phần khổng lồ lên tới 90% trên thị trường chip AI toàn cầu.
 
Park nói: “Nếu bạn chỉ nắm bắt được một phần nhỏ của thị trường LLM thì con số đó đã là rất lớn rồi”.
Anthropic ra mắt chatbot mạnh mẽ nhất của mình khi cuộc chiến AI tổng hợp đang nóng lên Vietnet24h - Hôm nay, thứ Hai (4/3), Anthropic, được Google hậu thuẫn đã ra mắt Claude 3, một chatbot và bộ mô hình AI mà hãng cho là nhanh nhất và mạnh nhất từ trước đến nay.
Nhiều du học sinh trở về quê hương tạo sức mạnh cho khởi nghiệp công nghệ Việt Nam Vietnet24h - Rất nhiều nhân tài công nghệ đang quay trở lại Việt Nam, không chỉ thúc đẩy chuỗi cung ứng điện tử mà còn thúc đẩy nền kinh tế kỹ thuật số đang phát triển nhanh chóng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Sự sụt giảm 45% của Super Micro trong tuần này đã xóa sạch mức tăng của cổ phiếu trong năm Vietnet24h - Đợt bán tháo cổ phiếu Super Micro tiếp tục diễn ra vào thứ Sáu, khi giá cổ phiếu giảm thêm 10%, nâng mức lỗ trong tuần lên 44%.
Samsung Electronics công bố doanh thu quý 3 cao kỷ lục, nhưng doanh thu ộ phận bán dẫn vẫn yếu Vietnet24h - Samsung Electronics đã ghi nhận doanh thu quý cao nhất từ ​​trước đến nay trong quý 3 năm nay, mặc dù lợi nhuận trong lĩnh vực bán dẫn (DS) chậm chạp do chi phí một lần tăng.
Cổ phiếu Tesla đóng cửa ở mức cao nhất trong vòng 13 tháng gần đây Vietnet24h - Sau ngày giao dịch tốt nhất của Tesla trên thị trường kể từ năm 2013, cổ phiếu này đã tăng hơn 3% vào thứ Sáu, đóng cửa ở mức cao nhất kể từ tháng 9 năm ngoái.
SK Hynix công bố lợi nhuận quý kỷ lục nhờ sự bùng nổ chip AI Vietnet24h - Lợi nhuận hoạt động trong quý 3 đạt mức kỷ lục 7,03 nghìn tỷ won (5,08 tỷ đô la), vượt qua dự báo 6,8 nghìn tỷ won của LSEG và phục hồi sau khoản lỗ 1,8 nghìn tỷ won trong cùng kỳ năm ngoái.
Cổ phiếu bán dẫn châu Á tăng sau khi cổ phiếu của Nvidia, công ty chip AI được yêu thích, đạt mức cao kỷ lục Vietnet24h - Giá cổ phiếu tăng của Nvidia vào thứ Hai đã nâng giá trị thị trường của công ty lên 3,4 nghìn tỷ đô la, vượt qua Microsoft để trở thành công ty có giá trị thứ hai trên Phố Wall và chỉ thấp hơn một chút so với mức định giá khoảng 3,55 nghìn tỷ đô la của Apple.
LG Electronics chứng kiến ​​lợi nhuận giảm 20% mặc dù doanh thu đạt kỷ lục Vietnet24h - Lợi nhuận của LG Electronics trong quý 3 giảm mạnh mặc dù cũng ghi nhận con số doanh thu cao nhất trong quý.
Cổ phiếu Nvidia tăng 25% trong tháng qua Vietnet24h - Cổ phiếu của Nvidia đã tăng 25% trong tháng qua và đang tiến gần đến mức cao kỷ lục khi mùa báo cáo thu nhập của các công ty công nghệ đang đến gần.
Thu nhập quý 3 của Samsung Electronics thấp hơn kỳ vọng của thị trường Vietnet24h - Hôm thứ Ba (7/10), Samsung Electronics dự báo lợi nhuận hoạt động trong quý 3 của mình sẽ giảm xuống dưới kỳ vọng của thị trường do nhu cầu chip cho điện thoại thông minh yếu và chi phí một lần.
Foxconn vượt bậc doanh thu quý III, hướng tới quý IV đầy hứa hẹn Vietnet24h - Trong bối cảnh nhu cầu trí tuệ nhân tạo gia tăng, Foxconn đã công bố kết quả kinh doanh quý III vượt xa kỳ vọng với mức doanh thu kỷ lục 1,85 nghìn tỷ Đài tệ. Các nhà phân tích dự đoán công ty sẽ tiếp tục đà tăng trưởng mạnh mẽ trong những tháng tới.
Ví Bitcoin cổ xưa thức tỉnh, hơn 3,5 triệu USD được đưa lên sàn Vietnet24h - Sau hơn một thập kỷ im lìm, ví Bitcoin từ thời đại Satoshi đã hoạt động trở lại, chuyển số Bitcoin trị giá hơn 3,5 triệu USD. Cộng đồng tiền số đang theo dõi sát sao khi bộ phim tài liệu về Satoshi chuẩn bị ra mắt.
Cuộc khủng hoảng phúc lợi tại Thung lũng Silicon Vietnet24h - Năm 2021 đánh dấu sự chuyển mình của Thung lũng Silicon, khi các đặc quyền mà nhân viên công nghệ từng được chiều chuộng giờ đây trở thành vấn đề đau đầu cho các công ty. Những vụ việc lạm dụng phúc lợi khiến nhiều nhân viên phải đối diện với hệ quả nghiêm trọng.
AI tại Google viết mã chiếm 25%: Cơ hội hay thách thức cho lập trình viên? Vietnet24h - Google đang tiên phong trong việc ứng dụng AI vào lập trình, với hơn một phần tư mã nguồn mới được tạo bởi trí tuệ nhân tạo. Nhưng liệu sự phát triển này có đẩy lập trình viên vào thế khó?
Vingroup ra mắt quỹ đầu tư VinVentures Vietnet24h - Ngày 28/10/2024, Tập đoàn Vingroup công bố ra mắt quỹ đầu tư VinVentures, với tổng tài sản quản lý là 150 triệu đô la Mỹ.
TSMC bị nghi ngờ vi phạm lệnh cấm vận khi chip xuất hiện trong thiết bị của Huawei Vietnet24h - Một báo cáo nội bộ cho thấy chip của TSMC đang được sử dụng trong máy chủ AI của Huawei. Vụ việc đặt ra nghi vấn về khả năng vi phạm lệnh cấm vận của Mỹ và thu hút sự chú ý từ giới chức Mỹ.
Studio game AAA của Netflix đóng cửa: Ngành công nghiệp game chao đảo Vietnet24h - Quyết định đóng cửa studio phát triển game AAA của Netflix tại Los Angeles sau hai năm hoạt động đã khiến nhiều người bất ngờ. Trong bối cảnh công ty đang tái cấu trúc, động thái này không chỉ ảnh hưởng đến nhân viên mà còn gợi lên những câu hỏi về tương lai của mảng game của Netflix.
Cuộc chiến công nghệ Mỹ-Trung sẽ nóng lên bất kể Trump hay Harris thắng Vietnet24h - Cuộc chiến công nghệ giữa Hoa Kỳ và Trung Quốc chắc chắn sẽ nóng lên bất kể ứng cử viên Cộng hòa Donald Trump hay Phó Tổng thống Kamala Harris giành chiến thắng trong cuộc bầu cử tổng thống Hoa Kỳ vào ngày 5 tháng 11, với đảng Dân chủ có khả năng đưa ra các quy tắc mới có mục tiêu và Trump có cách tiếp cận thẳng thắn hơn.
Kế hoạch bí mật của FBI: Tạo tiền số để "bẫy" tội phạm thao túng Vietnet24h - Thông qua đồng tiền số NexFundAI, FBI đã khéo léo vạch trần chiêu trò bơm thổi giá tiền số của nhiều đối tượng lừa đảo, khiến hàng triệu USD của nhà đầu tư rơi vào tay kẻ gian.
Bí ẩn danh tính Satoshi Nakamoto tiếp tục được khơi gợi Vietnet24h - Trong phim tài liệu "Money Electric: The Bitcoin Mystery," Peter Todd được coi là Satoshi Nakamoto, nhưng sự phủ nhận sau đó của anh đã làm dấy lên nhiều nghi vấn. Liệu danh tính thật sự của người sáng lập Bitcoin có bao giờ được làm sáng tỏ?
Google đối diện nguy cơ bị chia tách: Chính phủ Mỹ mạnh tay trong cuộc chiến chống độc quyền Vietnet24h - Lần đầu tiên sau 40 năm, Bộ Tư pháp Mỹ đề xuất chia tách Google, cáo buộc công ty vi phạm luật chống độc quyền. Động thái này không chỉ ảnh hưởng sâu rộng đến các dịch vụ cốt lõi của Google mà còn tạo tiền lệ lớn trong lĩnh vực công nghệ toàn cầu.
Chiêu lừa Apple bằng iPhone giả: hai người Trung Quốc lãnh án tù 54 tháng Vietnet24h - Hai người Trung Quốc sống tại Mỹ bị phát hiện gửi hàng nghìn iPhone giả đi bảo hành, qua đó lừa lấy iPhone thật từ Apple. Cả hai đã bị kết án tổng cộng hơn 100 tháng tù và phải bồi thường 1,4 triệu USD.
Hoàn thiện hạ tầng viễn thông tại làng Nủ sau thảm họa lũ quét Vietnet24h - Vừa qua, nhà mạng VNPT đã chính thức khởi công lắp đặt trạm phát sóng di động (BTS) tại khu vực xây dựng bản tái định cư mới cho người dân thôn Làng Nủ, huyện Bảo Yên, tỉnh Lào Cai.
Thành công rực rỡ: Black Myth - Wukong thu về gần 1 tỷ USD Vietnet24h - Black Myth: Wukong, tựa game hành động nhập vai của Game Science, đã ghi dấu ấn mạnh mẽ trên thị trường game quốc tế, với doanh thu gần chạm ngưỡng 1 tỷ USD chỉ sau hai tuần ra mắt.
Trải nghiệm âm nhạc kết hợp công nghệ đỉnh cao của Galaxy AI Immersive Vietnet24h - Sự kiện hoành tráng chào đón thế hệ điện thoại gập mới Galaxy Z Fold6 và Galaxy Z Flip6 - nơi âm nhạc và công nghệ hội tụ, thể hiện vị thế tiên phong dẫn đầu kỷ nguyên AI mới đã bùng nổ với 50.000 người tham gia.
Tùng Tán Lâm - Vẻ đẹp thiêng liêng giữa lòng Shangri-La Vietnet24h - Đối với những tín đồ đam mê du lịch tâm linh, tu viện Tùng Tán Lâm (Songzanlin) là một điểm đến không thể bỏ qua. Những người từng đặt chân đến Shangri-la đều khẳng định đây là một trong những tu viện đáng ghé thăm nhất trên thế giới.
Galaxy S24 của Samsung sẽ phát trực tiếp lễ khai mạc Thế vận hội Paris Vietnet24h - Samsung, đối tác chính thức của các sự kiện Olympic và Paralympic toàn cầu, đã thông báo rằng họ sẽ lắp đặt hơn 200 chiếc điện thoại thông minh hiện đại nhất của mình ở mũi và hai bên của mỗi chiếc trong số 85 chiếc tàu sẽ chở 10.500 vận động viên khi bơi trên mặt nước. xuôi sông Seine trong cuộc diễu hành khai mạc Thế vận hội.
Euro 2024: Những dự đoán sắc bén từ AI Vietnet24h - Trong bối cảnh Euro 2024 đang diễn ra, các mô hình AI từ khắp nơi trên thế giới đã bắt đầu "tranh tài", đưa ra những dự đoán thú vị về kết quả của giải đấu.
Starlink - Sự hiện diện đột phá trong cuộc sống của bộ tộc Marubo Vietnet24h - Với sự đổ bộ của dự án Internet vệ tinh Starlink vào vùng Amazon, bộ tộc Marubo đã chứng kiến một sự hiện diện đột phá trong cuộc sống hàng ngày. Sự kết nối này không chỉ mở ra cánh cửa cho tiềm năng mới, mà còn đem lại những thách thức và cơ hội cho bộ tộc.
SKT mang dịch vụ cộng đồng người hâm mộ K-pop lên nền tảng metaverse Vietnet24h - Nhà cung cấp dịch vụ di động Hàn Quốc SK Telecom đã tiết lộ dịch vụ K-pop mới cho nền tảng metaverse của mình, ifland, được thiết kế như một đấu trường nơi các thần tượng K-pop và người hâm mộ toàn cầu của họ tụ tập và giao tiếp với nhau.
5 điều hối tiếc nhất của con người khi qua đời Vietnet24h - Vào cuối cuộc đời, nhiều người có xu hướng suy ngẫm về những điều họ ước mình đã làm khác đi.
Học nhạc tại Kim Bảo Nam: lắng nghe lời tâm sự từ học viên Vietnet24h - Những lời tâm sự chân thành từ học viên sẽ giúp bạn hiểu rõ hơn về chất lượng đào tạo, cơ sở vật chất và đội ngũ giảng viên tại trung tâm âm nhạc Kim Bảo Nam. Qua đó, bạn có thể đưa ra lựa chọn phù hợp với nhu cầu và mục tiêu học nhạc của mình.