Tầm nhìn công nghệ
Rebellions tìm cách trở thành công ty khởi nghiệp đầu tiên của Hàn Quốc sản xuất hàng loạt chip AI cho các mô hình ngôn ngữ lớn
Alisa H - Thứ Hai, 18/03/2024 9:59 SA
Vietnet24h - Hợp tác với Samsung và KT, công ty khởi nghiệp Rebellions đặt mục tiêu trở thành 'Nvidia của Hàn Quốc' trong lĩnh vực chip suy luận.
Trong một tòa nhà văn phòng nằm ở phía nam Seoul, hàng chục con chip được đặt cạnh nhau trên kệ, mỗi con chip nằm cạnh một chiếc quạt điện riêng để làm mát khi nó hoạt động.
 
Những con chip này, được gọi là ATOM, là các đơn vị xử lý thần kinh (NPU) mới nhất được phát triển bởi công ty khởi nghiệp Rebellions của Hàn Quốc, nhắm đến các mô hình AI có tới 7 tỷ tham số. Hiệu suất của chúng đang được thử nghiệm và so sánh với một số GPU A100 của Nvidia, được đặt trong một phòng riêng trên cùng một tầng.
 
Được coi là thế hệ chip AI tiếp theo, NPU là bộ xử lý được tối ưu hóa cho các hoạt động ma trận đồng thời, nghĩa là chúng tiến thêm một bước trong lĩnh vực học sâu so với các bộ xử lý trung tâm (CPU) và bộ xử lý đồ họa (GPU) đa năng.
 
Rebellions, công ty khởi nghiệp về chip AI cao cấp do 5 kỹ sư Hàn Quốc đồng sáng lập vào năm 2020 để tập trung vào suy luận AI thay vì đào tạo, được coi là hy vọng tốt nhất để sánh ngang hoặc cạnh tranh với Nvidia trong lĩnh vực đó.
 
Park Sung-hyun, Giám đốc điều hành và đồng sáng lập của Rebellions, cho biết trong một cuộc phỏng vấn đầu tuần qua rằng, ATOM sẽ được sản xuất hàng loạt bằng công nghệ 5nm của Samsung vào nửa đầu năm 2024.
 
Đó sẽ là một cột mốc quan trọng đối với ngành công nghiệp chip Hàn Quốc, vì ATOM sẽ là chip được phát triển trong nước đầu tiên hỗ trợ các mô hình ngôn ngữ ở cấp độ sản xuất hàng loạt.
Park Sung-hyun, CEO and co-founder of Rebellions / Courtesy of Rebellions
Park Sung-hyun, CEO và đồng sáng lập của Rebellions.
 
Park cho biết: “Chúng tôi tiết kiệm năng lượng hơn nhiều so với GPU của Nvidia trong suy luận AI,” Park nói, đề cập đến quá trình chạy dữ liệu trực tiếp thông qua mô hình AI được đào tạo để đưa ra dự đoán hoặc giải quyết một nhiệm vụ. Ông nói thêm rằng ATOM tiết kiệm năng lượng hơn tới 5 lần so với A100 của Nvidia, với độ trễ chỉ bằng một nửa – thước đo tốc độ cho chip – của Nvidia A2 trong bài kiểm tra điểm chuẩn suy luận mô hình ngôn ngữ.
 
Trực quan hơn, chip ATOM chỉ cần quạt để làm mát, trong khi chip Nvidia cần hoạt động trong môi trường máy lạnh – đồng nghĩa với việc tiêu thụ nhiều điện năng hơn và chi phí vận hành cao hơn.

Sự trỗi dậy của Rebellions xảy ra khi ngành công nghiệp bán dẫn toàn cầu đang trong một cuộc chiến nảy lửa về chip AI, được thúc đẩy bởi sự phổ biến rộng rãi của ChatGPT của openAI và nhu cầu ngày càng tăng về GPU Nvidia để cung cấp sức mạnh tính toán khổng lồ mà LLM cần.
 
Hàn Quốc, nổi tiếng với vị thế trong lĩnh vực sản xuất chip nhớ, đang sẵn sàng có được chỗ đứng vững chắc trong thị trường đang bùng nổ này. Chẳng hạn, Samsung Electronics đang đối đầu với TSMC để thách thức sự thống trị của họ trong lĩnh vực sản xuất chip AI, trong khi chính phủ Hàn Quốc đặt mục tiêu tăng tỷ lệ chip AI được phát triển trong nước trong các trung tâm dữ liệu trong nước lên 80% vào năm 2030.
 
Rebellions đã giành được sự hỗ trợ từ một số tên tuổi lớn nhất trong ngành công nghệ Hàn Quốc – bao gồm Samsung, KT và Kakao.
 
Vào tháng 1, Rebellions đã hoàn thành vòng cấp vốn mới nhất với tổng trị giá 124 triệu USD, dẫn đầu là KT, cho đến nay đã đầu tư hơn 50 triệu USD vào công ty khởi nghiệp. Điều đó đã nâng mức định giá của Rebellions lên 650 triệu USD, trở thành công ty khởi nghiệp về chip được tài trợ nhiều nhất tại Hàn Quốc.
 
Park cho biết việc đi vào sản xuất hàng loạt sẽ là động lực lớn cho doanh thu của công ty sau nhiều năm ở giai đoạn nguyên mẫu. Theo Park, KT, nhà khai thác viễn thông lớn thứ hai và công ty trung tâm dữ liệu lớn nhất Hàn Quốc, sẽ trở thành khách hàng đầu tiên của Rebellions sau khi công ty này bắt đầu sản xuất hàng loạt ATOM. Ông tin rằng các công ty viễn thông là khách hàng lý tưởng nhất cho chip AI.
 
“Tương lai của ngành AI sẽ là cuộc chơi về cơ sở hạ tầng. Các công ty viễn thông sẵn sàng đầu tư số tiền lớn vào việc xây dựng các trung tâm dữ liệu”, ông nói.
 
Park cũng hy vọng sự hợp tác với công ty trung tâm dữ liệu lớn nhất Hàn Quốc sẽ đóng vai trò là điểm tham chiếu cho việc mở rộng toàn cầu của công ty, đặc biệt là tại thị trường Mỹ. Park cho biết, công ty đã đàm phán với một số công ty siêu quy mô lớn của Hoa Kỳ như IBM.
 
Park, người tốt nghiệp MIT năm 2014 với bằng Tiến sĩ về kỹ thuật điện và khoa học máy tính, đã dành sáu năm phát triển chip ở Mỹ, làm việc cho các công ty trong đó có bộ phận nghiên cứu của Samsung ở Mỹ, Intel và SpaceX.
 
Mặc dù có kinh nghiệm trong ngành công nghiệp chip của Hoa Kỳ, Park vẫn nhận thấy cơ hội tốt hơn để thành lập công ty bán dẫn ở Hàn Quốc. Ông nói: “Trong hệ sinh thái phần cứng bán dẫn, châu Á sẽ là khu vực lớn tiếp theo”. “Hàn Quốc và Đài Loan đang bắt kịp”.

Park trở về quê hương và thành lập Rebellions vào năm 2020, cùng với Oh Jin-wook – một chuyên gia chip AI khác của Hàn Quốc có kiến thức nền tảng về ngành ở Hoa Kỳ – cùng với những người đồng sáng lập khác.
 
Đối với Park, đó không phải là một quyết định dễ dàng, vì hầu hết mạng lưới ngành của ông vào thời điểm đó đều nằm trong nhóm phiến quân Hoa Kỳ. Các thành viên ban đầu trong nhóm nổi dậy bao gồm các nhân vật từ IBM, Intel và Apple, cũng như Samsung USA.
ATOM, Rebellions' second-generation NPU, targets AI models with up to 7 billion parameters with a single chip. Courtesy of Rebellions
ATOM, NPU thế hệ thứ hai của Rebellions, nhắm đến các mô hình AI có tới 7 tỷ thông số chỉ bằng một con chip.
 
Hiện nay, công ty có khoảng 120 nhân viên trong đó có gần 100 kỹ sư. Theo Park, khi nhóm mở rộng qua nhiều năm, nhóm đã thu hút được các chuyên gia có nền tảng địa phương, trong đó những người đến từ các công ty dấu chấm phẩy lớn của Hàn Quốc chiếm gần 70% nhân viên.
 
Rebellions ra mắt sản phẩm đầu tiên mang tên ION vào năm 2021, nhắm đến các nhiệm vụ AI trong ngành tài chính bằng chip do TSMC sản xuất. Sau đó, công ty quyết định tái tập trung vào chip cho các mô hình AI sau khi nhận thấy nhu cầu cao hơn từ các công ty trung tâm dữ liệu thay vì các công ty tài chính.
 
Samsung, nhà sản xuất chip lớn nhất Hàn Quốc, là đối tác sản xuất ATOM của Rebellions. Hai công ty đã tăng cường hợp tác vào tháng 10 năm ngoái bằng cách công bố kế hoạch cùng phát triển REBEL, NPU thế hệ tiếp theo của công ty khởi nghiệp sau ATOM, được thiết lập để nhắm mục tiêu LLM có kích thước tham số lớn hơn và so sánh với GPU H200 thông số kỹ thuật hàng đầu của Nvidia trong các tác vụ suy luận.
 
Park đang đặt hy vọng lớn hơn vào REBEL, dự kiến sẽ hoàn thành quá trình phát triển và bắt đầu sản xuất hàng loạt vào nửa cuối năm nay, sử dụng quy trình chế tạo 4nm của Samsung.

Khi thị trường AI tổng hợp tiếp tục mở rộng, Park kỳ vọng nhu cầu về chip suy luận sẽ trở thành điểm tăng trưởng quan trọng.
 
Park cho biết: “Lưu lượng đào tạo AI phụ thuộc vào số lượng nhà phát triển, trong khi lưu lượng suy luận AI tăng lên khi số lượng người dùng cuối tăng lên”. “Hiện tại, thị trường đào tạo và suy luận đã chiếm gần một nửa, nhưng lưu lượng suy luận sẽ cao hơn nhiều trong tương lai.”
 
Trong vòng hai năm rưỡi, Park đã thấy thị phần của công ty tại thị trường LLM Hàn Quốc tăng lên 30% về nhiệm vụ suy luận và chiếm “ít nhất 3 đến 5%” trên toàn cầu. Theo các nhà phân tích, hiện tại, Nvidia được ước tính chiếm thị phần khổng lồ lên tới 90% trên thị trường chip AI toàn cầu.
 
Park nói: “Nếu bạn chỉ nắm bắt được một phần nhỏ của thị trường LLM thì con số đó đã là rất lớn rồi”.
Anthropic ra mắt chatbot mạnh mẽ nhất của mình khi cuộc chiến AI tổng hợp đang nóng lên Vietnet24h - Hôm nay, thứ Hai (4/3), Anthropic, được Google hậu thuẫn đã ra mắt Claude 3, một chatbot và bộ mô hình AI mà hãng cho là nhanh nhất và mạnh nhất từ trước đến nay.
Nhiều du học sinh trở về quê hương tạo sức mạnh cho khởi nghiệp công nghệ Việt Nam Vietnet24h - Rất nhiều nhân tài công nghệ đang quay trở lại Việt Nam, không chỉ thúc đẩy chuỗi cung ứng điện tử mà còn thúc đẩy nền kinh tế kỹ thuật số đang phát triển nhanh chóng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050 Vietnet24h - Ngày 21/9/2024, Thủ tướng Phạm Minh Chính đã ký Quyết định số 1018/QĐ-TTg ban hành Chiến lược phát triển công nghiệp bán dẫn Việt Nam đến năm 2030 và tầm nhìn 2050. Đây là bước tiến lớn trong việc đưa Việt Nam trở thành một trong những trung tâm hàng đầu thế giới trong lĩnh vực bán dẫn, một ngành công nghiệp đang trở thành trụ cột trong nền kinh tế toàn cầu.
Tổng giám đốc điều hành Intel vạch ra con đường phía trước cho công ty Vietnet24h - Sau cuộc họp hội đồng quản trị kéo dài ba ngày vào tuần trước, Tổng giám đốc điều hành của Intel, Pat Gelsinger đã vạch ra con đường phía trước của công ty trong một lá thư gửi cho nhân viên.
Hoa Kỳ triển khai các biện pháp kiểm soát xuất khẩu liên quan đến chip mới Vietnet24h - Chính quyền Biden đang triển khai các biện pháp kiểm soát xuất khẩu mới đối với các công nghệ quan trọng, bao gồm máy tính lượng tử và hàng hóa bán dẫn, trong bối cảnh Trung Quốc đang đạt được những tiến bộ trong ngành chip toàn cầu.
Các nhà lập pháp lo ngại về quảng cáo ma túy bất hợp pháp trên Facebook và Instagram Vietnet24h - Một nhóm nhà lập pháp lưỡng đảng đã gửi cho Giám đốc điều hành Meta, Mark Zuckerberg một lá thư bày tỏ quan ngại về các quảng cáo ma túy bất hợp pháp trên Facebook và Instagram.
Thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn Vietnet24h - Thủ tướng Chính phủ Phạm Minh Chính đã ký Quyết định số 791/QĐ-TTg về việc thành lập Ban Chỉ đạo quốc gia về phát triển ngành công nghiệp bán dẫn (Ban Chỉ đạo).
Khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và mạng xã hội Vietnet24h - Theo báo cáo của Ủy ban giáo dục Hạ viện Anh, việc khuyến nghị cấm trẻ dưới 16 tuổi sử dụng smartphone và tăng độ tuổi tối thiểu để mở tài khoản mạng xã hội lên 16 nhằm giảm tác động tiêu cực của công nghệ đối với sức khỏe và giáo dục của thanh thiếu niên.
Hội nghị thượng đỉnh AI toàn cầu lần thứ hai đảm bảo các cam kết an toàn từ các công ty Vietnet24h - Mười sáu công ty đi đầu trong việc phát triển Trí tuệ nhân tạo đã cam kết vào thứ Ba tại một cuộc họp toàn cầu để phát triển công nghệ này một cách an toàn vào thời điểm các cơ quan quản lý đang cố gắng theo kịp sự đổi mới nhanh chóng và những rủi ro mới nổi.
Hàn Quốc thiết lập hệ thống bản quyền nội dung AI vào cuối năm nay Vietnet24h - Theo Bộ Khoa học và CNTT Hàn Quốc hôm nay thứ Ba (21/5) cho biết, Chính phủ Hàn Quốc có kế hoạch thiết lập các giao thức kỹ thuật số mới bằng cách cải tiến hệ thống bản quyền cho nội dung do AI tạo ra và giải quyết các tin tức giả mạo do deepfake tạo ra.
Hàn Quốc chuẩn bị gói hỗ trợ trị giá hơn 7 tỷ USD cho ngành công nghiệp chip Vietnet24h - Tổng thống Hàn Quốc Yoon Suk Yeol tuyên bố sẽ dồn mọi nguồn lực có thể để giành chiến thắng trong "cuộc chiến" về chip, hứa hẹn lợi ích về thuế cho các khoản đầu tư.
Samsung có kế hoạch tăng thêm 1 tỷ USD đầu tư vào Việt Nam hàng năm Vietnet24h - Giám đốc tài chính (CFO) của Samsung Electronics Park Hark-kyu cho biết khi gặp Thủ tướng Phạm Minh Chính tại Hà Nội hôm thứ Năm vừa qua (10/5), Samsung có kế hoạch bổ sung khoảng 1 tỷ USD vào đầu tư vào Việt Nam hàng năm.
Huawei kêu gọi nhà mạng cùng xây dựng tương lai AI di động Vietnet24h - Phó chủ tịch Huawei, ông Li Peng, cho rằng mạng 5.5G sẽ là bệ phóng cho AI di động, giúp các nhà mạng khai thác tối đa cơ hội tăng trưởng từ nhu cầu sử dụng AI ngày càng tăng của người dùng.
Tại sao Meta và Snap chi hàng tỷ đô la cho kính AR Vietnet24h - Sau một thập kỷ phát triển và hàng tỷ đô la, vào tháng 9, CEO của Meta, Mark Zuckerberg đã vén bức màn về một trong những dự án đầy tham vọng nhất của công ty: một nguyên mẫu thực tế tăng cường có tên là Orion.
Tấn công mạng: khi AI trở thành vũ khí mới của tội phạm Vietnet24h - Một báo cáo mới từ Imperva chỉ ra rằng, với sự phổ biến của trí tuệ nhân tạo và mô hình ngôn ngữ lớn, ngành bán lẻ đang phải đối mặt với một làn sóng tấn công mạng ngày càng tinh vi. Hơn 500.000 cuộc tấn công mỗi ngày đang đe dọa nghiêm trọng đến an ninh thông tin và uy tín doanh nghiệp.
CEO Tesla Elon Musk ra mắt robotaxi 'Cybercab' Vietnet24h - Vào thứ năm (10/10), CEO của Tesla, Elon Musk đã giới thiệu một chiếc xe taxi robot được mong đợi từ lâu với hai cửa cánh chim và không có vô lăng hoặc bàn đạp và gây bất ngờ với xe tải robot, đặt cược vào sự thay đổi trọng tâm từ những chiếc xe giá rẻ dành cho thị trường đại chúng sang xe robot.
Có gì trong Triển lãm Quốc tế Thang máy lớn nhất Việt Nam? Vietnet24h - Nằm trong khuôn khổ Hội chợ Vietnam Expo, Vietnam Elevator Expo là triển lãm thang máy duy nhất, quy mô lớn nhất tại Việt Nam được tổ chức dưới sự hợp tác giữa Hiệp hội Thang máy Việt Nam (VNEA) và Công ty VINEXAD.
Liệu Samsung có kịp chuẩn bị cho sự suy thoái của ngành chip không? Vietnet24h - Các báo cáo cáo buộc cắt giảm việc làm trên toàn thế giới trong bối cảnh lo ngại về chip ngày càng tăng.
Kỷ nguyên mới: Mark Zuckerberg dự đoán kính AR sẽ thay thế smartphone Vietnet24h - Mark Zuckerberg, CEO Meta, đã công bố mẫu kính AR Orion và tin tưởng rằng trong thập kỷ tới, kính AR sẽ trở thành công cụ thay thế smartphone. Được trang bị nhiều tính năng tiên tiến và thiết kế nhẹ hơn, kính AR của Meta hứa hẹn thay đổi cách chúng ta tương tác với thế giới số.
Chủ đề 'Khuếch đại trí tuệ' của Huawei chiếm vị trí trung tâm tại Huawei Connect 2024 Vietnet24h - Huawei đã công bố những tiến bộ đáng kể trong công nghệ AI và điện toán tại Huawei Connect 2024, khai mạc vào ngày 19/9 tại Thượng Hải, Trung Quốc.
Samsung đang rất cần tăng năng suất đúc chip cho bộ vi xử lý AI Vietnet24h - Samsung Electronics đang phải đối mặt với nhu cầu cấp thiết là phải tăng năng suất sản xuất tại xưởng đúc cho bộ xử lý trí tuệ nhân tạo (AI) vì Nvidia đã gợi ý khả năng chuyển các đơn đặt hàng khỏi TSMC của Đài Loan, với lý do nhu cầu mạnh mẽ liên tục đối với chipset của công ty.
Giới công nghệ nhìn nhận điều gì ở việc Huawei ra mắt điện thoại gập ba Vietnet24h - Gã khổng lồ công nghệ Trung Quốc Huawei đã ra mắt điện thoại thông minh mới vào thứ Ba (10/9), được coi là điện thoại gập ba đầu tiên trên thế giới, vài giờ sau khi đối thủ cạnh tranh của Hoa Kỳ là Apple vén bức màn về chiếc iPhone mới được xây dựng cho AI.
Không khí trong nhà ô nhiễm ảnh hưởng đến sức khỏe như thế nào? Vietnet24h - Trong khi chúng ta luôn chú trọng đến môi trường sống bên ngoài, ít ai để ý rằng không khí trong chính ngôi nhà của mình có thể là một sát thủ vô hình, âm thầm gây ra nhiều vấn đề nghiêm trọng cho sức khỏe. Không khí trong nhà, nếu không được quản lý đúng cách, có thể ô nhiễm hơn gấp nhiều lần so với bên ngoài, đe dọa trực tiếp đến sức khỏe của cả gia đình.
Pin mặt trời trên mái nhà: Cân bằng giữa năng lượng sạch và nhiệt độ đô thị Vietnet24h - Dữ liệu từ nghiên cứu mới cho thấy các tấm pin mặt trời vừa giúp giảm ô nhiễm vừa thay đổi nhiệt độ đô thị, yêu cầu các thành phố cần giải pháp tối ưu để tận dụng năng lượng tái tạo.
UNDP và IBM cùng nhau tạo ra bước đột phá trong dự báo năng lượng bằng AI Vietnet24h - Với sự ra mắt của GeoHub, UNDP và IBM đã phát triển các mô hình AI giúp người dùng phân tích và đưa ra quyết định dựa trên dữ liệu năng lượng, mở ra hy vọng cho một tương lai bền vững hơn.
LG Energy Solution tái chế pin hướng tới tương lai bền vững Vietnet24h - LG Energy Solution (LGES) đã tìm kiếm các cơ hội kinh doanh mới trên thị trường tái sử dụng và tái chế pin.
Septic: Giải pháp bể tự hoại thông minh giúp ngăn ngừa ô nhiễm nguồn nước Vietnet24h - Với khả năng chống thấm và xử lý chất thải tối ưu, bể tự hoại thông minh Septic đang được nhiều gia đình lựa chọn để thay thế cho các bể phốt bê tông cũ, giúp bảo vệ môi trường và đảm bảo an toàn sức khỏe.
Samsung SDI giới thiệu pin thế hệ tiếp theo tại IAA Transportation 2024 Vietnet24h - Samsung SDI đang giới thiệu dòng sản phẩm pin thế hệ tiếp theo được tối ưu hóa cho xe thương mại điện tại IAA Transportation 2024 ở Hanover, CHLB Đức.
Phát triển Kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam Vietnet24h - Ngày 12/09/2024 tại Thành phố Hải Phòng đã diễn ra Diễn đàn Phát triển kinh tế tuần hoàn: Xu hướng thế giới và định hướng chính sách tại Việt Nam do Bộ Kế hoạch và Đầu tư tổ chức. Diễn đàn tập trung đánh giá những kết quả đạt được, phân tích những tồn tại, hạn chế và nguyên nhân của việc thúc đẩy phát triển các mô hình kinh tế tuần hoàn tại Việt Nam.
Viettronics Tân Bình: Doanh nghiệp Xanh năm 2024 Vietnet24h - Vào tối ngày 29/08/2024, tại Khách sạn Rex, Quận 1, TP. HCM, Hiệp hội Doanh nghiệp TP. HCM (HUBA) và Báo Sài Gòn Giải Phóng phối hợp tổ chức Lễ Tôn vinh và trao Danh hiệu “Doanh nghiệp xanh TP. HCM năm 2024” .
Việc sử dụng nhiên liệu bền vững sẽ bắt buộc cho tất cả các chuyến bay quốc tế từ năm 2027 Vietnet24h - Tổ chức Hàng không Dân dụng Quốc tế (ICAO) bắt buộc các quốc gia áp dụng Chương trình Bù trừ và Giảm phát thải Carbon cho Hàng không Quốc tế (CORSIA) đối với 193 quốc gia thành viên bắt đầu từ năm 2027.
TSMC đối phó với những lo ngaii về thiếu hụt nguồn nước: ở Kumamoto Vietnet24h - Taiwan Semiconductor Manufacturing Co. (TSMC) đang tham gia một chương trình tại Nhật Bản nhằm bảo tồn tài nguyên nước ngầm bằng cách làm ngập các cánh đồng lúa chưa sử dụng, trong bối cảnh lo ngại rằng các nhà máy sản xuất chip của công ty tại tỉnh Kumamoto có thể gây ra tình trạng thiếu nước trong khu vực.