Tiêu dùng
Rebellions tìm cách trở thành công ty khởi nghiệp đầu tiên của Hàn Quốc sản xuất hàng loạt chip AI cho các mô hình ngôn ngữ lớn
Alisa H - Thứ Hai, 18/03/2024 9:59 SA
Vietnet24h - Hợp tác với Samsung và KT, công ty khởi nghiệp Rebellions đặt mục tiêu trở thành 'Nvidia của Hàn Quốc' trong lĩnh vực chip suy luận.
Trong một tòa nhà văn phòng nằm ở phía nam Seoul, hàng chục con chip được đặt cạnh nhau trên kệ, mỗi con chip nằm cạnh một chiếc quạt điện riêng để làm mát khi nó hoạt động.
 
Những con chip này, được gọi là ATOM, là các đơn vị xử lý thần kinh (NPU) mới nhất được phát triển bởi công ty khởi nghiệp Rebellions của Hàn Quốc, nhắm đến các mô hình AI có tới 7 tỷ tham số. Hiệu suất của chúng đang được thử nghiệm và so sánh với một số GPU A100 của Nvidia, được đặt trong một phòng riêng trên cùng một tầng.
 
Được coi là thế hệ chip AI tiếp theo, NPU là bộ xử lý được tối ưu hóa cho các hoạt động ma trận đồng thời, nghĩa là chúng tiến thêm một bước trong lĩnh vực học sâu so với các bộ xử lý trung tâm (CPU) và bộ xử lý đồ họa (GPU) đa năng.
 
Rebellions, công ty khởi nghiệp về chip AI cao cấp do 5 kỹ sư Hàn Quốc đồng sáng lập vào năm 2020 để tập trung vào suy luận AI thay vì đào tạo, được coi là hy vọng tốt nhất để sánh ngang hoặc cạnh tranh với Nvidia trong lĩnh vực đó.
 
Park Sung-hyun, Giám đốc điều hành và đồng sáng lập của Rebellions, cho biết trong một cuộc phỏng vấn đầu tuần qua rằng, ATOM sẽ được sản xuất hàng loạt bằng công nghệ 5nm của Samsung vào nửa đầu năm 2024.
 
Đó sẽ là một cột mốc quan trọng đối với ngành công nghiệp chip Hàn Quốc, vì ATOM sẽ là chip được phát triển trong nước đầu tiên hỗ trợ các mô hình ngôn ngữ ở cấp độ sản xuất hàng loạt.
Park Sung-hyun, CEO and co-founder of Rebellions / Courtesy of Rebellions
Park Sung-hyun, CEO và đồng sáng lập của Rebellions.
 
Park cho biết: “Chúng tôi tiết kiệm năng lượng hơn nhiều so với GPU của Nvidia trong suy luận AI,” Park nói, đề cập đến quá trình chạy dữ liệu trực tiếp thông qua mô hình AI được đào tạo để đưa ra dự đoán hoặc giải quyết một nhiệm vụ. Ông nói thêm rằng ATOM tiết kiệm năng lượng hơn tới 5 lần so với A100 của Nvidia, với độ trễ chỉ bằng một nửa – thước đo tốc độ cho chip – của Nvidia A2 trong bài kiểm tra điểm chuẩn suy luận mô hình ngôn ngữ.
 
Trực quan hơn, chip ATOM chỉ cần quạt để làm mát, trong khi chip Nvidia cần hoạt động trong môi trường máy lạnh – đồng nghĩa với việc tiêu thụ nhiều điện năng hơn và chi phí vận hành cao hơn.

Sự trỗi dậy của Rebellions xảy ra khi ngành công nghiệp bán dẫn toàn cầu đang trong một cuộc chiến nảy lửa về chip AI, được thúc đẩy bởi sự phổ biến rộng rãi của ChatGPT của openAI và nhu cầu ngày càng tăng về GPU Nvidia để cung cấp sức mạnh tính toán khổng lồ mà LLM cần.
 
Hàn Quốc, nổi tiếng với vị thế trong lĩnh vực sản xuất chip nhớ, đang sẵn sàng có được chỗ đứng vững chắc trong thị trường đang bùng nổ này. Chẳng hạn, Samsung Electronics đang đối đầu với TSMC để thách thức sự thống trị của họ trong lĩnh vực sản xuất chip AI, trong khi chính phủ Hàn Quốc đặt mục tiêu tăng tỷ lệ chip AI được phát triển trong nước trong các trung tâm dữ liệu trong nước lên 80% vào năm 2030.
 
Rebellions đã giành được sự hỗ trợ từ một số tên tuổi lớn nhất trong ngành công nghệ Hàn Quốc – bao gồm Samsung, KT và Kakao.
 
Vào tháng 1, Rebellions đã hoàn thành vòng cấp vốn mới nhất với tổng trị giá 124 triệu USD, dẫn đầu là KT, cho đến nay đã đầu tư hơn 50 triệu USD vào công ty khởi nghiệp. Điều đó đã nâng mức định giá của Rebellions lên 650 triệu USD, trở thành công ty khởi nghiệp về chip được tài trợ nhiều nhất tại Hàn Quốc.
 
Park cho biết việc đi vào sản xuất hàng loạt sẽ là động lực lớn cho doanh thu của công ty sau nhiều năm ở giai đoạn nguyên mẫu. Theo Park, KT, nhà khai thác viễn thông lớn thứ hai và công ty trung tâm dữ liệu lớn nhất Hàn Quốc, sẽ trở thành khách hàng đầu tiên của Rebellions sau khi công ty này bắt đầu sản xuất hàng loạt ATOM. Ông tin rằng các công ty viễn thông là khách hàng lý tưởng nhất cho chip AI.
 
“Tương lai của ngành AI sẽ là cuộc chơi về cơ sở hạ tầng. Các công ty viễn thông sẵn sàng đầu tư số tiền lớn vào việc xây dựng các trung tâm dữ liệu”, ông nói.
 
Park cũng hy vọng sự hợp tác với công ty trung tâm dữ liệu lớn nhất Hàn Quốc sẽ đóng vai trò là điểm tham chiếu cho việc mở rộng toàn cầu của công ty, đặc biệt là tại thị trường Mỹ. Park cho biết, công ty đã đàm phán với một số công ty siêu quy mô lớn của Hoa Kỳ như IBM.
 
Park, người tốt nghiệp MIT năm 2014 với bằng Tiến sĩ về kỹ thuật điện và khoa học máy tính, đã dành sáu năm phát triển chip ở Mỹ, làm việc cho các công ty trong đó có bộ phận nghiên cứu của Samsung ở Mỹ, Intel và SpaceX.
 
Mặc dù có kinh nghiệm trong ngành công nghiệp chip của Hoa Kỳ, Park vẫn nhận thấy cơ hội tốt hơn để thành lập công ty bán dẫn ở Hàn Quốc. Ông nói: “Trong hệ sinh thái phần cứng bán dẫn, châu Á sẽ là khu vực lớn tiếp theo”. “Hàn Quốc và Đài Loan đang bắt kịp”.

Park trở về quê hương và thành lập Rebellions vào năm 2020, cùng với Oh Jin-wook – một chuyên gia chip AI khác của Hàn Quốc có kiến thức nền tảng về ngành ở Hoa Kỳ – cùng với những người đồng sáng lập khác.
 
Đối với Park, đó không phải là một quyết định dễ dàng, vì hầu hết mạng lưới ngành của ông vào thời điểm đó đều nằm trong nhóm phiến quân Hoa Kỳ. Các thành viên ban đầu trong nhóm nổi dậy bao gồm các nhân vật từ IBM, Intel và Apple, cũng như Samsung USA.
ATOM, Rebellions' second-generation NPU, targets AI models with up to 7 billion parameters with a single chip. Courtesy of Rebellions
ATOM, NPU thế hệ thứ hai của Rebellions, nhắm đến các mô hình AI có tới 7 tỷ thông số chỉ bằng một con chip.
 
Hiện nay, công ty có khoảng 120 nhân viên trong đó có gần 100 kỹ sư. Theo Park, khi nhóm mở rộng qua nhiều năm, nhóm đã thu hút được các chuyên gia có nền tảng địa phương, trong đó những người đến từ các công ty dấu chấm phẩy lớn của Hàn Quốc chiếm gần 70% nhân viên.
 
Rebellions ra mắt sản phẩm đầu tiên mang tên ION vào năm 2021, nhắm đến các nhiệm vụ AI trong ngành tài chính bằng chip do TSMC sản xuất. Sau đó, công ty quyết định tái tập trung vào chip cho các mô hình AI sau khi nhận thấy nhu cầu cao hơn từ các công ty trung tâm dữ liệu thay vì các công ty tài chính.
 
Samsung, nhà sản xuất chip lớn nhất Hàn Quốc, là đối tác sản xuất ATOM của Rebellions. Hai công ty đã tăng cường hợp tác vào tháng 10 năm ngoái bằng cách công bố kế hoạch cùng phát triển REBEL, NPU thế hệ tiếp theo của công ty khởi nghiệp sau ATOM, được thiết lập để nhắm mục tiêu LLM có kích thước tham số lớn hơn và so sánh với GPU H200 thông số kỹ thuật hàng đầu của Nvidia trong các tác vụ suy luận.
 
Park đang đặt hy vọng lớn hơn vào REBEL, dự kiến sẽ hoàn thành quá trình phát triển và bắt đầu sản xuất hàng loạt vào nửa cuối năm nay, sử dụng quy trình chế tạo 4nm của Samsung.

Khi thị trường AI tổng hợp tiếp tục mở rộng, Park kỳ vọng nhu cầu về chip suy luận sẽ trở thành điểm tăng trưởng quan trọng.
 
Park cho biết: “Lưu lượng đào tạo AI phụ thuộc vào số lượng nhà phát triển, trong khi lưu lượng suy luận AI tăng lên khi số lượng người dùng cuối tăng lên”. “Hiện tại, thị trường đào tạo và suy luận đã chiếm gần một nửa, nhưng lưu lượng suy luận sẽ cao hơn nhiều trong tương lai.”
 
Trong vòng hai năm rưỡi, Park đã thấy thị phần của công ty tại thị trường LLM Hàn Quốc tăng lên 30% về nhiệm vụ suy luận và chiếm “ít nhất 3 đến 5%” trên toàn cầu. Theo các nhà phân tích, hiện tại, Nvidia được ước tính chiếm thị phần khổng lồ lên tới 90% trên thị trường chip AI toàn cầu.
 
Park nói: “Nếu bạn chỉ nắm bắt được một phần nhỏ của thị trường LLM thì con số đó đã là rất lớn rồi”.
Anthropic ra mắt chatbot mạnh mẽ nhất của mình khi cuộc chiến AI tổng hợp đang nóng lên Vietnet24h - Hôm nay, thứ Hai (4/3), Anthropic, được Google hậu thuẫn đã ra mắt Claude 3, một chatbot và bộ mô hình AI mà hãng cho là nhanh nhất và mạnh nhất từ trước đến nay.
Nhiều du học sinh trở về quê hương tạo sức mạnh cho khởi nghiệp công nghệ Việt Nam Vietnet24h - Rất nhiều nhân tài công nghệ đang quay trở lại Việt Nam, không chỉ thúc đẩy chuỗi cung ứng điện tử mà còn thúc đẩy nền kinh tế kỹ thuật số đang phát triển nhanh chóng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Flagship sắp ra mắt của Oppo hứa hẹn sẽ mang đến những nâng cấp thú vị cho những người đam mê công nghệ Vietnet24h - Chiếc flagship mới nhất của Oppo, Find X8 Ultra, đã đặt ra một chuẩn mực cao cho điện thoại thông minh, kết hợp thiết kế 9mm thanh mảnh với một loạt camera ấn tượng và pin lâu dài.
Dyson ra mắt máy hút bụi mỏng nhất thế giới tại Seoul Vietnet24h - Dyson đã ra mắt máy hút bụi không dây mỏng nhất của mình -- PencilVac, có tay cầm đường kính 38 mm và nặng 1,8 kg -- tại sự kiện ra mắt ở Seoul vào thứ Hai.
Khám phá những tính năng mới thú vị trên ứng dụng di động dành cho Android và iPhone của NotebookLM Vietnet24h - NotebookLM đang bước vào lĩnh vực di động và sắp thay đổi cách người dùng tương tác với ghi chú khi đang di chuyển.
Xreal ra mắt chiếc kính đầu tiên chạy hệ điều hành Android XR của Google để cạnh tranh với Meta và Apple Vietnet24h - Xreal đã ra mắt Dự án Aura, được gọi là kính thực tế mở rộng chạy hệ điều hành XR của Google.
Oppo ra mắt điện thoại siêu pin cùng chip mới Vietnet24h - Oppo vừa mới ra mắt sản phẩm mới nhất của mình trong phân khúc điện thoại siêu pin, Reno 14 và Reno 14 Pro, cả hai đều mang lại độ tin cậy và hiệu suất mà không quá đắt so với phiên bản tiền nhiệm Reno 13.
Huawei ra mắt máy tính bảng có thể gập lại giá 3.300 đô la chạy HarmonyOS, phô diễn sức mạnh phần cứng Vietnet24h - Huawei đã ra mắt một chiếc máy tính xách tay màn hình gập và một chiếc MateBook Pro truyền thống hơn với công nghệ do chính mình sản xuất sau khi bị Microsoft và Intel cắt đứt quan hệ
Samsung ra mắt S25 Edge mỏng khi Apple được cho là đang chuẩn bị iPhone ‘Air’ Vietnet24h - Samsung đã ra mắt Galaxy S25 Edge, một thiết bị chỉ mỏng 5,8 mm và nặng 163 gram, trở thành một trong những điện thoại thông minh mỏng nhất trên thị trường.
FBI sắp “nhìn xuyên tường” bằng radar: Khoa học viễn tưởng hay cơn ác mộng quyền riêng tư? Vietnet24h - Một thiết bị nhỏ bằng hộp cơm có thể giúp FBI xác định người đứng sau tường bằng sóng vô tuyến. Công nghệ như mơ đang trở thành hiện thực – nhưng liệu nó sẽ phục vụ an ninh hay mở đầu kỷ nguyên giám sát công dân không giới hạn?
Dòng điện thoại thông minh OnePlus Nord Series mới thú vị sắp ra mắt Vietnet24h - OnePlus đang chuẩn bị giới thiệu sản phẩm mới nhất của mình điện thoại thông minh đội hình, Nord CE5, trong những tuần tới. Ban đầu dự kiến ​​phát hành vào tháng XNUMX, ngày ra mắt dự kiến ​​đã chuyển sang tháng XNUMX, gây phấn khích cho những người đam mê công nghệ và người tiêu dùng.
Samsung sẽ ra mắt Galaxy S25 Edge mỏng hơn vào ngày 13 tháng 5 Vietnet24h - Samsung Electronics sẽ ra mắt phiên bản mỏng hơn của điện thoại thông minh Galaxy, Galaxy S25 Edge, vào thứ Ba (13/5), mở đường cho cuộc chiến với Apple về kiểu dáng mỏng hơn.
Hơn 1.200 website giả mạo bị phát hiện mỗi ngày: Tội phạm mạng chuyển hướng tấn công người dùng cá nhân Vietnet24h - Số liệu từ các tổ chức giám sát an ninh mạng cho thấy, mỗi ngày có hàng nghìn tên miền giả mạo được đăng ký nhằm mục đích đánh cắp dữ liệu người dùng. Đáng chú ý, các website “nhái” thường sao chép hoàn toàn giao diện của ngân hàng, dịch vụ đặt phòng, trang mua sắm, khiến nạn nhân dễ dàng sập bẫy nếu không kiểm tra kỹ.
iPad Air M512 2GB giảm giá hấp dẫn nhất từ ​​trước đến nay trên Amazon Vietnet24h - Bạn có thể mua cùng một mẫu iPad Air M2 512GB 11 inch với mức giảm giá đáng kinh ngạc là 33%, tương đương với khoản tiết kiệm hào phóng là 350 đô la.
Apple cân nhắc cho phép người dùng iPhone lựa chọn các giải pháp thay thế Siri làm trợ lý mặc định Vietnet24h - Khi Siri gặp khó khăn trong việc đưa ra câu trả lời thỏa đáng, bạn vẫn có thể gọi Google để được trợ giúp.
iPhone 13 được cập nhật tính năng nhắn tin vệ tinh qua iOS 18.5 Vietnet24h - Với iOS 18.5, Apple chính thức cho phép iPhone 13 nhắn tin vệ tinh thông qua một số nhà mạng, mở rộng khả năng kết nối không phụ thuộc hạ tầng truyền thống. Tuy nhiên, tính năng này không áp dụng với mọi thiết bị và nhà mạng, cho thấy chiến lược triển khai có chọn lọc của hãng.
Lưỡi dao deepfake: Màn lừa đảo triệu đô và cú bắt tay chết người giữa AI và tội phạm mạng Vietnet24h - Từ một vài dòng quảng cáo có khuôn mặt người nổi tiếng, đến màn giả giọng cảnh sát lừa nạn nhân nộp thuế để nhận lại khoản tiền "đã mất" – tất cả đều do AI dựng nên. Hơn 20 triệu USD đã bị đánh cắp. Kẻ thủ ác không dùng súng, mà dùng thuật toán.
Giải pháp đánh bay hôi miệng, lấy lại tự tin trong giao tiếp Vietnet24h - Hôi miệng không chỉ là vấn đề về sức khỏe mà còn ảnh hưởng trực tiếp đến sự tự tin và giao tiếp hàng ngày, đặc biệt đối với những người làm công việc tư vấn, kinh doanh hoặc giao tiếp trực tiếp. Mùi hôi khó chịu từ miệng khiến bạn gặp khó khăn trong các cuộc trò chuyện, khiến người khác ngại ngùng và ảnh hưởng đến mối quan hệ xã hội. Tuy nhiên, đừng lo lắng, vì những giải pháp đơn giản có thể giúp bạn khắc phục tình trạng này một cách hiệu quả.
Giới chức Mỹ kiện TikTok vì lo ngại thanh thiếu niên bị ảnh hưởng bởi nghiện mạng xã hội Vietnet24h - TikTok, nền tảng video nổi tiếng, đã trở thành mục tiêu của các vụ kiện từ 13 bang ở Mỹ, với cáo buộc gây nghiện cho thanh thiếu niên và làm tổn hại đến sức khỏe tâm thần của họ thông qua những thuật toán được thiết kế để tăng thời gian sử dụng.
Cách sử dụng ChatGPT vừa ra mắt chế độ giọng nói nâng cao cho trò chuyện âm thanh của OpenAI Vietnet24h - Mặc dù công cụ này phản hồi nhanh và có thể nói bằng nhiều giọng khác nhau, nhưng bạn có thể gặp phải giới hạn về tốc độ nếu sử dụng nhiều lần trong một ngày.
Đánh giá sơ bộ về iPhone 16 mới ra lò của Apple Vietnet24h - iPhone 16 Pro Max có thời lượng pin tốt hơn và camera tuyệt vời, nhưng Apple Intelligence vẫn chưa xuất hiện
Apple Watch Series 10 chỉ có những nâng cấp nhỏ, nhưng điểm cộng lớn là sạc nhanh hơn Vietnet24h - Apple Watch là một phần của bộ phận Thiết bị đeo, Gia đình và Phụ kiện của công ty, đã báo cáo doanh thu 8,1 tỷ đô la trong quý tài chính thứ ba, giảm 2% so với một năm trước.