Baseten, một công ty khởi nghiệp chạy các mô hình trí tuệ nhân tạo cho khách hàng trên cơ sở hạ tầng đám mây của họ, đã huy động được 75 triệu đô la tiền tài trợ, công ty cho biết hôm thứ Tư.
Vòng tài trợ định giá Baseten ở mức 825 triệu đô la và chứng minh rằng các nhà đầu tư mạo hiểm tin rằng sự bùng nổ AI của công nghệ sẽ mang lại lợi ích cho rất nhiều công ty khởi nghiệp, không chỉ những công ty xây dựng các mô hình ngôn ngữ lớn. Trong những tháng gần đây, OpenAI, Anthropic và xAI đã huy động được hàng tỷ đô la tiền tài trợ, phần lớn số tiền này được chuyển đến các máy chủ chứa bộ xử lý đồ họa của Nvidia hoặc GPU.
Sau khi các công ty hoàn tất việc đào tạo các mô hình AI trên hàng đống dữ liệu, họ cần triển khai các mô hình đó ở đâu đó trong giai đoạn suy luận, đó là khi các mô hình tạo ra đầu ra để phản hồi các truy vấn của người dùng. Đó là lúc Baseten xuất hiện.
Thay vì chạy các trung tâm dữ liệu của riêng mình, Baseten chạy phần mềm của mình trên thiết bị trung tâm dữ liệu từ các nhà cung cấp đám mây, bao gồm Amazon và Google. Khách hàng có thể cung cấp cơ sở hạ tầng của riêng họ với một cấp doanh nghiệp. Bằng cách sử dụng nhiều nhà cung cấp, Baseten cung cấp quyền truy cập vào nhiều GPU hơn so với nguồn cung hiện tại của một đám mây duy nhất.
“Trong thị trường này, sự khác biệt số 1 của bạn là tốc độ bạn có thể di chuyển. Đó là lợi ích cốt lõi dành cho khách hàng của chúng tôi”, đồng sáng lập kiêm giám đốc điều hành Tuhin Srivastava cho biết. “Bạn có thể đưa vào sản xuất mà không cần lo lắng về độ tin cậy, bảo mật và hiệu suất”. Các công ty có thể quản lý việc triển khai các mô hình của họ mà không cần Baseten, nhưng việc đảm bảo đủ chip Nvidia ở đúng khu vực địa lý có thể tỏ ra khó khăn, đồng sáng lập Amir Haghighat cho biết.
Các nhà cung cấp dịch vụ đám mây đôi khi thông báo cho khách hàng rằng một số GPU sẽ được chuyển sang chế độ bảo trì và không khả dụng trong vòng vài phút. Baseten giúp khách hàng của mình xử lý những trường hợp đó mà không bị gián đoạn, Srivastava cho biết.
Sau bước đột phá vào tháng 1 của phòng thí nghiệm AI Trung Quốc DeepSeek, nơi tuyên bố các mô hình của họ được đào tạo với chi phí chỉ bằng một phần nhỏ so với các đối tác tại Hoa Kỳ, hiệu quả trong AI đã trở nên quan trọng hơn bao giờ hết.
Baseten đã nhanh chóng bổ sung hỗ trợ cho mô hình lý luận R1 của DeepSeek có thể so sánh với o1 của OpenAI. Trang web của Baseten hứa hẹn hiệu suất hàng đầu với chi phí chỉ bằng một phần nhỏ của OpenAI. Có rất nhiều tổ chức muốn chuyển sang DeepSeek và Baseten đang bận rộn cố gắng theo kịp, Srivastava cho biết.
"Có rất nhiều người trả hàng triệu đô la mỗi quý cho OpenAI và Anthropic và nghĩ rằng, 'Làm thế nào để tôi có thể tiết kiệm tiền?'", ông nói. "Và họ đã đổ xô đến".
Khách hàng của Baseten thường thấy chi phí suy luận của họ giảm 40% trở lên, trong khi vẫn nhận được hiệu suất tốt hơn, so với các kiến trúc do chính họ xây dựng, giám đốc tiếp thị Mike Bilodeau đã viết trong một email.
Doanh thu của công ty khởi nghiệp trong năm tài chính kết thúc vào tháng 1 cao gấp sáu lần so với năm trước, Srivastava cho biết, nhưng không cung cấp con số cụ thể.
Được thành lập vào năm 2019 và có trụ sở tại San Francisco, Baseten có khoảng 60 nhân viên. Các nhà đầu tư hiện tại là IVP và Spark Capital đã dẫn đầu vòng gọi vốn mới, cùng với những người khác tham gia. Hơn 100 doanh nghiệp là khách hàng, cùng với hàng trăm công ty nhỏ hơn, chẳng hạn như Descript, Patreon và Writer.
Các đối thủ cạnh tranh bao gồm Salesforce -backed Together AI. Một thách thức khác là Baseten phải cạnh tranh với các công ty mô hình AI và các quỹ đầu cơ để giành nhân tài. “Có nhiều tiền hơn trong một môi trường kinh tế có phần kỳ lạ, điều đó không gây hại gì”, Srivastava nói.