由 jpichiban Wed, 19 Feb 2025 16:00:01 GMT
从左至右，Baseten的创始人Amir Haghighat、Tuhin Srivastava、Philip Howes和Pankaj Gupta。SLCA Studios | Baseten
Baseten，一家在客户云基础设施上运行人工智能模型的初创公司，于周三宣布已筹集7500万美元资金。此轮融资使Baseten估值达到8.25亿美元，表明风险资本家认为科技领域的AI热潮将使众多初创企业受益，而不仅仅是那些构建大型语言模型的公司。近几个月来，OpenAI、Anthropic和xAI已筹集了数十亿美元资金，其中大部分资金用于购买配备Nvidia图形处理单元（GPU）的服务器。
企业在完成大量数据的AI模型训练后，需要在推理阶段将这些模型部署到某处，此时模型会根据用户查询生成输出。这正是Baseten发挥作用的时候。Baseten不运营自己的数据中心，而是在亚马逊和谷歌等云服务提供商的数据中心设备上运行其软件。客户可以通过企业级服务提供自己的基础设施。通过利用多个供应商，Baseten提供了比单一云当前供应更多的GPU访问。
“在这个市场中，你的首要差异化因素是你能够多快地行动。这是我们客户的核心利益，”联合创始人兼首席执行官Tuhin Srivastava说。“你可以投入生产，而不用担心可靠性、安全性和性能。”联合创始人Amir Haghighat告诉CNBC，企业可以在没有Baseten的情况下管理其模型的部署，但在正确的地理区域确保足够的Nvidia芯片可能很困难。
云服务提供商有时会通知客户，一些GPU将进入维护模式，并在几分钟内变得不可用。Srivastava表示，Baseten帮助其客户处理这些情况而不会中断。
在中国AI实验室DeepSeek于1月取得突破后，声称其模型的训练成本仅为美国同行的一小部分，AI的效率变得比以往任何时候都更加重要。Baseten迅速增加了对DeepSeek的R1推理模型的支持，该模型与OpenAI的o1相当。Baseten的网站承诺以OpenAI成本的一小部分提供顶级性能。Srivastava表示，有很多组织正在考虑转向DeepSeek，Baseten一直在忙于跟上需求。
“有很多人每季度向OpenAI和Anthropic支付数百万美元，他们正在思考，‘我怎样才能省钱？’”他说。“他们已经蜂拥而至。”营销主管Mike Bilodeau在一封电子邮件中写道，与自建架构相比，Baseten客户的推理成本通常下降40%或更多，同时获得更好的性能。
Srivastava表示，截至1月的财年，这家初创公司的收入是上一年的六倍，但没有提供具体数字。Baseten成立于2019年，总部位于旧金山，拥有约60名员工。现有投资者IVP和Spark Capital领投了本轮融资，其他投资者也参与其中。超过100家企业是客户，还有数百家较小的公司，如Descript、Patreon和Writer。
竞争对手包括Salesforce支持的Together AI。另一个挑战是，Baseten必须与AI模型公司和对冲基金竞争人才。“在某种程度上奇怪的经济环境中拥有更多资金，这并没有坏处，”Srivastava说。
不要错过CNBC PRO的这些见解
不要指望今年标普500指数会再次上涨20%，富国银行说
贝莱德的Rick Rieder认为债券市场的这一角落太便宜了，不容忽视
“时钟在滴答作响”，停滞的股市需要做出行动或崩溃，图表分析师说
分析师猜测巴菲特出售可能是近期美国银行疲软的原因
摩根大通经理表示，他的390亿美元ETF可以在2025年从波动中获利——并且收益率为7%
观看：DeepSeek的安全问题以及人们对应用程序与模型的误解
立即观看 DEO1:4501:45DeepSeek security concerns and what people get wrong about the app vs. the modelTechCheck
原文链接：https://www.cnbc.com/2025/02/19/ai-inference-startup-baseten-raises-75-million.html