大模型价格进入“厘”时代,豆包大模型定价每千tokens仅0.8厘

科技 2024-05-15 17:54 阅读:3

大模型的性价比之战已经来到了新的阶段。豆包大模型在价格上主打“极致性价比”:豆包通用模型pro-32k版,推理输入价格0.0008元/千tokens,较行业价格低99.3%。一元钱能买到豆包主力模型的125万tokens,相当于三本《三国演义》的输入量。降低成本是推动大模型快进到“价值创造阶段”的一个关键因素。火山方舟2.0版本提出了更具体的解决方案,其平台模型效果、核心插件、系统性能和平台体验层面全面升级。预计2024年年底或者2025年初,企业对大模型的调用量将出现一个陡峭上升、流量激增的拐点。模型效果、系统承载力以及性价比三个重要痛点将会更加明显,火山方舟未来也将在这三方面持续发力。豆包大模型从1.0进化到3.0,在字节跳动内部被用于办公智能助手、电商导购、售后客服、营销创作、数据智能分析、编程助手等50余个业务场景,日调用量达到1200亿tokens,图片生成量超过3000万张。豆包大模型每日千亿tokens级别的量级是目前中国市场上非常大的单日吞吐量。火山方舟还发现,面对更大体量的业务、更剧烈的流量波动,还需要更强的系统承载力。豆包大模型的定价大幅低于行业价格:豆包通用模型pro-32k版,模型推理输入价格仅为0.0008元/千tokens,而市面上同规格模型的定价一般为0.12元/千,是豆包模型价格的150倍。火山方舟还重点提到了对插件生态的进一步丰富,更新后的平台将会上线三个凝结了字节跳动内部强项能力的插件——联网插件、内容插件以及RAG知识库插件。拐点将至,大模型落地即将迎来流量爆发。