关闭 家电网微信二维码


首页| 新闻| 产品| Discover| 智能手表| 数字家庭| 智能盒子| 空调| 电冰箱| 洗衣机| 厨房卫浴| 生活电器| 专题| 微发现| 标签| 论坛| @家电网

首页| 新闻| 产品| Discover| 智能手表| 数字家庭| 智能盒子| 空调| 电冰箱| 洗衣机| 厨房卫浴| 生活电器| 专题| 微发现| 标签| 论坛| @家电网

内文页
内文页
首页 消费电子 数码天下 正文

字节“开卷”,大模型触发“价格战”?

字号:TT 2024-05-17 08:28 作者:宋婧 来源:中国电子报

家电网-HEA.CN报道:北京市社会科学院副研究员王鹏分析称,当一家企业采取低价策略时,其他竞争对手为了保持或扩大市场份额,往往也会采取相应的降价措施。因此,豆包的低价策略很可能触发大模型行业的“价格战”。

在2024火山引擎FORCE原动力大会上,火山引擎总裁谭待宣布,字节跳动内部自研的豆包大模型正式在火山引擎上对外开放服务,主要包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等9款模型。

在大模型竞速赛上被远远甩在后面的字节跳动,这次凭借“极致性价比”的标签狠狠刷了一波眼球。谭待在大会现场公布了这一消息:“豆包通用模型Pro 32k模型,正式定价是0.8厘/千tokens,比行业价格降低99.3%。”“对,没有听错,是降低99.3%。”这种直播带货式的叫卖方式引发一片哗然。

根据火山引擎公布的价格计算显示,一元钱能买到豆包主力模型的125万tokens,大约是200万个汉字。相较之下,市面上同规格模型的定价一般为0.12元/千tokens,是豆包模型价格的150倍。豆包通用模型pro-128k版本,推理输入价格为0.005元/千tokens,仅是GPT4-Turbo128K (0.07元/千tokens)定价的7%。

谭待认为,降低成本是推动大模型快进到“价值创造阶段”的一个关键因素。过去一年时间中,许多企业已经从探索尝试大模型到成功将大模型与核心业务流结合。不论是探索阶段的小场景试错环节,还是大流量的核心业务流结合环节,大模型成本高昂问题始终是制约大模型在千行百业落地的关键要素之一。

“定价的基础是对技术的信心,”谭待表示,“我们不是以亏损为代价做这件事的,亏损是接受不了的。”据他透露,字节团队在技术上有非常多优化手段,包括通过模型结构的优化调整,把成本做低、效果做好,通过分布式推理、混合调度大幅度降低部署成本等。

据了解,目前业内大模型压缩的常见手段主要有三种:量化、剪枝、知识蒸馏。其中,量化相当于“抽脂”,直接降低模型的参数精度,“抽”去一部分细节性信息,从而减少占用空间,同时也不过于降低推理能力;剪枝,相当于直接减去一些旁枝,比如冗余结构、神经元等;知识蒸馏相当于“蒸桑拿”,对千亿模型进行蒸馏,产出若干个性能接近、结构更简的小模型,降低落地成本。根据目前已公开信息,暂时还无法判断字节跳动的豆包大模型属于哪一类。

不过,某位长期关注大模型领域的业内专家在接受记者采访时对豆包的“极致性价比”表示质疑:“有可能是技术优化,比如优化算法和参数,但也有可能是通过补贴和降低模型质量来实现这么低的价格。”

北京市社会科学院副研究员王鹏分析称,当一家企业采取低价策略时,其他竞争对手为了保持或扩大市场份额,往往也会采取相应的降价措施。因此,豆包的低价策略很可能触发大模型行业的“价格战”。

(家电网® HEA.CN)

责任编辑:编辑K组

已有0人参与

网友评论

用户名: 快速登录
万和1026

家电网微博


热点推荐