0871-64605728
您当前位置:网站首页 >> 新闻资讯
Hugging Face 研究“AI 降本增效”:给予更长运算时间让低成本小模型输出比拟大模型准确结果
文章来源:IT之家  作 者:漾仔  上传时间:2025-1-3  浏览量:97

目前业界模型性能通常与训练期间投入的资源绑定,除了头部厂商大肆投入资源训练模型外,许多小型企业和个人开发者实际上并不具备足够的资源,为了解决这一问题,许多团队试图寻找降本增效替代方案。

Hugging Face 于本月中旬公布一项报告,提出一种“扩展测试时计算(IT之家注:Test-Time Compute Scaling)”方法,也就是用时间来弥补模型体量,给予“低成本小模型”充足时间,让相关模型能够对复杂问题生成大量结果,再利用验证器对这些结果进行测试及修正,反复输出能够比拟“高成本大模型”的结果

Hugging Face 团队表示,他们使用这种方法利用 10 亿参数的 Llama 模型进行数学基准测试,据称在某些情境下超越了参数量高达 70 亿的大型模型,证明了用时间提升模型输出内容效果做法可行。

此外,谷歌 DeepMind 最近也公布了类似的论文,他们认为可以为小模型动态分配运算资源,并设置验证器对模型的解答结果进行评分,从而引导模型不断输出正确的答案,从而帮助企业以较少的资源部署足够精度的语言模型。

编 辑:章芳

30

2023-06

华为云618营销季进入倒计时,中小企业年中采购机不可失

华为云618营销季进入倒计时,中小企业年中采购机不可失

20

2024-12

曝华为三折叠手机明年继续迭代更新 不受大环境影响

曝华为三折叠手机明年继续迭代更新 不受大环境影响

17

2023-11

阿里智能信息事业群宣布发布自研大模型,夸克App将全面升级

阿里智能信息事业群宣布发布自研大模型,夸克App将全面升级

17

2023-02

北京市通信管理局通报25款问题App,多涉及个人信息违规问题

北京市通信管理局通报25款问题App,多涉及个人信息违规问题

06

2024-12

嘀嗒出行发布顺风车安全报告:用户行程录音开启率近94%,实名认证乘客增超1049万

嘀嗒出行发布顺风车安全报告:用户行程录音开启率近94%,实名认证乘客增超1049万

06

2024-12

TechInsights:预计 ASML High NA EUV 光刻机功耗约 1400 千瓦

TechInsights:预计 ASML High NA EUV 光刻机功耗约 1400 千瓦

08

2023-09

及时止损、押注“买手”,小红书电商路“转向”

及时止损、押注“买手”,小红书电商路“转向”

20

2024-12

折叠屏手机市场趋于饱和?华为强势回归重塑行业格局

折叠屏手机市场趋于饱和?华为强势回归重塑行业格局
返回顶部
客服电话
0871-64605728
用微信扫一扫关注我们
请各公司推销人员注意:我单位拒绝任何方式、任何形式的电话推销,请勿拔打我单位客服热线进行电话推销,谢谢合作!
公司名称:云南昂略科技有限公司
联系地址:云南省昆明市官渡区永平路188号鑫都韵城写字楼6栋1004号
联系电话:0871-64605728、传真号码:0871-64605728
电子邮箱:19701580@qq.com
关键词:新闻资讯:Hugging Face 研究“AI 降本增效”:给予更长运算时间让低成本小模型输出比拟大模型准确结果,云南昂略科技有限公司,云南移动执法平台建设,云南智慧安防调度系统,云南头戴式安全终端,昂略科技
云南网站建设,云南网页设计,昆明网站建设,昆明网页设计  网站管理
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。