Scaling Law或将终结?哈佛MIT预警:低精度量化已无路可走,重磅研究掀翻AI圈

内容摘要就连「量化」也不管用,scaling law真的要终结了吗?一提scaling law,人们重点关注的是参数规模、数据量等因素,却忽视了「精度」这一关键变量。哈佛斯坦福MIT等机构研究人员竟发现,低精度训练会降低模型的「有效参数量」!对此,

就连「量化」也不管用,scaling law真的要终结了吗?一提scaling law,人们重点关注的是参数规模、数据量等因素,却忽视了「精度」这一关键变量。哈佛斯坦福MIT等机构研究人员竟发现,低精度训练会降低模型的「有效参数量」!对此,他们提出了「精度感知(precision-aware)」scali

......

本文由站长之家合作伙伴自媒体作者“​新智元公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

即将跳转到外部网站 安全性未知,是否继续 继续前往
 
举报 收藏 打赏 评论 0
24小时热闻
今日推荐
浙ICP备19001410号-1