丁宁:大模型的关键突破是“预训练”,效果超出想象


(资料图片)

2023年亚布力论坛夏季高峰会于8月24日-27日在深圳召开。深圳市人工智能与机器人研究院常务副院长丁宁出席并演讲。

丁宁坦言,“大模型让人印象非常深刻”。在其看来,大模型的关键突破是“预训练的步骤”。

他解释说,以前机器学习是就问题本身学习相关数据,而“预训练”是先不学某个具体的问题,而是所有知识都要了解——构建一种世界的常识体系,把人的认知体系,包括物理和逻辑关系都搞清楚了,再来说解决具体问题,“它的效果一下子超出人的想象”。

“这是大模型里面的一个比较关键的问题,通过预训练方法把常识体系构建起来”,他说。

新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

标签:

x 广告
丁宁:大模型的关键突破是“预训练”,效果超出想象

2023年亚布力论坛夏季高峰会于8月24日-27日在深圳召开。深圳市人工智能

梁怀王刘揖的母亲是谁(梁怀王)

1、虽然极有才华、有抱负,心智上却不够坚强。2、早在公元前177年贾谊

靶向施策精准发力 构筑人才集聚高地我市精准引进实用适用人才

人才是城市发展的核心驱动力,对于一个城市的发展起着至关重要的作用。

深圳启动极速先锋城市“3T”跃升行动试点

近日,在CEE深圳国际消费电子博览会智慧家庭产业发展论坛上,深圳市工

海底捞西安街头摆摊 刺激西安夜经济蓬勃发展

华商网讯(记者刘超实习生江玉)你肯定不敢相信!人均消费百元的海底捞

杉杉股份(600884):8月25日北向资金增持80.04万股

8月25日北向资金增持80 04万股杉杉股份。近5个交易日中,获北向资金增

近500只股票被公募调研 机构关注这些赛道

近500只股票被公募调研机构关注这些赛道

什么是内部控制的一种重要方法(什么是内部控制)

1、国外较为经典的是ASB对内部控制的定义。2、1972年,美国准则委员会

把回收站的东西删了还能恢复吗?一文就懂

通过本文你将学习到以下内容:第1部分、删除的文件 文件夹去哪儿了?第

社保基金二季度重仓股揭秘:新进33股 增持61股

每经AI快讯,数据宝统计显示,社保基金最新出现在174只个股前十大流通

x 广告

Copyright ©  2015-2022 热讯城市网版权所有  备案号:豫ICP备20005723号-6   联系邮箱:29 59 11 57 8@qq.com