> 自媒体 > (AI)人工智能 > Hinton最新访谈:GPT-3和人脑比参数量仍少1000倍
Hinton最新访谈:GPT-3和人脑比参数量仍少1000倍
来源:新智元
2023-05-26 22:17:36
507
管理
【新智元导读】三十年前,Hinton对于神经网络能够取得大发展的信念是非主流的,而现在恐怕很难找到任何人反对。近期 Hinton 在麻省理工技术评论的年度 EmTech MIT 会议上,讨论了这个领域的现状以及他认为下一步应该走向何方。

如果我们有了这些突破,我们是否能够通过深度学习技术接近人类的智力?

是的。尤其是突破性的进展可以让大量的向量实现诸如推理的事情,但是我们也需要大幅度的扩大参数规模。人类的大脑有大约100万亿个参数,或者说突触,而我们现在所说的一个真正的大模型,像 GPT-3,有1750亿。它比大脑小一千倍。GPT-3现在可以产生看似合理的文本,但与大脑相比仍然很小。

你说的规模,是指更大的神经网络,更多的数据,还是两者兼而有之?

两者都有。在计算机科学和人类之间存在着某种差异。与感官接收到的数据量相比,人类大脑中有更大量的参数,而神经网络也出人意料地善于处理数量相当少的数据,但人类可以做到更好。

有些人仍然相信符号表示是人工智能的方法之一,您同意吗?

我有像赫克托 · 莱维斯克这样的好朋友,他真的相信符号表征的方法,并且在这方面做了很大的工作。不过我不同意他的观点,但是这种符号学的方法是一种完全合理的尝试。

但我的猜想是,最终我们会意识到符号只存在于外部世界,本质是我们对向量进行各种内部操作。

对于人工智能的未来,你认为你最非主流的观点是什么?

我曾经有一些非主流的观点,而五年后,它们成了主流。我在20世纪80年代的大多数非主流观点现在已经被广泛接受,所以现在很难找到不同意这些观点的人。所以,我现在已经没有多少非主流观点了。

参考链接:

https://www.technologyreview.com/2020/11/03/1011616/ai-godfather-geoffrey-hinton-deep-learning-will-do-everything/

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
宋宁峰二手平台账号曝光,原来不是真穷,而是不舍得给Q女士花钱..
“半年回血18万,他把旧爱也挂上了货架。”昨晚刷到这条热搜,我第一反应..
微信出现这条杠,你已经不是对方好友了
微信现在成了大家日常沟通最常用的工具。通讯录里躺着几百上千个好友。..
两年零融资做到1000万美金ARR,Chatbase的AI原生创业故事..
在当下这个AI浪潮中,绝大多数宣称“被AI赋能”的初创公司,其实都走在一..
微信这个锁定账号功能一定要知道,手机丢了也不怕坏人注销你账号..
手机早就成了随身携带的百宝箱,微信更是装着半生的人脉、攒下的零钱、绑..
相亲对象查我社交账号,我大方分享,他刷到一条特别动态..
第一章 相亲对象的质问雨滴在咖啡馆的落地窗上蜿蜒爬行,将窗外霓虹灯牌..
微信转账页面,一旦出现这几行字,立刻停手别转钱
#头条创作训练营#大家好,我是月光。每天给大家带来实用干货;不追噱头,..
别大意!微信这地方不删,别人随时登录你都发现不了..
一、开篇:账号安全无小事,这处设置务必及时自查 在日常使用场景中,多..
网警紧急预警!AI伪造骗局狂飙,换脸拟声防不胜防
五一假期刚过,一条重磅安全提醒刷屏全网:网警紧急预警,警惕AI伪造骗局..
抖音5个默认隐私开关,多数人常年都没关闭
现如今刷短视频早已成为全民日常消遣,无论是居家休闲、饭后放松,还是碎..
关于作者
兰花草(普通会员)
文章
1963
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体107551

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索