热讯:GPT-4老板:AI可能会杀死人类,已经出现我们无法解释的推理能力

“AI确实可能杀死人类。”

这话并非危言耸听,而是OpenAI CEO奥特曼的最新观点。

而这番观点,是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。


(资料图片)

不仅XesyTTBZ如此,奥特曼谈及了近期围绕ChatGPT产生的诸多问题,坦承就连OpenAI团队,也根本没搞懂它是如何“进化”的:

唯一的途径是向ChatGPT提问,从它的回答中摸索它的思路。

针对马斯克在推特上的“危险论”,他直言:

除此之外,在这场对话过程中,奥特曼还提到了不少刁钻的话题,例如:

ChatGPT、GPT-4开发的内幕

GPT-4是人类迄今所实现的最复杂的软件

如何看待大家拿ChatGPT越狱

……

在看过这场对话之后,网友直呼:

那么接下来,我们就来一同看下他们这场深度对话。

GPT-4内幕大曝光

GPT-4是这场对话中最受关注的部分。

它是如何训练的?如何在训练模型时避免浪费算力?如何解决AI回答不同价值观的人的问题?

首先是训练过程,依旧是预训练+RLHF,不过透露了一点具体细节。

GPT-4早在去年夏天就已经训练完成,后面一直在进行对齐工作,让它表现得更符合人类需求。

相比预训练数据集,RLHF所用的数据非常少,但效果是决定性的。

对此,奥特曼透露了一点数据来源,包含一些开源数据集、以及合作商提供的部分数据集。

当然,数据集中也有一点Reddit论坛上出现的迷因梗(meme),但不是很多。对此奥特曼遗憾表示:

即便如此,团队甚至奥特曼自己依旧不能完全解读GPT-编程客栈4。

目前对它的解读方式,依旧是通过不断问它问题,通过它的回答来判断它的“思路”。

而就在不断测试中,OpenAI发现从ChatpythonGPT开始,GPT系列出现了推理能力。

虽然ChatGPT绝大部分时候都被当做数据库使用,但它确实也出现了一定的推理能力,至于这种能力具体如何出现的,目前却无人能回答。

但大模型的训练往往意味着大量算力需求。对此奥特曼再次提到了OpenAI独特的训练预测方法:

关于这一点,在GPT-4论文和官方博客中也有更详细介绍。

最后奥特曼承认,GPT-4确实存在应对不同价值观的人的问题。

临时解决办法就是把更改系统消息(system message)的权限开放给用户,也就是ChatGPT中经常见到的那段“我只是一个语言模型……”。

通过改变系统消息,GPT-4会更容易扮演其中规定的角色,比在对话中提出要求的重视程度更高,如规定GPT-4像苏格拉底一样说话,或者只用jsON格式回答问题。

所以,对于GPT系列来说,谁最可能载入人工智能史册?奥特曼倒不认为是GPT-4:

最会打太极的CEO

GPT-4论文中没有透露参数规模、训练数据集大小等更多细节,还被外界吐槽越来越不Open了。

在这次访谈中,面对主持人步步追问,奥特曼依旧守口如瓶。

GPT-4预训练数据集有多大?奥特曼只是很笼统的介绍了有公开数据集、有来自合作伙伴的内容(如github提供的代码)还有来自网络的内容。

活像ChatGPT也能写出来的那种赛博八股文,只有在谈到Reddit的时候透露了网络梗图在训练数据中占比不大,“不然ChatGPT可能更有趣一些”。

GPT-4模型参数量有多大?奥特曼只是说之前疯传的100万亿参数是谣言,然后又糊弄过去了。

不过奥特曼对于一种说法是持有肯定态度——“GPT-4是人类迄今所实现的最复杂的软件”。

但在主持人Lex突然抛出一些时下针对GPT-4的尖锐观点时,奥特曼的应对也堪称“AI般淡定”(狗头)。

例如,关于前段时间闹得沸沸扬扬的GPT-4越狱问题。

一名斯坦福教授仅仅用30分钟,就诱导GPT-4制定出了越狱计划,并全部展示了出来。

对此奥特曼表示,就javascript如同当年iPhone也面临被“黑”或者说越狱的问题(如当年免费的越狱版App Store)一样,这并非不能解决的事情。

奥特曼甚至坦承,他当年就把自己的第一台苹果手机越狱了——甚至当时觉得这是个很酷的事情。

但现在已经没有多少人去干苹果越狱的事情了,因为不越狱也足够好用了。

奥特曼表示,OpenAI的应对思路同样如此,即把功能做的足够强,他甚至表示,愿意在这方面给用户开更多权限,以便了解他们到底想要什么。

除此之外,Lex还提到了马斯克对于奥特曼的批评。

奥特曼虽然是当年被马斯克一手提拔的人才,但如今马斯克不仅退出了他们联手创办的OpenAI,还对OpenAI现状十分不满,经常在推特上阴阳怪气这家公司。

作为OpenAI现任CEO,奥特曼并未直接回应此事,而是调侃了一下马斯克在航天领域也经常被“老前辈”们批评的事情。

这一系列采访问答,不禁让人想到在ChatGPT发布后,奥特曼对于记者“将ChatGPT整合进微软必应和Office”问题的回应方式:

GPT的“偏见”不会消失

在主持人提到关于ChatGPT以及GPT-4种存在的偏见问题时,奥特曼这样回应道。

ChatGPT在推出之初,就不是一个成熟的产品,它需要不断迭代,而在迭代的过程中,仅仅依靠内部的力量是无法完成的。

“提前”推出ChatGPT技术,是要借助外部世界的集体智慧和能力,同时也能让全世界参与进“塑造AI”的过程中。

而不同人对于问题的看法也各不相同,所以在这个过程android中,“偏见”问题就不可避免。

甚至奥特曼在话里话外也透露着:在GPT中,“偏见”永远不会消失。

他将外部参与建设GPT比作“公开领域建设的权衡”。

GPT生成答案是个性化控制的结果,迭代的过程则是更精准地控制“个性化”的过程。

有趣的是,期间奥特曼还暗戳戳“背刺”起了马斯克的推特:

(嗯,奥特曼是懂一些话术的)

当然,谈到ChatGPT,总绕不开其背后的公司OpenAI,在成立之初,它就立下了两个Flag:

1、非营利性

2、通用人工智能(AGI)

如今,已经过去八年之久,这两个Flag也是发生了巨大的变化:AGI的大旗还在高举,而非营利性这面旗则已经摇摇欲坠。

对此,奥特曼也是分别作出了回应。

对于OpenAI“非营利性质”的逐渐削弱,奥特曼直言:很久之前,就已经意识到非营利性不是长久之计。

仅仅依靠非营利筹集到的资金对OpenAI的研究来说远远不够,商业化是必然选择。

但在之后奥特曼也试图“找补”回一些,称目前的商业化的程度仅止于满足投资者与员工的固定回报,剩余资金还是会流向非营利性组织。

提到AGI,一开始在OpenAI声称要做通用人工智能时,还有一堆人在嘲讽,如今做出GPT-4这样的产品,回过头来再看,嘲讽的声音已经越来越少了。

而面对外界询问“GPT-4是AGI吗”这样的问题时,奥特曼则是直接给出了自己理解中的AGI:

值得一提的是,谈到AGI时,是奥特曼在访谈中鲜有的“两眼放光”的时刻。

他抛出了一句极具“科研分子理想情怀”的金句:

但奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点:

One More Thing

在谈话最后,Lex Fridman还试图让奥特曼讲一些给年轻人们的建议,奥特曼直接来了个“反鸡汤文学”:

参考链接:

https://www.youtube.com/watch?v=L_Guz73e6fw

推荐DIY文章
观速讯丨Win10系统电脑开机提示no bootable device 给大家分享下具体解决方法
当前观点:虚拟机VMware Workstation Pro版本大全及官方下载 以及下载安装须知
win10家庭中文版升级专业版方法 可以通过密钥无损升级
怎么看自己显卡型号 两种查看电脑显卡型号的方法来了_热消息
msocache是什么文件夹可以删除吗 又该怎么进行删除-世界球精选
word如何从指定页设置页码 接下来随小编一起看看吧
精彩新闻

超前放送