人工智能:要不要限制AI?我们把与GPT-4有关的观点收集全了_人工智能就业真实情况

《三体》中的降临派、拯救派和幸存派分别代表着不同的观念和立场。借用这三个概念,我们可以将对 AI 看法的人划分为 AI 降临派、AI 拯救派和 AI 幸存派。

AI 降临派:

这一派的人认为 AI 的发展将为人类带来巨大的好处,甚至取代人类成为地球的主导力量。他们相信 AI 可以解决人类的许多问题,如气候变化、资源分配、疾病治疗等。AI 降临派的人通常对 AI 技术非常热衷,支持无限制地发展和应用 AI 技术,期待 AI 在未来改变世界。

AI 拯救派:

这一派的人认为 AI 是人类发展的关键,但需要在一定范围内受到监管和引导。他们认为,通过合理的政策制定和伦理道德约束,可以确保 AI 技术的安全和可持续发展。拯救派关注 AI 对社会和个人产生的影响,期望在维护人类利益的同时,让 AI 成为人类的得力助手。

AI 幸存派:

这一派的人对 AI 技术持怀疑甚至担忧的态度。他们认为 AI 技术的发展将可能导致一系列问题,如失业、隐私侵犯、安全威胁等。幸存派的人认为,人类应该小心应对 AI 技术的发展,寻求与 AI 和谐共生的方法。他们强调 AI 的潜在风险,提倡谨慎和审慎的态度来平衡 AI 技术的利弊。

这三派的划分并没有严格按照《三体》原著的定义(原著中降临派要毁灭全人类,拯救派想要拯救三体人,幸存派要出卖人类利益为后代谋求苟活的空间),而是以人们对 AI 的接受程度以及欲施加的监管力度进行划分。

金色午报 | 5月13日午间重要动态一览:7:00-12:00关键词:雄安、TON、柬埔寨、路边矿池

1. 雄安新区运用区块链等技术的数字孪生城市获两项国际标准立项;

2. TON Labs首席技术官:将继续开发TON以及分发代币;

3. 业内人士:路边矿池可能由多个大矿工共同组建;

4. 柬埔寨国家银行总干事:央行DLT付款平台将于年底启用;

5. 上市矿企Riot Blockchain累计赤字超过2.21亿美元;

6. NYDIG已出售近1.4亿美元的比特币基金;

7. 发改委主任何立峰:大力支持区块链等技术创新和产业应用;

8. 原保监会副主席周延礼:区块链技术的应用对保险业具有重要意义;

9. 分析:比特币的网络增长现已达到自2017年以来最高值。[2020/5/13]

降临派(欢迎 AI 降临)接受程度最高,拯救派(用 AI 造福人类)次之,幸存派(在 AI 时代幸存)最保守,以便于我们理解立场。

让我们看看在这一周内,三派有哪些观点碰撞。

降临派

吴恩达:暂停 AI 开发不可行

本周,一封上千人签署的公开信火遍了全网,一家名为未来生命研究所(Future of Life Institute)的机构呼吁全球应该至少暂停六个月开发比 GPT-4 更强大的模型,以让有关的监管手段能够跟上。

人们在该信上看到了许多知名人士的签名,包括图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等人。

金色相对论 | 币信熊越:去中心化并不是平均主义:在本期金色相对论之“闪电网络:Hello,TPS”上,金色财经合伙人佟扬对话币信CMO熊越,针对如果闪电网络最终出现巨无霸节点,这样的中心化可能会对比特币的生态系统造成什么影响?的问题,熊越表示:市场里一定还会有其他处于弱势的竞争者,而且,用户是一直拥有选择权的。这个情况其实和矿池竞争的情况类似,当然会有大一点的矿池出现,但几年下来,我们会看到,大矿池的占比会下降,也一直有新矿池出现。所以,我不认为会出现巨无霸节点。此外,熊越还指出,去中心化(decentralization)并不是平均主义。[2019/3/7]

该信爆火后,人们发现部分知名人士的签名实际上是网友冒签的,所谓千人签名的真实性存疑。

不管怎么说,这封公开信还是激起了人们关于是否要封禁 AI 研究的讨论。

著名计算机科学家、Google Brain 的联合创始人吴恩达在社交媒体上发表了他对这封信的看法。

他认为,让有关部门暂停他们尚未了解的新兴技术,往好了说是反竞争,往坏了说是开了一个糟糕的先例。

以下是他的观点原文:

要求在 6 个月禁止开展比 GPT-4 更进一步的研究是一个可怕的想法。我看到许多新的应用在教育,医疗保健,食品……这将帮助许多人。继续改进 GPT-4 会对这些领域有所帮助。我们要权衡 AI 创造的巨大价值和现实的风险。

金色相对论 | 江卓尔:CSW造势 迫使交易所免费上线BSV:在本期金色相对论之“矿业危·机”中,针对金色财经内容合伙人佟扬“BCH分叉事件会如何发展?涉及分叉的双方如何获得矿工的支持以赢得最终的胜利?”的提问,莱比特矿池BTC.TOP创始人,比特币布道者江卓尔表示:“目前来看,CSW的本意只分叉出BSV,之前声称要攻击杀死ABC链,原因是

1.大部分信徒反对分裂BCH,因此CSW一直谎称 “只有分叉(fork),没有分裂(split)”;

2.如果直接宣布分叉BSV,影响小,会被大部分人认为是糖果,各交易所还不一定上线。现在搞出这么大阵仗,通过攻击BCH,声称要杀死ABC链的方式,把自己打造成一个 “争议分裂币” 而不是 “糖果分叉币”,这将迫使上了BCH的交易所必须免费上BSV币,这不知道节省了多少的上币费。

CSW一直都被认为可能是中本聪团队的一员,并可能有100万中本聪币。但从目前来看,CSW拥有中本聪币,和创世区块的可能性已经非常小。即使最后CSW真的有100万中本聪币,他的影响也将非常有限,因为此人在社区的信誉已经破产。所以在分叉中,我还是支持“BCH”。[2018/11/19]

除非有关部门介入,否则没有切实可行的方法来实施暂停并阻止所有团队扩大 LLM(大语言模型)。让有关部门暂停他们不了解的新兴技术是反竞争的,树立了一个可怕的先例,是糟糕的创新政策。

负责任的人工智能很重要,而且人工智能有风险。目前主流的媒体报道称,人工智能公司正在疯狂地发送不安全的代码,这种说法是不正确的。绝大多数人工智能团队(遗憾的是,并非所有人工智能团队)都认真对待人工智能和安全问题。

Sensorium:DWF Labs已承诺购买250万美元SENSO代币:4月6日消息,由AI驱动的元宇宙项目Sensorium官方宣布已与DWF Labs达成投资协议,根据协议要求,DWF Labs已承诺购买250万美元的Sensorium原生代币SENSO。[2023/4/7 13:49:11]

暂停 6 个月不是一个切实可行的建议。为了提高人工智能的安全性,有关透明度和审计的规定应该变得更加切实可行,产生更大的影响。让我们在推进技术进步的同时,在安全方面作更多的投资,而不是扼杀进步。

Jim Fan:我们应该欣赏 GPT-4

针对大语言模型的安全性,英伟达 AI 科学家 Jim Fan 提出了一个有意思的观点。

他认为按照 AI 的行为规范,那么大部份人类也是「不安全」的,许多大语言模型在安全性和公正性上已经表现地很好,我们不应该一味地批评它们。

按照 GPT 的「伦理与安全」指导方针,我们大多数人也表现得不理性、有偏见、不科学、不可靠,总的来说——「不安全」。事实上,我们对人工智能的要求更高。这是件好事,我完全支持做更多。但有些事不吐不快。

我指出这一点的原因是为了让大家了解安全校准工作对于整个研究团体来说是多么困难。大多数的训练数据本身就是有偏见的、有的、不安全的等等。实际上,创造一个安全的人工智能助手是违反人类数据分布的。

金色财经现场报道 胡磊:区块链技术推动数据营销行业健康发展:在IBM & Avazu区块链技术赋能与场景应用沙龙上,IBM沃森与云平台事业部、云计算区块链解决方案专家胡磊发表题为《全球广告和游戏行业的区块链业态》主题演讲,他指出,当前互联网广告面临着虚假流量和数据、广告效果可信评估、数据协作的安全和可信方面的挑战。区块链作为制造信任的机器,为企业带来了节约时间、消除成本、降低风险、提高信任等价值,行业在不断尝试利用区块链的技术推动数据营销行业向更加健康的方向发展。[2018/6/6]

从某种意义上说,许多生产型 LLM(Claude,Cohere,GPT)在安全性和公正性方面都是「超人」,尽管它们并不完美。对我们来说,下意识地批评失败案例比欣赏挑战(和成就)更加容易。

拯救派

Sam Altman:确保 AGI 惠及全人类

生命研究所的公开信将 OpenAI 拉入了舆论的风暴之中,OpenAI 的 CEO Sam Altman 在 Twitter 上却表示他依然很平静,并提出了建立 AGI(通用人工智能)的三个要点。

我们需要为了 AGI 美好的未来而付出的努力

1、调整超级智能的技术能力

2、充分协调大多数主要 AGI 的工作

3、有效的全球监管框架,包括民主治理

此前,Sam Altman 在 Lex Fridman 的采访播客曾表示自己会对 OpenAI 的技术感到害怕,他表示:

当人们认为这是一个巨大的飞跃时,我会说,我有点害怕,我觉得这很奇怪。

我认为一点都不害怕的话才是疯狂的,我同情那些非常害怕的人。

Sam Altman 更关心的是「虚假信息问题或经济冲击」,而不是如何用算法制造「超级智能」。他认为有些公司并不会像 OpenAI 一样设置如此严格的安全栅栏,并担心因此导致 AI 失控造成不良的社会影响。

马云:ChatGPT 只是 AI 时代的开始

马云回国后来到云谷学校,聊到了 ChatGPT 对教育领域的影响。马云表示,ChatGPT 这一类技术已经对教育带来挑战,但是 ChatGPT 这一类技术只是 AI 时代的开始。

我们要用人工智能去解决问题,而不是被人工智能所控制,虽然人的体力、脑力比不过机器,但机器只有「芯」,而人有「心」。工业时代是知识驱动,知识的竞争;数字时代,是智慧驱动,是创造力和想象力的竞争,是领导力、担当力、责任的竞争,是独立思考的竞争。

幸存派

Gary Marcus:什么都不做是不对的

纽约大学心理学和神经科学的荣誉退休教授 Gary Marcus(他同时还是 AI 畅销书《Rebooting.AI》的作者)一直对 LLM 保持批评的态度。

当生命研究所的公开信发布后,Gary Marcus 可以说是该观点最坚定的支持者。

面对该公开信受到的质疑,Gary Marcus 做出了一段很长的回应,以下是他的观点原文:

很多针对 6 个月禁止培训超大型 #LLM 的攻击都没有抓住要点。

这么多的利害关系,这里有一个 Twitter # long gread 整理出什么才是真正重要的:

很多对这封信的攻击都集中在赞助人身上,而不是署名人。大多数签名的人(如我,约书亚 · 本吉奥等)与 FLI 没有任何关系。评判这封信应该看它写了什么,而不是谁写的。这里真正的新闻不是埃隆 · 马斯克签署了协议,而是这么多不是天生盟友的人(比如本吉奥和我,因 2019 年的激烈辩论而闻名)出于共同关心而走到了一起。

提出一个不同的选择并没有错,而大多数批评这封信的人也没给出一个恰当的解决办法。

什么都不做是不好的。几乎所有人,甚至包括 OpenAI 在内,都承认其存在严重的风险,但迄今为止,有关部门或行业都没有采取什么切实措施来减轻这些风险。

并不是所有签署了这封信的人都主要关心长期风险; 我们中的许多签署了这封信的人至少同样担心短期风险。

这封信并没有呼吁禁止人工智能。没有要求永久禁止。它没有呼吁禁止 GPT-4。它没有呼吁禁止绝大多数人工智能研究,只是在一个非常具体的项目上短暂停顿了一下,该项目的技术已经「知道」存在风险,却没有已知的解决方案。实际上需要更多的研究。有人看过那封信吗?

我个人没有改变;我仍然认为 LLM 是不可靠的,仍然认为它们表达事实的能力非常糟糕。我不认为它们接近 AGI。但这并不意味着他们没有撕裂我们社会结构的潜力ーー特别是考虑到当前的混合情况:难以置信的广泛和快速部署、企业不负责任、缺乏监管以及一直存在的不可靠性。

Eliezer Yudkowsky:暂停还不够,我们应该把 AI 永远关闭!

Eliezer Yudkowsky 是著名的人工智能科学家和作家,同时也是机器智能研究所(MIRI)的联合创始人,MIRI 致力于确保超人工智能对人类具有友善的价值观。

未来生命研究所的公开信爆火之后,Eliezer Yudkowsky 在《时代(Time)》上发表了一篇名为《Pausing AI Developments Isn't Enough. We Need to Shut it All Down》文章。

在开头提到他并没有在上面签名,因为这封信低估了形势的严重性,提出的要求太少,无法解决问题。

文中提到了当人工智能变得比人类更聪明之后可能造成的危害,Eliezer Yudkowsky 提出了一个相当消极的观点:

我们还没准备好。我们没有在任何合理的时间内做好准备。没有计划。人工智能能力的进步是巨大的,远远领先于人工智能排列的进步,甚至领先于理解这些系统内部到底发生了什么的进步。如果我们真的这么做(放任其发展),我们都会死的。

Eliezer Yudkowsky 在前不久接受 Lex Fridman 的采访时再次警告,人类没有第二次校准人工智能的机会,如果人类失败,人类就将灭亡。

爱范儿

个人专栏

阅读更多

金色财经 善欧巴

金色早8点

白话区块链

欧科云链

Odaily星球日报

Arcane Labs

MarsBit

深潮TechFlow

BTCStudy

链得得

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

大币网

PEPEWEB3:AI为电商带来了什么?_GPT

AI 的快速发展,给电商行业带来了更多的可能,通过对AI技术的运用,电商行业在模特图片制作,文案内容产出以及短视频制作等方面都有所突破,并且在此过程中,电商平台能够更好地实现降本增效.

[0:15ms0-6:315ms