手机 App 已上线
点我下载

AI会杀死人类…… 马斯克呼吁暂停AI训练

Thu Mar 30 2023 10:49:06 GMT-0700 (Pacific Daylight Time)

cover

据生命未来研究所官网,3 月 22 日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练,暂停时间至少为 6 个月。

该机构以 " 引导变革性技术造福生活,远离极端的大规模风险 " 为使命。

信中写道 " 只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。" 马斯克此前曾多次表达对人工智能的担忧,认为人工智能是未来人类文明最大的风险之一,威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

截至目前,马斯克、苹果联合创始人 Steve Wozniak、Stability AI 创始人 Emad Mostaque 等上千名科技大佬和 AI 专家已经签署公开信。

值得一提的是,OpenAI CEO 奥特曼在与 MIT 研究科学家 Lex Fridman 的最新对话中指出,AI 已经出现其无法解释的推理能力,同时承认 "AI 杀死人类 " 有一定可能性。

图片

图片来源:futureoflife.org

马斯克为什么反对人工智能?

深圳卫视直新闻报道,实际上,马斯克反的只是 OpenAI 和 GPT。

马斯克是生命未来研究所的最初发起人,并捐赠了 1000 万美元。

其实,马斯克也是 OpenAI 公司的联合创始人之一。但他在 2018 年离开了 OpenAI 的董事会,并撤销了一大笔赞助款。美国《财富》杂志当时报道称,离开的原因是因为马斯克虽然支持人工智能,但特斯拉智能驾驶技术与 OpenAI 之间有 " 潜在利益冲突 "。报道中的一句话引人浮想联翩—— " 随着特斯拉更专注于 AI 技术 "。还有报道称,马斯克在离开前提出过由他本人执掌 OpenAI 运营的建议,但遭到了拒绝。

这就不难理解,为什么离开 OpenAI 后,马斯克就一直在批评后者,甚至矛头直指击后者最大的支持者——微软和比尔 · 盖茨。

马斯克解决与 OpenAI" 潜在技术冲突 " 的方式也十分简单粗暴,那就是挖走它的人才。2022 年离职的特斯拉自动驾驶主管 Andrej Kapathy 就是其中之一。他堪称 AI 界的超级网红,也曾是 OpenAI 最优秀的人才之一

从马斯克和 Andrej Kapathy 的爱恨情仇不难看出,马斯克不是痛恨人工智能,而是痛恨自己没有掌握最高级的技术。

马斯克与 OpenAI 的重大分歧之一在于,OpenAI 宣称其目标是专注于人工智能安全和道德规范的开放式研究组织。

3 月 16 日,马斯克在推特上写道:" 我仍然很困惑,一个我捐赠了 1 亿美元的非营利组织是如何变成一个市值 300 亿美元的营利性组织的。如果这是合法的,为什么不是每个人都这么做呢?"

马斯克此前就曾发推批评 OpenAI,称 "OpenAI 最初是作为一家开源(这就是为什么我把它命名为‘ Open ’ AI)的非营利性公司而创建的,为了抗衡谷歌,但现在它已经成一家闭源的营利性公司,由微软有效控制……这完全不是我的本意。"

图片

怎么看待马斯克等人叫停练?ChatGPT 回答

今日,第一财经记者提问 ChatGPT 怎么看马斯克等人叫停对它的训练,ChatGPT 回答道:" 马斯克叫停 GPT 训练可能有多种原因,其中一个可能是担心模型被误用或滥用,尤其是在自然语言生成和信息操纵方面。GPT 模型能够生成自然语言文本,包括虚假或有害信息,这可能会对社会和个人造成危害。此外,GPT 模型也可能有隐私问题,因为它可以生成人类语言,可能会包含敏感信息。"

ChatGPT 认为,叫停 GPT 训练主要是出于对社会责任和技术发展的前瞻性方面的考虑。它还提到,GPT 模型可能存在一些局限性,或者不是解决某些问题的最佳方法,因此需要尝试寻找更好的替代方案。

OpenAI CEO:"AI 确实可能杀死人类 "

据澎湃新闻 3 月 28 日报道,OpenAI CEO 山姆 · 奥特曼称,并不否认过分强大的 AGI" 可能杀死人类 " 这一观点。必须承认,(AI 杀死人类)有一定可能性。很多关于 AI 安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。

值得注意的是,据财联社报道,近日,挪威机器人公司 1X Technologies 宣布完成 A2 轮融资,共筹集到 2350 万美元。OpenAI 旗下创业基金领投此轮融资,Tiger Global 以及一群挪威投资者也参与其中。

获得融资后,该公司创始人进一步表示,"1X 很高兴能得到 OpenAI 的领投,因为我们的使命是一致的:将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下,我们将继续在机器人领域取得重大进展,并增强全球劳动力市场。"

值得注意的是,人形机器人也是马斯克十分关注的方向。去年 9 月 30 日举办的特斯拉 AI 日上,马斯克展示了外界引颈期盼的人形机器人 Optimus,马斯克曾表示,机器人业务将比汽车更具价值。

彼时,马斯克在发布会上表示,目前的人形机器人没有 " 大脑 ",没有能在现实世界中导航的智能,而且非常昂贵且产量低。如今,OpenAI 与人形机器人的牵手则让人期待。

高盛:全球将有三亿人失业

据红星新闻报道,ChatGPT 迭代升级的脚步加快,很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在 3 月 27 日发布的研究报告中就直面了这一问题。

报告称:" 最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管 AI 的潜力存在很大的不确定性,但它可以生成与人类创造成果无法区分的内容,并能打破人机沟通障碍,反映出具有潜在巨大宏观经济影响的重大进步。AI 不仅节省劳动力成本,还能创造新的就业机会以及提高在岗工人的生产率。AI 的革命性就像早期通用技术(如发电机和个人计算机)一样能为社会带来繁荣。"

ChatGPT 等生成式人工智能系统的最新突破,料将给全球劳动力市场带来重大颠覆,全球预计将有 3 亿个工作岗位被生成式 AI 取代,律师和行政人员将是最有可能被裁员的岗位。

高盛研究发现,目前欧美约有三分之二的工作岗位都在某种程度上受到 AI 自动化趋势的影响,而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国 63% 的工作暴露在 "AI 影响范围 " 中,其中 7% 的工作有一半以上的流程可以由 AI 自动化完成,这使他们很容易马上被人工智能取代。在欧洲,情况也差不多。

据 21 财经,作为一种具备生产创造能力的智能形态,以 ChatGPT 为代表的 AI 近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力,也不断刷新着人们对于 AI 最终取代绝大部分人类工作的担忧。

更为关键的是,当前的 AIGC(人工智能生成内容)无需工资,亦不存在失业的概念,作为提供生产力的经济单位,其与宏观经济间的逻辑关系较人类发生了根本性改变,而这或许将给经济环境带来难以估量的影响。



分享到微信: 分享
【郑重声明】温哥华天空刊载此文不代表同意其说法或描述,仅为提供更多信息,也不构成任何投资或其他建议。 本网站有部分文章是由网友自由上传,对于此类文章本站仅提供交流平台,不为其版权负责; 部分内容经社区和论坛转载,原作者未知,如果您发现本网站上有侵犯您的知识产权的文章,请及时与我们联络,我们会及时删除或更新作者。谢谢!

我要评论: