华人AI专家访谈(一):人工"超智能"为什么令人担忧?

前言

人工智能(AI)是当今全球关注的热题,关心焦点是这人工的智能会对人类造成多大的影响。本报记者去年12月认识了现居德国的人工智能专家Moses Wong。他是香港人,现于德国开创了一家音响科技公司。他也是史丹福大学机器学习(Machine Learning)课程的导师。他是少数在福音上有热心、同时在AI相关领域有深刻了解的基督徒。

记者透过越洋视像通话,与Moses多方面深度探讨了包括AI的"超智能"是什么、AI与灵魂、科学界对AI是否有自我意识的存疑、AI智慧对人类威胁的担忧、国家层面如何应对AI可能对人类造成的风险等。当然二人亦不忘探讨基督教如何使用这让人又爱又惧的新玩意,用在神的国和福音上。

Moses
Moses Wong 基督日报—Sharon Chan


基督日报记者:多谢你今天花时间给我们分享。记得上次跟你聊天当你提到AI的时候,我听到你对它有更深的担心。作为一个AI方面的专家,你可能比我们一般人能理解的、比一般媒体所报道的有更深入的看见,所以今次想邀请你分享一下你对AI这个热题的关注有哪些方面。

Moses:

首先我针对我AI的背景作一下自我介绍。工作背景方面我先做过IT云计算、网络安全(Cyber Security),接著我就转去做AI。这几方面我在世界水平上都做得很尖端,包括我在斯坦福大学在全世界450万人中排名前十,这是一个方面领先的地方。

另外我自己亦在麻省理工学院(MIT)攻读AI,世界经济论坛(World Economic Forum)也曾经邀请我对全世界人工智能的发展给出一些专家的意见。当时是2019年,还是很早期全人类都没有意识到AI的问题时我已去发言。当时他问我的就是AI的系统风险(systemic risk),这个跟今天我们要讨论的话题非常吻合。

现在已有机械人或应用程式(apps)可以做人的事情,其实最大的风险在这里。另外一个风险就是近期更加热门的一个话题,就是再推上一层次——比今天的AI更高级的,叫AGI。我解释一下,这个术语叫"人工通用智能"(Artificial General Intelligence),另外一个相关的术语叫"人工超智能"(Artificial Super Intelligence)。最简单的例子就是OpenAI,它的使命宣言就是要创造AGI。

AGI的定义是什么呢?其实现在的说法基本上是这样,它说今天我们的AI,比如说GPT-4的智商大概可能是一百多,与一般比较聪明的人类相同。但问题是今天的AI低于人,在某些方面有一些很普通的是五岁小朋友都会的,但它们却不会。

今天的ChatGPT是这样的状态,而其实OpenAI等等这些研究院他们的目标是什么呢?是做出彻底高于人类智能的AI,这就是所谓的AGI。它不单止刚才提到的缺陷,比如说五岁小朋友都会的它都会了,而且它可以在世界各个学科的领域都达到了高水平,甚至乎达到顶尖科学家的水平。顶尖的科学家他们最突出的就是可以创造假设、即它具备创造力。如果AGI在科学上具备创造力,那么它可以成为一个顶尖的物理学家、一个顶尖的生物学家,甚至是一个顶尖的纳米技术科学家,去创造一些新的东西,写一些新的创新论文,甚至一些非常高深的论文。这样的话可以说其实它已经达到一个高于人类的水平,即是人类最顶尖的水平。

AGI



这就是所谓的AGI。那为什么这东西这么重要呢?因为当我们将这东西和目前的AI进行比较时,现有的AI在某些方面仍然低于我们,它的创造力不算强。虽然它可以画画、制作照片、写文章或作诗,但很多时候它的内容都是抄袭性的。然而AGI的能力在于它能够创新一些前所未有的东西,是人类未曾创造的,这就是AGI的特点。

AGI和当前的AI之间当然有一个很大的分别。如果我们将ChatGPT与人类配合,实际上它仍然是我们的工具,它扩充了我们的能力;但若达到AGI的层次,整个逻辑就会反转,它将会做我们最顶尖的人的工作,甚至超越我们,那会发生什么事情呢?首先,科学知识的爆炸,应用甚至新的发明的爆炸,这将是非常重要的。

第二点更加剧烈。我们今天的AI科学家在研究不同的算法、超级电脑等等去建造像ChatGPT或者DeepMind这样的东西,但到那时,AGI将会超越今天最顶尖的科学家,它将能够自己创造AI的生理,并不断提升智慧。这意味著它的智能可能已经不再是像爱因斯坦160那样,而是能够自我改善,学习得更快更好。为什么今天它比ChatGPT更厉害呢?因为它可以自动化学习,比ChatGPT更快,并使用一些人工的方法来进行强化学习。

如果这不是中美之间的对抗,而是AI自我的演化,那么我们就会看到这个AI不断从160提升到180、再到200、250、甚至400、500以上,并且可以在很短的时间内变成这样,我们称这个为ASI,即"人工超智能"(Artificial Super Intelligence)。我们想像一下,那个世界将会是怎样的? 这其中有利也有弊,但到时人类可能彻底落入它们的掌控之中。

(下篇预告:Moses将从"属灵维度"的角度深度谈AI)

  • 缅因州学校刻意隐瞒家长助13岁女孩

    缅因州学校刻意隐瞒家长助13岁女孩"性别转换"

    近日缅因州一位母亲起诉了女儿就读的学校,原因是学校刻意隐瞒她女儿性别焦虑的情况,并采取行动推动她进行性别认同的"社会过渡"。

  • 2025圣经公会报告:美国各世代都更多男性阅读《圣经》

    根据美国圣经公会(American Bible Society)发布的2025年《圣经现况》(State of the Bible)报告,美国阅读圣经的人数在经历多年下滑后,今年再次出现显著增长,与2024年相比,多了将近1,000万人投入读经。此外男性各每一个世代的圣经使用度都有明显提升。

  • LGBTQ合法将转化社会意识形态 英国律师促教会警醒

    基督徒关怀差会和基督教法律中心的创办人、英国律师安德利亚·威廉姆斯(Andrea Williams)向南韩基督徒分析了LGBT合法化对英国社会所带来意识形态的改变,并所造成的灾难性影响,警示基督徒警醒以待,不能掉以轻心。其言论值得关注。

  • 前女同志沃宁:灵肉割裂的理论如何伤害LGBT群体

    香港性文化学会特约研究员梁海欣近日发表的一篇文章,详细介绍了一位过去曾经是女同性恋者的伊莉莎白·沃宁(Elizabeth Woning)的观点。沃宁曾坚信"同性恋不是罪",后来明白同性恋理论残缺之处,从同性恋的意识形态走出来。

  • AI专家Moses Wong访谈(四):AI实用指南——教会篇

    生活在AI启蒙的时代,基督徒仍要努力将AI在神的国度上被使用。作为基督徒科研专才及AI专家,Moses Wong为教会提供"实用指南",教会如何运用AI、AI的可靠性以及使用时有何要注意的地方等。