前言
人工智能(AI)是当今全球关注的热题，关心焦点是这人工的智能会对人类造成多大的影响。本报记者去年12月认识了现居德国的人工智能专家Moses Wong。他是香港人，现于德国开创了一家音响科技公司。他也是史丹福大学机器学习(Machine Learning)课程的导师。他是少数在福音上有热心、同时在AI相关领域有深刻了解的基督徒。
记者透过越洋视像通话，与Moses多方面深度探讨了包括AI的"超智能"是什么、AI与灵魂、科学界对AI是否有自我意识的存疑、AI智慧对人类威胁的担忧、国家层面如何应对AI可能对人类造成的风险等。当然二人亦不忘探讨基督教如何使用这让人又爱又惧的新玩意，用在神的国和福音上。
基督日报记者：多谢你今天花时间给我们分享。记得上次跟你聊天当你提到AI的时候，我听到你对它有更深的担心。作为一个AI方面的专家，你可能比我们一般人能理解的、比一般媒体所报道的有更深入的看见，所以今次想邀请你分享一下你对AI这个热题的关注有哪些方面。
Moses：
首先我针对我AI的背景作一下自我介绍。工作背景方面我先做过IT云计算、网络安全(Cyber Security)，接著我就转去做AI。这几方面我在世界水平上都做得很尖端，包括我在斯坦福大学在全世界450万人中排名前十，这是一个方面领先的地方。
另外我自己亦在麻省理工学院(MIT)攻读AI，世界经济论坛(World Economic Forum)也曾经邀请我对全世界人工智能的发展给出一些专家的意见。当时是2019年，还是很早期全人类都没有意识到AI的问题时我已去发言。当时他问我的就是AI的系统风险(systemic risk)，这个跟今天我们要讨论的话题非常吻合。
现在已有机械人或应用程式（apps）可以做人的事情，其实最大的风险在这里。另外一个风险就是近期更加热门的一个话题，就是再推上一层次——比今天的AI更高级的，叫AGI。我解释一下，这个术语叫"人工通用智能"（Artificial General Intelligence），另外一个相关的术语叫"人工超智能"（Artificial Super Intelligence）。最简单的例子就是OpenAI，它的使命宣言就是要创造AGI。
AGI的定义是什么呢？其实现在的说法基本上是这样，它说今天我们的AI，比如说GPT-4的智商大概可能是一百多，与一般比较聪明的人类相同。但问题是今天的AI低于人，在某些方面有一些很普通的是五岁小朋友都会的，但它们却不会。
今天的ChatGPT是这样的状态，而其实OpenAI等等这些研究院他们的目标是什么呢？是做出彻底高于人类智能的AI，这就是所谓的AGI。它不单止刚才提到的缺陷，比如说五岁小朋友都会的它都会了，而且它可以在世界各个学科的领域都达到了高水平，甚至乎达到顶尖科学家的水平。顶尖的科学家他们最突出的就是可以创造假设、即它具备创造力。如果AGI在科学上具备创造力，那么它可以成为一个顶尖的物理学家、一个顶尖的生物学家，甚至是一个顶尖的纳米技术科学家，去创造一些新的东西，写一些新的创新论文，甚至一些非常高深的论文。这样的话可以说其实它已经达到一个高于人类的水平，即是人类最顶尖的水平。
这就是所谓的AGI。那为什么这东西这么重要呢？因为当我们将这东西和目前的AI进行比较时，现有的AI在某些方面仍然低于我们，它的创造力不算强。虽然它可以画画、制作照片、写文章或作诗，但很多时候它的内容都是抄袭性的。然而AGI的能力在于它能够创新一些前所未有的东西，是人类未曾创造的，这就是AGI的特点。
AGI和当前的AI之间当然有一个很大的分别。如果我们将ChatGPT与人类配合，实际上它仍然是我们的工具，它扩充了我们的能力；但若达到AGI的层次，整个逻辑就会反转，它将会做我们最顶尖的人的工作，甚至超越我们，那会发生什么事情呢？首先，科学知识的爆炸，应用甚至新的发明的爆炸，这将是非常重要的。
第二点更加剧烈。我们今天的AI科学家在研究不同的算法、超级电脑等等去建造像ChatGPT或者DeepMind这样的东西，但到那时，AGI将会超越今天最顶尖的科学家，它将能够自己创造AI的生理，并不断提升智慧。这意味著它的智能可能已经不再是像爱因斯坦160那样，而是能够自我改善，学习得更快更好。为什么今天它比ChatGPT更厉害呢？因为它可以自动化学习，比ChatGPT更快，并使用一些人工的方法来进行强化学习。
如果这不是中美之间的对抗，而是AI自我的演化，那么我们就会看到这个AI不断从160提升到180、再到200、250、甚至400、500以上，并且可以在很短的时间内变成这样，我们称这个为ASI，即"人工超智能"（Artificial Super Intelligence）。我们想像一下，那个世界将会是怎样的? 这其中有利也有弊，但到时人类可能彻底落入它们的掌控之中。
(下篇预告：Moses将从"属灵维度"的角度深度谈AI)
