马斯克和扎克伯格的人工智能论战

这几天特斯拉和太空探索技术公司创始人埃隆•马斯克和脸书的马克•扎克伯格，为了人工智能的规范又掐上了，人工智能行内行外的不少人也卷入论战。

这已经不是两人第一次吵嘴，但是他们两人所谈的“人工智能”的范畴定义相同吗?畅销书《机器人的崛起》作者马丁•福特对这场论战有何看法?我也访问了马斯克联合创立的非盈利组织OpenAI的首席人工智能安全科学家达里奥•阿莫代，看看OpenAI如何以实际行动抵御“黑科技”?

马斯克在7月15日美国州长夏令会议中做了一个主旨对谈，他对人工智能再度提出警告，认为AI 将能够递归性地改进自己，也就是应用程序自我调整，直到它将报废人类：“我一直在敲警钟，但是直到人们看到机器人走下街头，他们不知道如何反应，因为这似乎是如此飘渺。”

马斯克认为如果没有适当的监管，人工智能将会变成一个毁灭性的人类历史终结者!

上周末，扎克伯格在他家的后院一边烤肉，一边在脸书上与四百万粉丝直播互动了一个半小时，在回答网友提问时损了马斯克的观点：“我认为那些老爱唱反调的人，试图鼓捣这些末日的情景，只是我搞不懂，这是非常负面的，在某些方面其实我认为这是非常不负责任。” 

马斯克也不甘示弱，隔天透过推特反击：“我已经跟马克谈过了，他对这个话题的理解非常有限。”

论战场景化

这个“五十步笑百步”和“其实你不懂”的拌嘴辞令，正是关于人工智能的论战特色。而两个大亨发言的场景，也形成一个戏剧化的对比：

马斯克在美国州长聚集的政治场景拉警报，企图在政治领导人中唤醒人工智能对人类文明的“存在威胁” 。

而扎克伯格的脸书发言，向来是精雕细琢的“场景化营销”，用来塑造他的形象，因此在他家的后院烤肉绝非偶然，这个布景象征了人工智能所眺望的未来，是田园式的风光，而不是世界末日的恐怖。

马斯克和扎克伯格公开互撕对AI的歧见，已经不止一次了。这也反映了他们的商业活动不同的取向。

人工智能已经形成脸书业务的重要成分，脸书在2013年起设立人工智能研究部门，定期在官网发布研究成果。之前许多媒体报道脸书停摆了两个“反叛”既定英语设置、而用自己发明的语言沟通不止的聊天机器人，但是后来行业知情人士澄清，脸书实验室训练机器人学习如何有效沟通和谈判，当聊天机器人开始以类似摩尔斯电码的密码喋喋不休时，实验室并没有扼杀这个项目，而是修复一个软件的错误，以使机器人以更像人的方式说话，让研究人员可以破译自己研究的结果。使用密码交谈并不代表聊天机器人有任何知觉，这样的情况一点都不值得大惊小怪。

而扎克伯格本身也在研究技术开发自己的家庭自动化系统，AI甚至是扎克伯格的“年度挑战”，他在2021年1月3日脸书发文：“我2021年的个人挑战是，建立一个简单的AI来运行我的家，帮助我工作。你可以把它想成《钢铁侠》里的AI管家贾维斯那样。” 但是当扎克伯格炫耀他的家庭人工智能装备时，招来了不少网友轻蔑。

当时马斯克对于扎克伯格的家庭装备的反应?“让你的家庭功能自动化，这不叫AI。打开灯，设定温度，真的不算AI。”

马斯克所谈的人工智能的危险，是挑战人类智能水平的“通用人工智能” ，可以发展出摧毁性的邪恶智能，即使研发者有很好的意图，但仍然“偶然地产生一些邪恶的东西”， 包括可能“能够摧毁人类的人造智能增强型机器人”。

马斯克认为根据他接触到最先进的人工智能技术，“任何事情机器人都会比我们做得更好，” 但他担心的不仅仅是就业市场：“人工智能是人类文明的根本存在风险，我不认为人们完全理解。”

比方说机器人可以通过做假的消息，欺骗电子邮件帐号和假的新闻稿来发动战争。尽管监管 “不好玩”和“令人讨厌”，马斯克认为“当我们被动地对人工智能制定法规时就太迟了。”

而扎克伯格曾经称马斯克的末世警钟为“歇斯底里”。

扎克伯格和马斯克之间还有其他戏剧化的过节。去年，马可斯拥有的SpaceX的火箭发射时在佛罗里达州爆炸，摧毁了脸书全球连通性计划所使用的卫星。

扎克伯格和马斯克显然都自负于对最前沿的人工智能技术的掌握。有论者以为这场论战缺乏对“智能”的明确定义。在没有明晰的“人类智能”的轮廓下，更遑论对“人工智能”的定义。

对我而言，这场论战也涉及了“人”与“机”之间的分野，虚拟世界与现实世界的边界。

马斯克显然不同意机器只是与创建它们的人一样好或一样坏，硅谷很多人认为他的末世论听起来像是电影里的陈腔滥调。今年三月《名利场杂志》专文讨论，许多硅谷人认为马斯克只不过是挑逗一个根深蒂固的矛盾：人与机器之间的冲突，目的并不是为了拯救世界，而是抛光打磨自己的品牌。

加入这场你来我往的论战，包括麻省理工学院计算机科学与人工智能实验室的创始主任罗德尼•布鲁克斯，他在接受《科技关头》采访时表示，人类在任务中的技能与计算机在某项任务中的技能有很大差异，这在很大程度上源于其潜在的“能力”，电脑缺乏这种人类的流动智慧。布鲁克斯认为马斯克的错误来自把人工智能的拟人化，从而高估了其危险。

马斯克接受《名利场杂志》的访问时表示，“我们已经是半机器人：你的手机和你的电脑是你的延伸，但界面是通过手指移动或言语，这是非常缓慢的。但是如果在头颅里放一个‘神经织网’，你可以用无线的方式，将数据从大脑投射到数字设备、或是几乎无限的计算云端。”

马斯克认为再过四、五年，人类应该可以发明相当程度的部分机脑界面。今年三月间《华尔街日报》报道马斯克成立了名为Neuralink的新公司，主要是研发神经织网技术，通过植入人类大脑的电极，可以让人们与机器直接交流，除了可以把想法传达给电脑，还可以从互联网上下载想法。借着这种“人机结合”的技术，可以辅助医疗，以及提高人类的认知功能水平。

但是这个“人机合体”，听起来是不是越来越像那个马斯克警告我们要防备的世界?

与马斯克有特殊交情的《等等，但为什么》博客作家提姆•尔班如此诠释马斯克的想法：如果人类可以用AI来思考，让AI作为我们大脑中的第三层，在那里为我们建立AI。这样一来，人类兼具人的智慧和人工智能，两者都变成我们，所以我们在某种程度上成为AI 。

尽管这会赋予我们更多能力，听起来似乎令人毛骨悚然，但是马斯克认为如果我们所有人都是AI，那么没有任何人可以垄断控制世界上所有的AI。透过彼此竞争和制衡，将会奇妙地使这个人机结合的世界更安全。

我问畅销书《机器人的崛起》作者马丁•福特对这场论战的看法，他说：“我不认为马斯克的担忧可笑，但我认为我们离通用人工智能的未来还很远，可能至少还要30-50年。在这一点上，我不会主张广泛监管人工智能，因为人工智能将带来巨大的收益。”

福特认为在某些方面可能会有更多的规范，例如影响隐私或军事安全的应用。但无论如何，这场辩论错失了福特在《机器人的崛起》关注的问题：AI对就业市场的影响。

对福特而言，自动化造成的广泛的就业岗位损失不需要涉及马斯克担心的高级AI。更专业的应用(例如马斯克热衷的无人车)将足以潜在地消除数百万个工作。这对社会和经济都会产生巨大的影响，

“我认为这可能是短期内未来十年或二十年中最重要的破坏。我认为我们应该更多地关注这个问题，这不是倡导规范或限制AI，而是找到适应这个问题的方法，比如提供全民基础收入。”

我个人认为人工智能的法规可能注定要与当代科技的演变脱节，因为人工智能的发展涉及众多的相关领域，从大数据、云计算、深度学习、神经网络、心理学、机器人、语言识别、图像识别、到自然语言处理等等，当众多领域都同时经历爆发式的突破，在某种程度上将加速科技研究的裂变和变数。

况且，人工智能各领域的专家对这个议题尚且莫衷一是(比尔•盖茨和史蒂芬•霍金也站在马斯克这边)，如何指望政治体系追赶研发的速度?目前马斯克也未提出适当监管的框架建议，并且如果某个体制加强监管，却没有国际上的共识和协定，也可能导致技术和资金往监管较少的政权靠拢。

OpenAI 防御“黑科技”?

马斯克和一些硅谷达人，包括PayPal创始人彼得•蒂尔，在2015年承诺投入10亿美金创立OpenAI (开放式人工智能)非盈利平台。透过60名全职研究人员和工程师，OpenAI的使命是：“建立安全的通用人工智能(AGI)，并确保AGI优势尽可能广泛和均匀地分布……在这个过程中，OpenAI不会将私人信息私有化，但从长远来看，期望在有安全隐患的情况下，创造出保持技术私有化的正式流程。”

OpenAI到底如何透过实践，帮助解决人工智能可能造成的人类“存在危机”?我问OpenAI的首席人工智能安全科学家达里奥•阿莫代，为何为了解决AI的风险，有必要加入开发AI技术的行业，走在AI开发的前沿?

“我们发现，从今天AI稀松平常的风险开始着手更为容易，比如防止意外事件，或教授简单的机器学习系统来遵循我们的参数选择。如果我们能够处理这些风险，并且了解如何随着人工智能系统逐渐增强而发展，那么我们将能更好地应对未来系统所带来的风险。”

马斯克曾经就AI的安全性，与谷歌的联合创始人拉里•佩奇辩论过，但是两人已经“和解”。OpenAI目前和被谷歌收购的DeepMind合作，开发基于人类参数选择来训练人工智能的新方法。同时OpenAI还开发和发布了OpenAI Gym (开放式人工智能健身房)软件，用来帮助研究人员训练AI系统。这有助于制定某些AI研究领域的标准，增加研究的可复制性，从而扩大AI的科学家群体。

那么，OpenAI的研究有助于预防“邪恶机器人”吗?

“邪恶机器人不是我们担心的事情。但是我们认为值得关注由于糟糕的设计，而使人工智能做出设计者并未构想的行为。”

马斯克对扎克伯格的反驳，似乎让人看到了尽在咫尺的危机，因此我很好奇在阿莫代看来，人类距离创造“通用人工智能”，和“超级智能”的奇点还有多远?阿莫代没有对马斯克和扎克伯格的论战直接评论，但是他说：

“我们倾向于认为AGI是一个长期目标，旨在激励我们，并引导我们的努力，就像治愈癌症一样。我们不期望它会在近期实现，我们更有兴趣的是推动普通AI系统可以做的界限。一个更好的发问方式可能是：在未来几年我们可以期待什么激动人心的应用程序?在这里，我认为机器人技术的进步将会很快。我们将看到机器人操纵和处理目前只有人类可以移动的物体，这显然会产生巨大的工业影响。”

两百年前，玛丽•雪莱写了科幻小说的始祖《弗兰肯斯坦》(或译成《科学怪人》)：年轻科学家弗兰肯斯坦创造了一个拥有生命和意志，但转向人类报复的怪物。弗兰肯斯坦为了毁掉自己的作品，追踪怪物一直到北极，受尽折磨后病逝。

我相信，只要我们对人工智能的潜力还保持着相当的未知，代表马斯克和扎克伯格观点的论战也必将继续，正如弗兰肯斯坦所说：

“没有什么比一个巨大而突然的变化，更让人类的心灵痛苦。”

来源：FT中文网