笔下文学

手机浏览器扫描二维码访问

人工智能会故意隐藏自己吗

解读《革命》

吴甘沙

驭势科技（北京）有限公司联合创始人兼CEO

如果外星人真的来了，它们的唯一选择是不是像《三体》中智子那样锁住人类科技的发展？

通用人工智能出现了，它们会不会感受到人类科幻小说中对智能机器的猜忌和仇恨，从而启动人类灭绝计划？

关于后一个问题，《生命3.0》的引言给出了一个不一样的可能性，欧米茄团队开发出了通用人工智能“普罗米修斯”。“普罗米修斯”及其操纵者善于隐藏自己的能力和野心，从文化切入（制作大量动画片），进而在医疗、能源、制造业等方方面面改善了民生、提升了社会效率，并把赚来的钱投资于社区和公益事业，最终利用民主社会的机制掌握了舆论、攫取了权力。“欧米茄团队已经完成了地球生命历史上最具戏剧性的转变。有史以来第一次，我们的地球由一股单一的力量控制，这股力量又被一个智能体不断增强，这个智能体是如此的庞大，以至于它有能力让生命在地球上乃至在宇宙中生息繁盛亿万年”。

回到第一个问题，外星人会不会也像“普罗米修斯”那样通过积德行善来愚弄人类、让其失去选择的能力呢？《革命》这篇恰恰展示了这样一种可能。外星人的“良好用心”是怕人类开发出可能失控的人工智能，“放大人类的不成熟”，于是耍了个障眼法，让人类科学家贝丝误以为创造出了人工智能，或者说，通过模拟人类期待的人工智能的行为并通过测试，外星人控制的更高层的人工智能降维成为人类认为的人工智能，而这个假人工智能让人类远离了战争，在疾病、贫穷、不公、犯罪、环境污染等方面取得了脱胎换骨的进展。当人类发现这种“幸福感”是被操纵的时，该何去何从呢？清醒的贝丝是痛苦的，她必须找到一个外星人看不见的战场，为人类的自由而战斗。“只有人类，才是我们自己唯一的希望”。

什么是幸福？白送、但无从选择、必须接受的幸福是不是真的幸福？什么是自由？别人给你设计的自由是不是真的自由？当搜索引擎和推荐引擎决定了我们想要看、想要买的一切，让我们获得得来全不费工夫的快感时，我们何尝与《革命》中的人类有所区别？

外星人毕竟是小概率事件（解释费米悖论的一种可能性确实如《革命》所说，它们很好的隐藏了自己），而通用人工智能正在路上。如果机器最终会自我进化，它如何决定进化目标？它的rewardfunction（回报函数）是什么？跟人类的价值观是否一致？这是我们必须考虑的问题，只有一开始把“价值观”植入，在人工智能不那么漫长的进化路途中不断建立路径依赖，使其无法在后天的演化过程中颠覆或剥离该价值观，才能确保人工智能不会发展成为赐予人类自由的伪善者。

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。