和我一起成长进化
Think big Think different
我常常好奇，人工智能的未来将会是怎样的图景？人类将与机器人如何相处？世界的规则是否会被打破重建？
对于这些问题，显然有人比我更好奇。他甚至专门写了本书——《生命3.0》，来探寻人工智能时代人类的未来。这位作者是宇宙学家、麻省理工学院教授、生命未来研究所的创始人之一，名叫迈克斯·泰格马克。
几个月前，我曾经读过《生命3.0》，还就此写下一篇随笔《胎生、卵生和进化——关于生命进化的思考》。今天下午，迈克斯·泰格马克来到猎豹移动全球总部做客。我带他品尝了机械臂制作的咖啡，然后聊了聊AI的安全和未来。以下是对话内容：
1
中国在AI应用上领先美国 开创性上仍待努力
中国在AI领域上面的优势在哪里？
中美两国在AI领域上面的差异到底有哪些？
大众对于AI的接受程度？
在教育、企业当中，对于AI的热情是否有区别？
迈克斯·泰格马克：
中国在AI Tools上领先西方
其实无论是在中国还是在美国，大家对AI都是非常狂热的，我认为中国在AI上有很多方面（比如AI Tools）都已经领先了西方，比如说中国的支付系统现在都非常发达。
在中国现在大家都用移动支付，中国在科技方面虽然起步的晚，但是发展得很快。 就像美国的科技虽然比欧洲起步的晚，但是我们现在也发展得很快。
我觉得中国现在在很多方面的能量都比西方更加有冲劲、有雄心。
中国现在有近14亿消费者，有一个非常统一的市场，我们还有大数据，中国的企业现在也发展得很好，我觉得中国在AI的很多方面都在领先世界。
傅盛：
中国在应用上领先，美国探索注重底层规律
非常感谢教授对中国科技的推崇，但是我作为一个土生土长的中国的创业者，我认为在AI这个领域，中国在应用上的确是在领先的，但是在底层AI规律的探索上，今天美国还是有一大批的科学家和思想家，他们做出的开创性的贡献和思考是我们今天还不能比的。
我们能够迅速的把一种已经被证明的技术，用更大的规模、更好效率的去应用，但在开脑洞、开创性的思维逻辑上，其实我们还是有非常大的不足。
2
《生命3.0》这本书中最感兴趣的点
“我也很好奇，
我的《生命3.0》里面，
哪一部分是您最感兴趣的呢？“
傅盛：
我们对这个世界的认识，不以我们的意志为转移
这本书其实我读了一半的时候，就觉得这本书太烧脑了。
人类为什么不能够从胎生变成卵生？其实我们仔细想想生命的进化是一个非常有意思的事情，哺乳动物胎生是为了逃避当年恐龙的一种巨大的竞争者对我们的压迫，你生的蛋都被吃光了就没了，所以带着蛋走，就变成了胎生。
但是，今天其实你看看，胎生已经成为了一个巨大的社会问题，对于女性来说，对于家庭的和谐来说，都是巨大的问题。如果今天人能够生一堆蛋在哪儿，然后再去领孩子，我相信这个社会会更加的和谐。其实我得说，这是教授的书给我带来的灵感。
因为，我们在考虑生命的时候，我们更多的是以人类的“自我”出发的，因为我们觉得我们是最有灵性的生命，所以我们认为所有的东西都围绕着我们，但是看了这本书以后，关于生命的终极思考，我们是很少用上帝视角去思考生命是如何进化的，它为什么进化到今天？它以后会是什么样的形式？
我们对这个世界的认识，并不以我们的意志为转移。
所以，我觉得这本书应该说非常好的打开了我对生命的一些思考，这样反过来对于整个人生的思考应该也是非常非常有帮助的。
3
为什么美国在AI基础研究方面做得更好？
美国除了拥有全世界最出色的人才，还拥有什么？
是什么吸引了人才去美国做基础研究？
迈克斯·泰格马克：
拥有不同文化背景的人，塑造了吸引人的社会文化环境
第一，中国现在在技术上还有应用上都非常的发达，你刚才提到的，可能美国在基础方面做得更好，但是我觉得这一点不光因为美国有人才，还因为美国有这种文化氛围。
也就是说，在基础研究方面，美国人写了很多论文，但是这些论文其实更多都是在美国的其它国家的人写的，比如说我自己，我就是一个瑞典人，我现在是在美国工作，我有很多优秀的学生他们都来自中国。所以，美国在人工智能基础领域的发达，不光是和人有关，也和美国的文化有关，尤其是美国有非常多的好大学，我们的硅谷也有一个很好的吸引人才的环境。
所以，我们就有着来自世界各地的人才。
我今天来到猎豹，我觉得猎豹不仅有非常多优秀的员工，我们的企业文化，包括我们今天美丽的环境，它也能够促进人才的繁荣和发展。
如果中国能像猎豹一样有这么多的人才，有非常好的企业文化的话，我觉得中国在AI的基础领域上面也会发展的更好。
第二，文化层面上来说，我们人类面临的未来的是人类和机器相融合，人类和机器和平共处的未来，我认为中国不仅技术方面正在不断进步，在文化方面也有着朝前看的传统。
当我写这本书的时候，我就在想的一个主题，我们人类在期待着一个怎么样的未来？我们要走向一个什么样的未来？我觉得中国有一点非常好的就是我们有一个朝前看的文化，就是说我们想事情都会从一个非常长远的角度（Long-term Thinking）出发思考。
可能我们美国人所谓的长期的思考、长远的计划也就是到下一次大选，可能就是只会想未来的3～4年之内的事情，但是中国人想的就更加长远。
所以，我认为如果我们能够继续高瞻远瞩的思维方式，结合我们的技术，并且坚持下去，结合我们的技术和中国的文化，中国在AI的发展上一定能有自己独特的优势去引领行业。
4
抵制杀手机器人运动：
AI的安全性？(AI Security)
怎样看待AI安全？
在未来，机器人安全吗？
讨论这个问题的意义在哪里？
迈克斯·泰格马克：
科技不断进步，我们不能再从错误中学习了
我觉得我们的AI的研究者一定要划清界限，让AI用于好的方面，而不是用来杀人。
在北京我们可以看到，生化的发展已经用于治愈很多的疾病。其实AI的研究者也可以像生物化学家一样，严禁把生物化学武器用在非常邪恶的事情上面，禁止研究致命性的AI杀人武器，其实也是
我们希望AI能够用于有益于人类的事业上面。在今年的3月份我来中国和很多文化圈的人还有企业家会面，我就看到中国是第一个有决心禁止自动化杀人武器的超级大国，我希望将来能有更多的国家加入这个行列，去禁止研究AI自动化杀人武器，我也希望能够有更多西方国家和公司能够加入这个行列。
这样，AI就可以为人类造福，就像生化武器用于治愈疾病一样，在大的层面我对人类的未来还是很乐观的，我觉得有了高科技我们能够在这场人类与机器的对抗中胜出。
在AI技术非常发达的今天，我们不能再从错误中学习了。所以我们才签署了禁止自动化杀人武器的宣言，希望我们能够提前预测科技可能给人类带来的危害，有一些前瞻性的措施，然后才能保证未来这些非常强大的技术都用在有益于人类的事情上面。
5
如何界定AI武器？
核武器、生化武器有非常清晰的界限
但AI武器怎么界定？
飞机的自动瞄准
无人机的自动驾驶
自动攻击算不算一种AI武器？
迈克斯·泰格马克：
自动化杀人武器，它可以自主去决定它要杀谁，而不是由人来决定的。
这个问题非常好。
我们讨论的“自动化杀人武器”是一个比较窄的方面，说的致命这一条，指的它是杀人的武器，而没有说我们在反对建造一个导弹防御系统，不是反对建造那种去消灭敌人的导弹防御系统。
它不像咱们今天的远程控制系统是由人来决定的，现在如果有了一个能够人脸识别的无人机，它是不是可以专门去杀某个国家的人？所以这种武器是非常可怕的。
今天这个自动化杀人武器是AI领域一个经常被讨论的热门话题，那么其中的界限到底是在哪里呢？
我们在美国其实也在进行这方面的讨论。之前傅总问过我，我们现在开始谈论禁止自动化杀人武器，以及禁止签约、禁止研发自动杀人武器是不是还太早了？我觉得一点都不早，我们必须要提前防止AI开发这种自动性杀人武器，才能防止将来的军备竞赛。
就像生物化学家在致命性的生化武器开始研发之前，就已经达成一致不去研发这种有害的生化武器一样，这一点也是我们在道德层面的责任。
6
猎豹做机器人产品时的安全性考虑？
服务于人的同时，如何给人带来更安全的服务？
傅盛 ：
用技术能力保证机器人的高安全性能
我们的接待服务机器人“豹小秘”现在是没有手的。
这个在设计的时候是反复讨论过的。为机器人装上两只手，显得很像人，动一动、跳个舞，也挺吸引眼球的。但是，今天手的技术并不能在移动的机器人上给用户提供有用的功能。
于是，我们在豹小秘的设计上，用了很严格的像激光、超声波、红外线多传感器的融合，保证它的避障能力，当旁边有人的时候，它一定会自动降速，保证安全。
我们以前就是安全公司，深深懂得这种设备一旦被控制就会产生很严重的后果，所以我们也在技术层加了一些硬指令，就是无论你怎么去指挥，它也不会去做危险的事情。
在这个岗位上也有专门的安全工程师做安全的审核，和以前手机、电脑这样的设备一个最大的不同，是它能够跟物理世界发生实时交互。不管它跟人发生了实体的任何交互，最后总得让人按一下，这表示是人做的决定，而不是机器做的决定。
迈克斯·泰格马克：
预判它可能产生的风险，才能真正防止风险发生
我非常同意傅总说的，因为我知道猎豹是一家非常有安全意识的公司，最开始是做安全软件起家的。
我认为机器人可能会在两个方面给人类带来危害：
第一，它的功能失灵。
第二，它被设计成一种对人产生危害的武器。
还有一种可能就是它可能会被黑。
猎豹的企业文化就是安全第一，所以在发展的时候，也一直都非常关注安全问题。你们开发一个功能的时候，首先就会去想它可能面临的一些风险。
我们提前想好开发这个东西，去构思它可能会产生什么样的风险，才能防止将来它真的产生这种风险。
7
人类会被机器人取代吗？
到了“生命3.0”阶段，当机器人可以自我学习、自我提升时，人类是不是就会被机器人所超越和取代？
我们将去如何面对这样的一个未来？
傅盛：
人类作为一 种生命形式肯定是会被超越的
读完教授的书我就想起了中国的一个词，叫“沧海一粟”。
其实人类在整个的生命进化当中，就是沧海一粟。而且我们从来没想过我们会出现在这里，我觉得整个人类的发展史是一个把自己从中心地位不断地给“去中心化”的过程。
最早我们认为我们是神的继承人，是上帝造出来的，后来慢慢发现地球是绕着太阳转的，也都承认我们是从猩猩变过来的。
所以，从哲学的角度上来说，我认为人类作为一个生命形式是肯定会被超越的，我们今天之所以在这里实际上是一个环境的产物，是环境不断地变化才使得生命往复杂在变化。
其实就跟讲卵生和胎生一样，胎生是在几百万年，或者是几千万年我们形成的这种能力，但在今天的社会里，这种能力其实未必是我们真的需要的。我们作为地球的一员，我也看过《黑客帝国》，其中有一句话让我的印象非常的深刻——
“人类才是病毒”。因为我们对能量的消耗、环境的消耗，在我们这种生命形式下其实是非常严重的。
从技术观点上来说，我个人不太认为今天的AI就是深度学习这项技术，有机会真正的变成一个超越人的技术。比如说像埃隆马斯克现在做的“脑机交互”，让人脑和AI发生更直接的、相互的交互，使得我们整个生命再上一个档次，可能是看得到的更有效的路径。
迈克斯·泰格马克：
未来的AI让人类能造自己的“神”
（We are building God for ourselves, the question is what kind of God we want to build?）
我觉得傅总刚才说得也很有趣，因为我的妻子她也是《黑客帝国》的粉丝，也就是你刚才说的我们“人类就像病毒”一样，我们对环境带来了很多的危害。其实，在这一点上技术可以帮助人类改变我们现在的局面。
所以，我很兴奋的看到中国现在在可持续能源上面一直在领先世界，比如说在风能和太阳能方面，所以也许我如果10年之后再来北京就会发现，北京的天空会比今天更蓝，这不是因为未来的人会更少，而是因为我们的技术会更加的发达，所以人类就不会再像病毒一样去危害我们的自然环境。
刚才傅总也提到了，在未来，我们人类其实是从进化而来的，而不是上帝造的，我认为未来AI的发展可以让我们反过来，就是说我们人类可以造一个神，人类可以造一个我们所期待的未来，与其问“未来会发生什么？”（What will happen?），不如问“我们希望未来发生什么？”(What would we like to happen?)。
我们想要一个什么样的未来？我们希望未来的文化和社会是什么样的呢？我们如何建立一个人人都能够生活更好的未来？
这都是我们现在要去思考的，我也同意傅总刚才提到的，深度学习现在还没有人类那么聪明，可能短暂的时间内也不会像人那么聪明，但是有了AI技术的话，我们还是可以实现一些改变。
也就是说，将来AI的技术会不断地发展，虽然现在还是我们人类来设计一切，但是未来如果我们能够结合深度学习和AI技术的话，也许AI就可以达到人类的思考水平，它现在能够进行人脸识别和机器人的控制，但在人类独有的抽象思维（Abstract）和理性思维（Reasoning）上，是不可及的。
将来我们把现有的AI技术与逻辑思维的能力结合在一起，也许就可以实现通用人工智能，我们就可以自己造一个神，让它去实现我们人类的目标。
有任何创业、职业、个人成长等问题，欢迎添加微信（ID：fsgogo）。
閱讀更多 傅盛 的文章
