编者按： 丹尼尔·法杰拉（Daniel Faggella）是TechEmergence网站的创始人，该网站为对科技与思想的交汇感兴趣的企业家及投资人提供新闻与咨询。
“科学尚未能够做出预言。我们对下一年做出了太多预测，对下一个十年的预测却太少了。”
上述文字摘自 1969 年尼尔·阿姆斯特朗（Neil Armstrong）在国会两院联席会议上发表的演讲，世纪之交以来几乎每个十年都完全符合这段话，我们可以断定，过去二十年中，科技的变革率已经加速到了指数级别，在人工智能和机器学习方面尤其如此。
人工智能正以可预见、不可预见的种种形式无孔不入地涉足社会的各个层面，这既让人兴奋，也让人不安。我们能够预测到这样的情绪反应，但我们真的能够预测到人工智能所涉及的相关风险吗？
我们似乎都在努力跟上未来科技的脚步，但讽刺的是，信息过载（这又是数字世界带来的另一个让我们苦苦挣扎的副作用）给建立明智合理的意见带来了前所未有的困难。在搜寻某些真相表象的过程中，它可能会帮助我们深入其中。
我在采访 30 多位人工智能研究人员的过程中，向他们提出了未来 20 年中人工智能最有可能的风险是什么的问题。
调查中的一些结果反应在下方给出的图表中，其中包括了来自 33 位人工智能/认知科学研究人员的反馈。（采访完整版以及所有 40 余位受访者的更多信息， 请访问 TechEmergence 的原版交互信息图）。
受访者的反馈主要集中于两大风险（认为是自主机器人的不占多数，尽管这是一些人的观点）。根据这几十个人的看法，短期和长期内最紧迫的风险在于可能造成的金融及经济伤害，以及人类对 AI 的管理不善。
在麻省理工学院媒体实验室（the MIT Media Lab）及哈佛大学进化动力学项目组（Program for Evolutionary Dynamics）任职的约斯查·巴赫博士（Dr. JoschaBach）这样总结人工智能的宏观画卷：
“近期内 AI 导致的风险也许和我们社会中已经存在的风险是一致的。AI 带来的自动化将会提高生产力，但如果我们无法摆脱基于劳力/工资的经济模式，AI 就无法提升我们的生活质量。如果我们无法采取有效的监管措施，它还有可能造成人口的加速增长以及资源的加速枯竭。即便从长期看来，打造安全的 AI 也许与打造安全的社会殊途同归。”
从本质上讲，引进 AI 这一催化剂可能会暴露并加速社会中已然存在的缺陷。倘若没有自觉的协作计划，我们会让社会暴露在一系列风险之下，从贫富差距的拉大，到对环境的负面影响等等。
一些研究人员认为，这一天的到来只是时间问题。用斯坦福大学名誉教授尼尔斯·尼尔森博士（Dr. Nils Nilsson）的话来讲，“机器会唱着这样的歌，‘你会做的任何事，我都能做得更好；任何事我都做得比你好’。”
针对越来越多的自治系统导致的就业市场剧变，海尔吉·赫尔加松博士（Dr. Helgi Helgason）表示，“与其说是风险，倒不如说是必然，我们应该将根据这一点去改变教育政策。”
今年 1 月在瑞士召开的 世界经济论坛 2016 年年会上，AI 带来的经济颠覆成为了一大议题，由此可见全球领导人正开始规划如何有针对性地整合 AI 科技并应用到世界经济中——但这是一项需要许多人来完成的艰巨任务。
未来二十年中另一个常被提及的风险是对 AI 的管理不善。显然 AI 企业已经对此有所顾虑，一些硅谷顶级科技大师给 OpenAI——一家关注于 AI 技术对人类的正面作用的非营利研究机构——投资了 10 亿美元。
“机器会唱着这样的歌，‘你会做的任何事，我都能做得更好；任何事我都做得比你好’。”
——斯坦福大学名誉教授尼尔斯·尼尔森博士（Dr. Nils Nilsson）
“很难估量人脑级别的 AI 能对社会带来多少益处，AI 开发不当或使用不当给社会带来多少损失同样很难想象，”OpenAI 在 2015 年 12 月的 上线页面上写着这样的两句话。我们开发 AI、管理 AI 的方式存在着极为深远的影响，并将塑造未来社会的道德和伦理准则。
西蒙弗雷泽大学副教授菲利普·帕斯基耶尔（Philippe Pasquier）表示，“当我们部署越来越多的人工智能并赋予更多的责任时，造成负面后果的故障风险也在与日俱增，”不过他也指出，他不认为 AI 会对社会本身带来高风险。
能力越大，责任就越大，如何监管这样的能力成为了大家最为关切的问题。
坦普尔大学王培博士认为主要风险存在于“忽视深度学习（deep learning）、强化学习（reinforcement learning）等热门技术的缺陷和限制。许多领域都会发生这样的事。”SmartAction 创始人彼得·沃斯博士（Dr. Peter Voss）表达了类似的观点，指出他最担心的是“无知的人类破坏 AI 的能力和智力。”
考虑新兴 AI 技术伴随有哪些风险不是件容易的事，设计出可能的解决方案及保障措施更加困难，而如何全球协作对这些措施进行实施并监控才是最最困难的工作。但考虑到所有这些任务的紧迫性和危险性，我愿意无数次打赌，这样的努力是值得去冒险的。
翻译：顾秋实
