诺曼网站上的形象
去年年中，麻省理工学院媒体实验室（The MIT Media Lab）的一个三人团队，联手创造了世界上第一个恶魔人工智能——诺曼（Norman）。
电影中隐藏杀手本性的诺曼
诺曼本身是一个简单的人工智能，把图像输入给他，他就会输出一段自己对这个图像的描述文字。跟普通人工智能一样，诺曼需要训练，而诺曼的整个训练过程，使用的都是来源于网络上充满消极情绪的图片和文字描述，最终导致诺曼在对图像进行判断的时候，所输出的描述文字，都是消极的。
“诺曼”这个名字本身，就来源于希区柯克的经典电影《惊魂记》中的变态旅馆老板诺曼贝兹。
诺曼的恶魔式思想
诺曼起初是为了研究精神病疗演算法，通过这种疗法研究精神病的治愈方式。但是但是进一步的研究已经超越了这个范畴。更多的人开始思考人工智能的偏见。
现实生活中的AI若受到有缺陷数据的训练，它们可能产生类似负面状况，也就是产生偏见。
有无偏见的两种思想碰撞会有很强烈的火花
去年5月，美国法院用于评估囚犯风险的AI，被指出对黑人囚犯有偏见。微软2016年发布的聊天AI，很快就被种族主义者带坏，开始捍卫某些人种至上主义，呼吁种族灭绝并表达出对希特勒的热爱。
消除偏见是人类的目标
从偏见产生的根源看，其实只要是经过人筛选的数据本身就带有人的主观性，同时也很难把一个范畴内所有客观情况都输入给人工智能，所以进入到人工智能的数据，本身就是主观的。事实上也很难把两个人为的观念完全区分开来。所以偏见其实是客观存在的，很难根除，假设我们接受人工智能的偏见，那我们怎么解决人工智能的偏见？
傲慢与偏见中男女主消除了偏见才有个好结局
诺曼的研究人员给出了一个想法：希望更多的人，对诺曼的积极训练改变它的魔鬼思想，驯化为天使的思想。
从人工智能可以训练的角度来看，人工智能是肯定可以被训练的，但是它的魔鬼的部分，还是有可能会重新显现出来。原因，就是它经过了1万次的魔鬼训练，再经过一千万次天使训练之后，它可能还是有残留魔鬼的思想。
人工智能的黑箱
由于训练本身是一个黑箱，我们其实没法直接判断这个黑箱里面全部信息到底还有没有魔鬼的部分。
阻断疗法：
最简单，最直接的方法，就是放弃这个人工智能，不再使用这个人工智能，就好像判了一个人工智能死刑。彻底清空并重新训练人工智能。
判决现场
为什么是放弃整个人工智能？我们知道，由于人工智能是一个黑箱，人工智能其实是一个独立的智能，一个完整的人工智能，我们没法分隔它所知道的知识。
但是当这个人工智能本身，存在一些有价值的判断的时候呢？直接清除掉，就把有价值的部分也清除掉了，可能不是最好的办法。
反观我们人类世界，人类面对一个恶魔，法律的最高惩罚，其实就是清除他。而这个法律的依据，就是人类自古就有的一报还一报思想。
莎翁写过一个小说，就是一报还一报
莎翁
疏通疗法：
指尖科技说编者这个时候，想起两个人：裘千仞和弗兰克
《神雕侠侣》中的裘千仞心机算尽，被认为是小人和险恶的代表，但是在他抱着宿敌的婴儿小郭襄的时候，本来可以一掌报仇，却在被黄蓉设计偷走小郭襄后，一刻顿悟，从此皈依佛门。如果觉得这个例子，只是小说，那我们看看真实的案例。
裘千仞
弗兰克·阿巴内尔就是真实案例，他16岁就开始伪造银行支票，骗取多国银行的250万美元并被多国通缉，他假扮老师给学生上课，假扮医生给病人开药、假扮飞行员与空姐谈恋爱。入狱后在狱中协助破案，最终出狱后和美国政府机关合作，成就了一个著名的安全顾问公司。
弗兰克
裘千仞的顿悟，滔天局骗的改过自新，都说明人类意识的改变，可以让人刷新整个意识体系。
这其中有一个非常关键的因素：人类的大脑，可以同时存在两种相互矛盾的思想，而无碍于其处世行事。
这正是心理学家托利得提出的托利得定理。
同时存在矛盾的思想不容易
于是我们可以尝试思考：人工智能可以同时存在两种完全矛盾的思想，并仍然无碍于其处世行事吗？
指尖科技说小编现在只能想到一种实现方案：就是给人工智能一个高级的控制机制。
在人工智能的高一个层次，进行控制。小编也认为只有这种方法，才能彻底解决人工智能倾向性问题。
两层人工智能对话
而现阶段，人工智能技术并非不能做到，
就是在人工智能基础上多做一层人工智能道德筛选。例如诺曼得到了恶魔的思想，我们却在后面一层进一步分析诺曼得到的结果，是否合适人类意志，如果具有明显的倾向性，我们就排除掉。
但指尖科技说小编也承认，这并非最好的解决方案。最好的解决方案肯定是在人工智能黑箱里直接进行高一级的控制，这样是最高效的。
偏见没有赢家，只会阻碍人类发展
假设人工智能偏见这个问题解决了，我们就不用再害怕我们给到人工智能的是有偏见的数据。甚至可以把这个技术运用到人类身上，使用脑机接口判断人类思想，然后进行进一步控制。从而让一些罪犯，从大脑思想上改变自身，而不仅是肉体上的清除。
閱讀更多 指尖科技說 的文章
