算法“黑箱”那点事

一、“黑箱”算法和算法暴政

人工智能的黑箱也称作“算法暴政”。是指由于机器学习神经网络中存在隐层，科学家无法说明机器学习的优化结果出自哪个节点，并做出令人信服的解释的情形。

科学家甚至发现：机器神经网络和大脑一样偶尔也会出错，却无法解释出错的原因。黑箱或所谓黑屋子是由算法形成的，但是目前科学家却不能从算法去解决。

技术上的解决方案亟待人们对隐层有了更多的了解之后，方有可能揭秘。

就当下看，算法无法公开给社会。算法中的隐层作为一种现象，它和人工智能技术将共存一段时间。

“黑箱”从字面上理解是指技术问题，实际也隐喻了人工智能技术在社会层面的不透明性。正因为它技术和社会两方面的交集，在人工智能技术走向普及和通用化的过程中它将扮演关键角色。

二、英国议会对“黑箱”算法如是说

本月16日，英国议会下属人工智能特别委员会在题为《英国人工智能发展的计划、能力与志向》的长篇报告中，专门论述了“黑盒”算法问题。基于报告关于算法黑箱的原则性倾向，现在我把它概括为以下几点：

1、人类的普遍利益在于实现可理解、可信赖的人工智能。因而算法黑箱是目前需要面对的紧要问题。

2、增加系统的透明度，甚至开放人工智能系统的源代码，可以大大减少社会焦虑。至少应该保持事后透明，以避免错误事件再次发生，这是底线。

3、建立可解释的人工智能系统以替代目前存在黑箱的神经网络系统，并且应该推迟将现有的黑箱算法用于特定重大领域。

4、在安全攸关的特定场景中，为确保技术透明性，甚至可以牺牲系统的能力和准确性。

出于人类安全的考虑，这些稳健措施显然有利于避免少数人的盲目冒进。

如果预后要进一步进行算法系统透明性的立法，那么这些原则性的阐释作为指导思想和基本框架，是具有一定的借鉴意义的。

算法暴政比算法黑箱更可怕

其实，算法暴政比算法黑箱具有更广泛的含义。过去人们没有清算它，对人工智能接触的加深会使人们逐步考虑到以下这些方面：

1、人工智能在阻止人们进行简单的重复劳动的同时，在它内部运行的算法机制，本身却是重复运作的；它以算法的简单重复取代人类劳动的重复性，把它转化成了人工智能的垄断性的特权。这一点它违背人性，显然对人类不公，造成社会内部的分化。

如果任其发展，不加以法治干预的话，它甚至将侵犯人的生存权。机器人会在意人的死活吗？——不会。除非发展到通用技术以后，人工智能能主动思考这些问题，从而变得友好。

2、从此前的Facebook事件看，一些人为利用算法挖掘数据，蓄意在人们不知情的情况下，入侵大众的隐私信息。这可能造成社会大规模的不适，酿成信任危机。

3、机器人参与竞选活动或机器人干预贞治。

1955年阿西莫夫在短篇小说《特权》中，描述了一部超级机器莫迪维克，可以为竞选代劳。

AI算法技术在社交媒体、数据挖掘、数码监视、预测搜寻方面，在CA公司、Facebook和特朗普竞选的事件中，其所作所为似乎使西方脆弱的明珠制度反而变得更加动摇。

实际上，它正促使公众权力向技术力量转移，通过其算法系统，实现技术性的剁权。这无疑使算法黑箱的迷雾进一步向权力领域弥漫、扩散。

4、AI算法商业化的运作模式，犹如撒开的一张大渔网，正在打击和窒息社会中的其他生存要素，使社会进一步和AI算法捆绑在一起。

现在和未来世界上最有力量的大公司，都无一例外活跃于人工智能领域。

人工智能裹挟了一些周边的技术，如区块链、量子计算、纳米科技、基因工程技术、AR和VR等，巨大的商业能量使得传统的社会力量、社团、伦理相形见绌。

如果长期如此，社会将为此发生深刻的变化，这并不是杞人忧天。

5、当算法用以自主武器，普通百姓可能遭受灭绝性屠戮。

根据英国政府的区分，实施人工干预和定制攻击目标的，如普通的杀手机器人，是自动化武器。

完全的自主武器，则是指在没有人类干预或制定攻击目标的情况下，机器人自主确定攻击目标并发动攻击。有鉴于自主武器的反人类性质，现今世界上已有22个国家禁止完全自主武器。

英国之所以禁止本国发展完全的自主武器，因为考虑到它会改变未来战争的性质：使人类内部的战争演变成人和机器的战争。

公众当知，人和人的战争受到国内法和国际法的限制；而人和机器人的战争现今没有任何法律依据可循，一旦成真，那势必演变成没有边界的技术之战。

如果不加约束，未来在超人工智能时代，这种危险给人类带来的灾难性后果愈加巨大、不堪设想，恐怕比历史上任何的暴政统治有过之无不及。

概言之，算法暴政直接威胁人类社会的经济民主和科技民主

只有大家充分认识到算法暴政潜在的危险，公众才会考虑如何应对算法暴政可能造成的社会危害。

閱讀更多 漢文悍武 的文章

關鍵字: 算法 机器人 人工智能