我們正處在一個算法爆炸的寒武紀時期。大約5.4億年前，化石記錄告訴我們，地球經歷了動物生命的急劇多樣化，產生了我們今天所熟悉的大多數複雜生物的祖先。而當今，算法和人工智能創新的加速，同樣給我們帶來了一系列令人驚歎的技術和應用，以及一種令人困惑的轉型動力。
根據世界知識產權組織（World Intellectual Property Organization）的數據，在2013年至2019年期間，我們有34萬項與人工智能相關的發明，其中一半以上已經發表。這種數量的指數式增長，與從理論研究到將人工智能技術應用於商業產品和服務的轉變同時進行著。在現實生活中，不論你是否知情或是瞭解，我們與這樣的算法互動的領域越來越多，從告訴我們去哪裡的地圖，到選擇我們看什麼或與誰交談的信息系統，再到幫助我們的醫生診斷的AI助手，幾乎無所不在。
如今，我們已經與這些機器共生了。我們向它們提供能量和數據，它們用一系列服務來回報我們。但實際上，我們與它們的關係越來越深。 在我們塑造算法時，反饋環路有多層，它們會在個人和集體層面上塑造我們。 那我們可以採用什麼框架來分析這個複雜的生態系統呢？
其實，幾個世紀以前一位研究人員的經歷，對我們而言極富啟發性。在18世紀末和19世紀初穿越拉丁美洲和俄羅斯的航行中，普魯士博學者亞歷山大·馮·洪堡（Alexander Von Humboldt）創造性地觀察了自然模式，並對其潛在的統一性進行了理論推導。洪堡的研究改變了我們對動物、植物、地質學、氣候，甚至人和社會之間相互聯繫的看法。甚至，今天我們對機器行為的理解也可以遵循了這一傳統，即以我們與機器的關係為中心，努力構建一個跨學科的、系統思維的視角。
這種新穎的方法有支持者，也有自己的宣言。在《自然》(Nature)雜誌2019年發表的一篇文章《機器行為》(Machine Behaviour)中，麻省理工學院媒體實驗室的伊亞德·拉赫萬（Iyad Rahwan）和許多同事描述了一個以他名字命名的研究領域的出現。這23位作者跨越了自然科學和社會科學的機構和學科，他們認為，機器行為“與智能機器的科學研究有關，不是作為工程人工製品，而是作為一類具有特定行為模式和生態的參與者。”他們認為，這種研究努力很重要，因為它“對於最大限度地發揮人工智能對社會的潛在好處至關重要”。
這個理論框架的根源在於“機器 — 算法 — 動物”之間的類比。伊亞德·拉赫萬認為，如果不研究行為發生的環境，就無法完全理解動物和人類的行為。同樣地，如果沒有對算法和算法所處的社會環境的綜合研究，就無法完全理解機器行為。
我們可以看到有些類比是恰當的。就像有機體一樣，機器也消耗能量，成功與否取決於它們是否複製。這是埃裡克·拜因霍克（Eric Beinhocker）在《財富的起源》（The Origin Of Wealth）中描述的一種模式，《財富的起源》將經濟學視為一個複雜的進化系統。對於拜因霍克來說，有機體（比如大象）與物理技術（比如微芯片）和社會技術（比如風險投資）一樣，都能完成同樣的任務，那就是將無序的熵轉化為有序的信息，用於生殖或創造財富等功能。
然而，技術的變化並不完全等同於生物進化。基因在生物體中的傳播是垂直的，通過從父母傳給後代的信息代代相傳。這創造了有機體和有機體群體的順序層次：那些在進化時間線上彼此較近的生物（如人類和黑猩猩），在基因上也比那些相距較遠的生物（如人類和大猩猩）有著更多的共同點。
反觀技術，它的關鍵特徵並不是垂直傳播，而是水平傳播的。水平傳播意味著信息交換不侷限於從父母到後代的信息交換，還可以以更快的速度和更多的方式進行。比如，當YouTube改變它的推薦算法時，你的本地YouTube實例將立即反映出這些新特性，不管你的應用程序或瀏覽器的血統如何，也不管你離硅谷有多遠。
因此，機器行為表現出完全不同的傳輸路徑和層次性的缺乏。雖然，基因和思想傳播的某些特徵有著相似之處，但也許，拉赫萬的方法“正在試圖形成一種假的生物學上的相似性”，使這樣的類比變得毫無意義。
不管怎樣，這都對我們應該如何研究機器行為具有一定的啟示意義。可能，科學技術史提供的視角更有指導意義，而不是設計一個模仿生物學的新領域。不管是第一次工業革命，還是第四次工業革命，也不管是紡車還是機器學習算法。無論如何，科學技術的歷史使我們能夠研究技術進步的後果，包括由此產生的社會動態。
對此，其他人則建議採用更以人為中心的方法。比如，人種志就是關於深入傾聽的。研究倫理和共識，在研究算法對錶現出數字差異漏洞的社區的影響時的重要性。該概念表明，由於種族、性別、社會地位或其他特徵，已經在現實世界中處於脆弱狀態的人們體驗到“過度暴露於數據技術中的危害。” 因此，數字世界和物理世界變得越來越難以區分。
在這種背景下，機器有特定的起源和具體的影響。就像內燃機的算法一樣，我們應該關注一件人工製品的來源：它為什麼被創造出來？從哪裡來，誰買了它，誰製造了它？在什麼條件下它才成為商業產品？機器不是“被發現的對象”，它是人類深思熟慮的產物，是特定經濟激勵和商業模式的結果，也是現實世界對個人和群體產生影響的原因。
在更定性的人種志框架中，講故事也很重要。首先，它可以通過類比來促進理解。我們可以提出這樣一個問題，如果一輛車只在停車場進行過測試，是否會用它上山：如果一種工具沒有在相關背景下進行過試驗，它可能不適合使用於該目的。我們還可以將軟件算法與人類決策過程進行比較。例如，一種選擇算法（比如，分配公共福利的軟件或選擇陪審團的律師）可能表面上看起來是不偏不倚的，但實際上並非如此。
其次，講故事可以讓人們更深入地討論機器行為的後果。研究專家的解釋是，“我們使用講故事來突出聲音和故事。我們的希望是，通過講故事，我們正在使用一種研究方法，使我們能夠了解這個領域中存在的問題，並與學者進行交流，而無需透露受試者的機密信息。” 這可能有助於教育媒體或流行文化中的機器行為，以及引發學術界之外的對話。
然而，我們還沒有到那一步。對於研究專家來說，計算機科學仍然處於一個“帝國主義的階段”，人們關注的焦點是學科，而不是把它們視為完全人類的學科。權力動力是這種理解的核心，正如洪堡對世界的看法一樣。洪堡是第一個將殖民主義與環境破壞聯繫起來的人。當年，他走遍拉丁美洲時，親眼目睹了西班牙帝國的掠奪是如何造成了乾旱、森林砍伐和對土著人民的虐待的。
今天，掌握政治和商業機構、人員和機器之間的複雜關係仍然至關重要。自然、政治和社會形成了一個三角關係。從宏觀層面上看，我們可以觀察到政治對算法龕位的塑造，就像河流將景觀切割成不同的領土。比如，在某些國家，它是通過建立屏蔽防火牆；在歐洲，是通過一般性數據保護條例；而在美國，則是通過一種自由放任的技術手段。在更精細的層面上，這些環境中出現的機器，在如何影響數十億人的生活方面可能有所不同，但人與算法之間的相互聯繫，仍將是一個全球性的、不斷增長的趨勢。
事實上，麻省理工學院媒體實驗室的伊亞德·拉赫萬在他的論述中，闡明瞭我們是如何開始接近如此廣闊的領域的。機器和有機體保持著重要的差異，儘管隨著我們越來越多地設計算法來模擬自然過程，這些差異也可能會消退。目前的宣言也不是最終的，因為更多的觀點和批評加入了為機器行為及其與人類和人類的複雜關係建模的努力中。以亞歷山大·馮·洪堡為榜樣，超越學科，敏銳地觀察和保持深刻的社會意識，我們將有更好的機會引導我們的機器夥伴和依賴機器的社會，走向更開明的方向。
如果朋友們喜歡，敬請關注“知新了了”！
閱讀更多 知新了了 的文章
