去年10月，沙特阿拉伯成為世界上第一個授予機器人公民身份的國家。在登臺接受新身份時，索菲亞說她“為這一獨特的榮譽感到非常榮幸和自豪”，還說“成為世界上第一個獲得公民身份的機器人是具有歷史意義的”。
機器人被視為自主系統，但這不應該是人類倫理意義上。“自主”一詞指的是為自己立法，以及制定、思考和選擇規範、規則和法律的能力。它包含了自由地設定自己的標準並在生活中選擇自己的目標和目的的權利。支持和促進這一認知的過程通常包括根源於理性和價值觀的自我意識、自覺意識和自我創造的特徵。因此，在倫理相關的意義上，自主性只能屬於人類。
索菲亞獲得公民身份，意味著她獲得了一定的權利，並贏得了一定的尊重。道德責任涉及到人類行為的諸多方面，如因果性、責任性（提供一個賬戶的義務）、對諸如讚揚和責備的反應性態度（一系列道德情感的適當性），以及與社會角色相關的職責。人類應該能夠確定哪些價值是由技術服務的，哪些是與道德相關的，以及哪些終極目標和善的觀念是值得追求的。這不能給與機器，不管它們有多強大。
賦予索菲亞自決權，將使她享有免於奴役的權利，以及其他許多的權利。如果索菲亞犯了罪，想要結婚，或者向另一個國家申請庇護，我們該怎麼辦？考慮到她的數字性質，目前尚不清楚索菲亞是否能夠真正滿足有抱負的公民才能滿足的居住要求。
關於道德責任的辯論，要求對高技術系統的倫理、法律和治理方面進行更系統的思考和研究，這些系統可以在不直接由人類用戶控制、在對人類有利也可能對人類造成損害的情況下對世界採取行動。這是一個非常緊迫的問題。
人類尊嚴
人類尊嚴的原則，被理解為承認人類固有的值得尊重的狀態，不能被“自主”技術所侵犯。
人類尊嚴的關係概念要求我們意識到我們是否以及何時與機器或另一個人進行互動，並且我們保留將某些任務交給人類或機器的權利。
自主
自主原則蘊含著人類的自由。這將轉化為人類的責任，從而控制和了解“自主”系統，因為它們不能損害人類制定自己的標準和規範，並能夠按照我們的生活方式生活的自由。
責任
責任原則必須是人工智能研究和應用的基礎。"自主"制度只應以服務於全球社會和環境利益的方式發展和使用，這取決於民主協商的結果。
公正、公平和團結
人工智能應該有助於全球正義，人們能平等地獲得AI、機器人技術和“自主”系統所能帶來的好處和優勢。用於培訓和運行人工智能系統的數據集的歧視性偏差應在儘可能早的階段被預防或發現、報告和中和。
公眾參與
關於規範人工智能開發和應用的關鍵決策應該是民主辯論和公眾參與的結果。在這個問題上，全球合作和公眾對話的精神將確保他們以一種包容的、知情的、有遠見的方式接受。
法治和問責制
訴諸司法和獲得補救的權利以及公平審判為確保遵守人類權利標準和潛在的人工智能特定條例提供了必要的框架。這包括防範“自主”系統侵犯人類權權的風險，比如安全和隱私。
安全性和健全性
“自主”系統的安全性有三種形式：（1）環境和用戶的外部安全，（2）可靠性和內部的健全性，例如防範黑客攻擊，（3）人機交互的情感安全。人工智能的開發人員都必須考慮安全所有維度。
數據保護和隱私
作為物聯網一部分的AI硬機器人以及通過萬維網運行的AI軟機器人必須遵守數據保護法規，不得不應在未經知情和授權的情況下收集和傳播數據、運行數據集。
鑑於“自主”系統對私人生活和隱私的影響，我們可以考慮引入有意義的人際接觸的權利。
可持續性
人工智能技術必須符合人類的責任，以確保地球上生命的基本先決條件，為人類繼續繁榮、為子孫後代，創造和保護良好的環境。
人工智能、機器人技術和“自主”系統可以帶來繁榮，為人類福祉做出貢獻，在設計和部署得當的情況下會有助於實現更高的道德理想和社會經濟目標。倫理方面的考慮和共同的道德價值可以被用來塑造明天的世界，應該被解釋為對創新的激勵，而不是障礙。
索菲亞作為一個公民代表著更險惡的東西。如果我們能把我們的同情和想法轉移到其他公民身上，我們可能會養成更好的習慣。
未來可能會有一段時間，技術進步非常之快，以至於我們需要考慮機器人和AI是否應該被授予公民身份——但現在還不是時候。如果我們堅持認為機器人擁有和人類一樣的權利，這將使我們更容易證明我們對人類同胞的不人道行為。
【數字敘事 原作：Ayse Kok；編譯：Lighting】
閱讀更多 數字敘事 的文章
