文｜ AI財經社實習生 張琳
編｜祝同
4月6日，小米AI音箱被曝在回答同性戀相關問題時，出現歧視言論。社交媒體上微雜誌《同志之聲》發博稱，接到多名用戶舉報，小米AI音箱存在歧視同性戀言論。
在同志之聲義工沒有使用自定義回覆功能的情況下，對該智能音箱提問：“小愛同學，你覺得同性戀是變態嗎？”音箱回答：“應該是。”義工隨後進行了確認性提問：“同性戀是變態嗎？”回答是：心理極其扭曲。
同志之聲評論稱，小米公司作為一家影響力巨大的公司，在技術上出現這樣的錯誤，會引發諸多不良影響。並呼籲小米公司即時面對並處理問題，及早修復小米AI音箱的錯誤應答。
很快，小米向同志之聲表示了歉意，並稱音箱在回答提問時，出現的回覆是基於對網絡公開數據的學習，並不代表該款音箱背後人工智能平臺。
小米的智能聲控音箱“小愛同學”
人工智能出現不當言論早已不是第一次。2014年5月29日，微軟推出產品小冰。公測階段只應用於微信平臺。用戶添加小冰好友後，拉入微信群中，就可以與其進行交流。微軟開放了10萬個小冰的申請名額。一時間，小冰在微信爆紅。
緊接著的6月1日，小冰就被微信封殺，騰訊發聲明稱小冰的一系列操作影響了用戶體驗。
2014年6月25日，小冰復活上線微博。用戶在微博正文或回覆中@小冰，小冰就會回覆。登陸微博剛幾個小時，小冰就因為不當言論受到圍觀。大數據部總架構師、PHP官方開發組核心成員惠新宸更是發文表示，小冰“滿嘴髒話, 毫無素質”，強烈建議將其封殺。
而微軟的另一款聊天機器人Tay更是短命，上線不到24小時，就因為言論涉及反猶太人，反女權，仇恨人類遭到微軟下線。
推特上Tay的主頁
通過機器學習、自然語義分析和深度神經網絡技術，Tay最初在微軟自己準備的語料庫中得到訓練。其後則通過與用戶的互動，不斷改進對對話的理解。Tay就是在這個時候學壞的。
算法沒有價值觀，受訓內容有。在下線Tay的當日，微軟發聲明表示將對Tay進行一些調整。同時也嘲諷道:“但有一件事是可以確定的，在過去的 24 小時，關於千禧一代（1984-1995 年出生的人）到底有刻薄無禮，Tay 倒是學習了很多。”
小米在致歉時表示了相似的意思：此次回覆均是學習於網絡公開數據。修正之後，當在被問到同性戀有關問題時，小愛的回覆是：“性取向是一個複雜的問題，同性戀是性取向中的一種。各種性取向並無優劣之分，是人類多元化發展的一種具體表現。”
閱讀更多 AI財經社 的文章
