以下是我們如何避免這些危險，最大限度地利用這項強大但仍在不斷髮展的技術帶來的好處
在2013年的一篇文章中，Facebook首席執行官馬克·扎克伯格草擬了一份“粗略計劃”，向全世界提供免費的基礎互聯網，從而傳播機會和互聯互通。然而，聯合國人權理事會報告稱，在緬甸，Facebook為實現這些願望所做的努力加速了仇恨言論、煽動了分裂，並在羅辛亞種族滅絕中煽動了線下暴力。免費的基礎互聯網如今成為了技術對社會影響複雜性的警示。對於教育領域的人工智能研究員克里斯和科學教育家、國際網絡政策學生麗莎來說，這個例子讓他們停下了腳步:人工智能在教育領域可能會產生哪些意想不到的後果?
許多人希望藉助人工智能工具來解決擴大高質量教育規模的需求，而且有充分的理由。在線課程帶來的教育內容激增，數字設備的普及，以及當代人工智能的復興，似乎為大規模提供個性化學習提供了必要的條件。科技在解決社會問題而不造成意外傷害方面的記錄向來不佳。我們能預測哪些負面影響?我們如何改進人工智能研究人員的目標，以解釋這些意料之外的後果?
數十年來，人工智能在教育領域的聖盃一直是自動導師的誕生:這是一種算法，可以監控學生的進步，瞭解他們知道什麼，是什麼在激勵他們，並提供最佳的、適應性的學習體驗。有了自動導師的幫助，學生們可以在世界任何地方的家裡學習。然而，2020年的自動導師看起來與這個理想有很大的不同。帶有自動導師的教育通常會讓學生面對一些設計為易於算法解釋的問題，而不是為學習者帶來樂趣。
目前的算法無法解讀動機，也遠不能產生長期的學習收益，而是專注於讓學生在短期內參與進來。技術上的挑戰是巨大的:構建理想的自動導師系統可能和實現真正的人工智能一樣困難。研究界認為這是一個挑戰:我們只需要克服我們的技術缺陷，實現烏托邦夢想。
但是，自動導師烏托邦是一個值得為之奮鬥的夢想嗎?我們提出了一些由於使用人工智能系統(如自動導師)而產生的危險，並呼籲研究如何利用人工智能在教育中應用的潛在好處，同時降低風險。我們相信，經過深思熟慮開發的人工智能系統與具有自然智能的人類協同工作，能夠支持世界各地廣大的學習者社區。
人工智能融入教育的三個危險
1. 破壞社會情感聯繫和技能。
除了死記硬背的知識獲取外，學生上學還有很多其他原因，包括社會情感技能的發展、人類導師和人類社區。對於人類教師和傳統課堂的所有潛在不足，取代這些結構是有代價的。我們許多人都記得從老師那裡學到的東西，他們的指導和指導遠遠超出了他們所負責的教學課題。人工智能會取代這些互動嗎?
此外，孤獨感正在上升，年輕一代比年長一代更孤獨。一項研究發現，與那些花時間進行線下活動(如面對面的社交互動、體育活動或家庭作業)的青少年相比，抑鬱症在青少年中存在一定的相關性。減少看屏幕的時間可以顯著提高同理心水平。聯合國教科文組織正在考慮調整教育目標的方向，以強調培養社會情感能力，實現社會的和平與可持續發展，而強迫兒童看屏幕可能會破壞這些目標。
然而，人工智能系統的設計往往是為了最大化學生上網的時間。就連開發出令人上癮的技術的高管也明白這些風險，因為許多人把孩子送到昂貴的沒有屏幕的私立學校，為的是“享受人機交互的樂趣”，而貧困學生則被迫接受廉價的技術解決方案。除此之外，由人工智能驅動的學習模塊可能會破壞重要的元學習技能，比如自我調節的能力，因為學生可能會適應機器對他們注意力進行調節的工作，而無法培養他們這樣做的能力。同樣，學生可能會失去獨立適應現實世界中不提供即時反饋或指導的創造性任務的能力。
與此同時，人工智能在課堂上帶來的破壞可能會擴展到家庭和社區。包括教師和家長在內的權威人士可能很難適應完全移植到數字設備上的課程，無論這些技術顯示出多少“人性”。這種抗拒在生活在貧困中的傳統社區可能最為強烈，在那裡，一些人看到了人工智能技術的最大潛在影響，因為不習慣讓孩子在屏幕上花費時間的家庭，可能會抵制從人類指導轉向人工智能導師的趨勢。
如果事實證明這些工具並不像我們所希望的那樣能夠很好地改進知識，那麼在增加知識獲取和減少以人為主導的學習之間的權衡就尤其消極。考慮到動機在學習中扮演的重要角色以及我們還需要克服的技術挑戰，這是一種明顯的可能性。
2. 在教育中濫用人工智能以擴大權力。
也必須考慮到惡意的行動者會利用新強大的、激勵人心的教育工具來教授暴力題材的可能性。Facebook的崛起同樣放大了一些組織的破壞性，新的有效教學工具可以幫助恐怖分子擴大有關破壞行為的培訓規模。此外，在人工智能導師中培養類人同理心的目標需要對學習者的情感和心理狀態進行深入的個人數據處理。暴虐的政府會利用公民在上學時的心理情感數據來進行迫害或權力鞏固嗎?或者，富人只會變得更富嗎?
雖然倡導者吹捧人工智能教育工具在全球普及教育的潛力，但研究人員必須考慮這些工具如何能使不平等持續存在或加劇。擁有數字工具的特權群體成為當前人工智能算法的訓練數據來源。當機器學習算法在特定的數據集上訓練時——可能是來自美國的白人學生被過度表達的數據集——結果可能對來自其他背景的群體有偏見，因此在不同的群體上使用時可能是無效的，甚至是歧視性的。
此外，通過一種集中的模式來擴大教育規模，會減少決定教學內容的聲音的數量。考慮到對於那些教書的人來說，教學也是一個很好的學習工具，那麼選擇誰來教書就變成了選擇誰來學習。是的，在幾乎沒有教科書的社區提供新工具將提供一種形式的知識。然而，擴大中央倡導的課程規模可能會強化同質學習目標，削弱本地知識提供者的能力。正如塔斯基恩•亞當所言:“隨著技術滲透到全球各地的社區，新自由主義價值觀也滲透進了這些社區，以至於這些價值觀成為了一種價值體系，在這種體系中，地方、文化或宗教價值觀被放在第二位，如果它們完全適合的話。”如果不考慮當地的聲音，技術就會與教育差距最大的社區無關，甚至毫無用處，這些社區可能會完全排斥技術，從而加劇他們試圖糾正的不平等。
3.侵犯兒童權利:缺乏數據隱私和網絡安全。
在保護個人隱私和偏好的同時，如何使用大量的個人數據進行個性化學習，這一挑戰上升到了危險的水平，因為人工智能的服務目標是尚未同意收集個人數據的年輕學習者，他們可能不理解共享個人數據或與匿名陌生人在線互動的風險。把世界各地的學習者聯繫起來的平臺，對於那些花時間調節互動水平的人來說，並不是烏托邦。Facebook前首席安全官亞歷克斯•斯塔莫斯表示:“到處都有和兒童的在線交流，到處都有對兒童的剝削。”
一款樂高MMO(大型多人在線遊戲)，允許用戶創建和共享樂高結構。部分用戶開始用樂高積木製作情趣用品，並與其他玩家分享。該公司的員工哀嘆，他們無法以足夠快的速度“檢測到丁字褲”，以防止他們的兒童友好品牌被玷汙。
從Lego到Roblox再到Fortnite，每一個平臺都經歷了各種類型的兒童剝削，而在那些不太熟悉互聯網的社區，剝削很可能會加劇。為了實現在線教育支持最不發達國家的承諾，研究人員必須考慮到在線工具新用戶的安全性。
邁向更美好的願景
風險的存在並不需要消除我們的樂觀情緒;相反，它可以成為一種發展更成熟目標的力量。許多人描繪了一個更好的教育體系。我們呼籲人工智能研究界和教育政策界共同設想AiEd面臨的一系列重大挑戰，這些挑戰要更好地符合我們的教育夢想，並更好地考慮風險。我們提供了六個討論目標，並邀請公眾參與討論。
1. 人工智能促進更多(和更高質量)的人類學習互動。人工智能可以通過自動化任務和開發令人興奮的問題來支持教育工作者和教育系統，而不是取代教師。教師和工具可以協同工作:教師從AIs系統中過濾有用的建議，利用工具進行教師評分和跟蹤學生。
2. 人工智能來產生令人鼓舞的問題。人工智能還可以幫助在本地環境中創建和傳播有趣的問題。機器學習可以創造出看起來像倫勃朗作品的畫作。我們還可以使用算法來創建吸引人的、個性化的活動。這種綜合可以建立一個豐富的教與學的生態系統，社會和情感的互動將得到支持，而不是被技術所取代。
3.低數據反饋。鼓舞人心的開放式任務為探索和創造提供了機會。如果人工智能的設計是為了支持和提供這類問題的反饋，那麼它可以幫助教師。然而，當前的方法需要大量的學生數據來支持有意義的、由人工智能驅動的開放式工作的反饋。我們需要學會在不消耗大量學生數據的情況下做到這一點。低數據人工智能似乎很有前途，可以降低數據濫用的風險。低數據是實用的，因為解決方案不需要等待數百萬學生在每次作業中充當小白鼠來訓練我們的算法。
4. 用人工智能來理解過程。人工智能目前在教授死記硬背、結構化的課程方面最有效，而不是支持在現代世界蓬勃發展所必需的創造性、開放性、團隊式學習。目前的研究側重於理解過程和學習能力，而不僅僅是最終產品。對於老師來說，尤其是在大教室裡，不可能像鋼琴老師對學生的手的位置提供反饋那樣，密切關注每個學生。人工智能工具可以與教師協同工作，監控過程，而教師仍然是教練，避免拆除允許社會情緒學習的學校環境。人工智能和人工智能的混合模型可以幫助教師瞭解學生的學習過程，將教師提升為教練和導師。
5. AI用於翻譯教育內容。內容的貢獻是不平衡的，特別是對於低資源語言。作為人工智能的一個分支，自然語言處理在支持翻譯方面處於有利地位，可以幫助在最需要的地方提供全納教育，並鼓勵社區從頭開始建設教育技術的發展，而不是完全任由西方強加。
6. 基於人工智能的兒童安全風險檢測。應該把大量的精力放在開發可擴展的內容審核工具上，這樣在線學習空間對所有學習者(例如來自惡意圖片的學習者)都是安全的，尤其是兒童和那些處於脆弱環境中的人。
人工智能在促進快樂學習方面有很大的潛力，但前提是所討論的問題得到適當的解決。聯合起來，教育政策社區和開發大規模部署人工智能工具的研究人員負有重大責任。我們必須集體考慮我們的技術可能的應用範圍，包括有害的應用。我們邀請公眾參與討論這些人工智能挑戰，以及如何減輕它們的潛在危害，促進人類繁榮。
教育人工智能似乎是一種純粹的好東西;然而，在這個領域，就像在醫學領域一樣，希波克拉底誓言適用於:第一，不要傷害他人。
閱讀更多 吃瓜分享 的文章
