編譯：CEID
英聯邦科學與工業研究組織（CSIRO）的Data61與國際農業集團（IAG）和悉尼大學共同創建了一個新的人工智能（AI）研究所，旨在探索這種新興技術的倫理問題。
Data61解釋說，Gradient Institute是一個獨立的非盈利組織，負責研究人工智能的道德規範，以及開發基於人工智能的道德系統，主要致力於創建一個“所有系統都符合道德規範的世界”。
“通過將道德規範納入人工智能，相信我們將能夠通過道德感知的機器學習創造更好的結果，從而避免過去的錯誤，”研究院首席執行官比爾辛普森說。
“例如，在招聘時，自動化系統使用歷史數據來指導決策制定時，它們可能會對歷史上在某些職業中代表性不足的子群體產生偏見。通過在創建人工智能中嵌入道德規範，我們可以減輕這些偏見，這些偏見如今在零售、電信和金融服務等行業很明顯。”
除了作科研，這個研究所還將通過實踐、政策倡導、公眾意識以及培訓來探索人工智能的道德規範，特別是在人道主義的道德發展和使用方面。
Data61在週四的一份聲明中表示，該研究所將利用研究成果創建開源道德人工智能工具，可由企業和政府採用和調整。
“隨著人工智能的廣泛採用，確保技術的開發符合道德因素至關重要，”Data61首席執行官阿德里安特納補充道。“作為一個國家，我們需要正確對待這一點，從生產率提高中獲取人工智能帶來的好處，並創造出新的價值。”
在Data61今年布里斯班舉行的年度會議上，Data61的代理工程和設計總監希拉里·西尼斯（Hilary Cinis）表示只有規範道德規範才能保證人工智能絕對安全。
她說，解決根深蒂固道德偏見的一種方法是確保構建算法的團隊多樣化。她表示，需對發展進行“文化反思”。
同樣，Salesforce用戶研究架構師Kathy Baxter在今年早些時候在悉尼舉行的人權與技術會議上也表示，目前出現的一個主要問題是在數據中很難看到偏見，最主要是問題是怎樣才是絕對公平。
她說:“如果你關注頭條新聞，你會發現人工智能是會性別歧視、種族主義和充滿系統性偏見的。”
“人工智能基於概率和統計，”她繼續說道。“如果人工智能正在使用這些因素中的任何一個 ——種族，宗教，性別，年齡，性取向，它很可能會不公平地剝奪一部分人的權利，即使你沒有在算法中明確使用這些因素，這個情況你自己可能都意識不到。
“在美國，郵政編碼加上收入等於種族。如果你的算法中有這兩個因素，你的算法很可能會根據種族提出建議。”她建議這項研究一定要提前進行，以保證AI倫理不受到影響。
“人工智能從數據中學習，數據反映過去。在Gradient Institute，我們希望今後能做得更好，”辛普森·楊（Simpson Young）補充。
辛普森·楊將與IAG全資子公司Ambiata的聯合創始人兼首席科學家Tiberio Caetano博士一道，以首席科學家的身份指導該研究所對倫理AI的研究。
原文：https://www.zdnet.com/article/data61-leads-new-ethical-artificial-intelligence-institute/
閱讀更多 城境智設 的文章
