- 探索為什麼 AI 倫理對於負責任的創新至關重要。
- 了解常見的道德挑戰，例如偏見、隱私、透明度等。
- 理解負責任的研究與創新（RRI）框架，以及如何將其整合至專案的倫理計畫中
- 學習確保人工智慧系統保持公平、精準與可問責的方法。
- 思考如何從一開始就將道德思考融入您自己的 AI 專案中，並將其視為一個持續的過程。
人工智慧的倫理
隨著人工智慧日益強大，我們必須理解自身工具的適用範圍，並思考所創造技術的廣泛影響。人工智慧可能存在不公、會犯錯，若遭濫用更可能造成傷害。正因如此，身為開發者與創業者，我們必須以審慎態度面對工作。
當我們聽到「倫理」這個詞時，它聽起來或許有些正式或複雜，但其實它本質上就是提出問題。
“這公平嗎？這對誰有幫助，又會傷害誰？”
核心要點：人工智慧是人類創造的技術，其中蘊含著我們對行動優先順序、學習數據來源及成功定義的偏見。即便懷抱最純粹的初衷，人工智慧本質上仍存在缺陷。關鍵在於辨識其可能出錯之處，並以負責任的態度加以運用。
您專案中的 AI 道德
在專案的初期階段，開始思考倫理將如何影響最終解決方案，絕非為時過早。以下原則可作為指引，助您深入且具體地審視人工智慧專案的倫理議題，特別是針對您所負責的專案。請仔細閱讀並反思這些問題與您專案的關聯性。
不傷害
簡單但強大。即使大多數創造者從未打算造成傷害，但人工智能的影響往往超出預期。一個系統可能會做出表面上看來很有幫助的決定或建議，但一旦擴大規模，可能會在無意間對人們造成不利或誤導。
"不造成傷害」意指持續詢問您的技術可能會如何出錯、誰可能會受到影響，以及有哪些系統可以將風險降至最低。
範例：社區安全應用程式出錯
問題
一個團隊開發了一款人工智能驅動的社區安全應用程式，利用社交媒體和當地報告的資料，提醒使用者附近「潛在的不安全情況」。目標是透過幫助人們保持警覺並避免風險，讓社區更加安全。
但使用者與社區團體注意到一個令人憂慮的趨勢：即使沒有發生任何事件，應用程式也會針對邊緣人口較多的社區傳送更多警示。AI 在有偏見的歷史資料與語言模式訓練下，學會將特定區域與詞彙與危險聯繫起來。
儘管開發者無意強化刻板印象，但傷害已經造成 - 應用程式汙名化社群，並助燃社會分化與不信任。
✅ 更好的方法
這個團隊讓來自不同社區的社區成員參與設計過程，而不只是資料科學家。他們在不同的人口區域測試了他們的模型，並衡量了偏差。
他們不依賴社會媒體情緒，而是使用透明的資料來源，例如官方警方報告。每個警示都包含一個解釋 (例如：「警示依據：本週有 3 件破門入室的報告」)，以及讓使用者標示錯誤或偏見警示的功能。
因此，該應用程式在提升社區警覺性的同時，並未對特定區域造成污名化。當偵測到偏見現象（警報集中於特定區域時），團隊便展開調查並修正數據，進而更新模型。
- 有哪些特定的內建系統可以快速偵測到這些故障，並將所造成的風險降到最低？
偏見與公平性
AI 歸根結底是人類的創造，可能會反映其創造者的假設和優先順序。如果用來訓練 AI 的資料是透過有偏見的鏡頭收集，就會強化不正確的假設，結果也可能出現難以預期的偏差。
範例：工作招募中的偏見
在這項研究中，我們發現用來簡化求職申請處理程序的 AI 工具，存在著與種族和性別相關的偏見。這些人工智慧工具非常偏好與高加索男性相關的名字。由於人工智慧已廣泛應用於招聘過程中，這項發現令人質疑這些工具的公平性。
解決偏見問題需要覺察、反思與有意識的行動。使用者必須對人工智慧產出的結果保持批判與質疑態度。開發者必須檢視所使用的數據、質疑模型背後的假設，並測試輸出結果在不同群體間的公平性。有時這意味著在設計階段納入多元觀點、審核模型是否產生差異性結果，或調整演算法以修正不平衡現象。
- 在資料收集和標示階段會採取哪些特定步驟？
- 您將如何確保多元化的觀點能有意義地融入 AI 模型的設計、測試和審計階段？
隱私與資料
人工智能通常依賴大量個人資料才能有效運作。雖然這些資料有助於人工智慧提供有用的建議或服務，但也會引起有關隱私權的重要道德問題。
舉例來說，追蹤使用者活動以建議當地服務的應用程式，可能會在不經意間暴露個人作息、偏好或信仰的敏感細節。如果這些細節落入不法分子手中，可能會被濫用，甚至會微妙地影響其他地方的演算法如何對待使用者。
-
只收集您需要的東西
將資料收集限制在應用程式運作所需的資訊。
-
取得明確的同意
確保使用者瞭解所收集的資料內容和原因，並提供選擇加入或退出的選項。
-
盡可能將資料匿名
移除個人識別資訊，以降低資料暴露時的風險。
-
安全儲存資料
使用加密、安全伺服器和強大的存取控制來保護使用者資訊。
-
透明化
清楚溝通收集哪些資料、如何使用，以及誰可以存取這些資料。
-
給予使用者控制權
允許使用者檢閱、編輯或刪除其資料。
-
考慮下游後果
思考所收集的資料在應用程式以外的使用方式，以及可能造成的影響。
- 您將如何設計使用者介面和同意程序，以確保使用者給予真正知情的同意？
- 您會實施哪些分層安全措施來保護資料？
精準度與人為監督
人工智慧可能擁有驚人的力量，但即使是最精密的模型也可能出錯。其中一個例子是「人工智慧幻覺」，系統會自信地產出完全虛假或捏造的資訊。
這些錯誤可能源於人工智慧在訓練過程中使用了不完整的數據、基於錯誤的假設，或傾向於生成能滿足使用者需求的輸出結果——即使這些結果本身存在謬誤。正因如此，人為監督至關重要。面對人工智慧產出的結果時，應秉持批判性參與的思維：對系統產出的內容進行評估、質疑並置於情境中審視。
與其將人工智慧視為無懈可擊的權威，更應視其為輔助判斷的工具——它能提供洞見，但最終決策權仍應掌握在人類手中。舉例而言，假設某醫療應用程式搭載的人工智慧系統負責生成醫學論文摘要。若該系統憑空杜撰原始文獻未提及的細節，使用者便可能基於錯誤資訊做出決策。此時，由人工審核員及時發現並修正謬誤，方能避免嚴重危害在影響真實患者前得以防範。
- 誰來檢查輸出？
- 如何標示和處理錯誤？
透明度與可解釋性
無論是開發者或使用者，都應能理解人工智慧如何做出特定推薦或決策——包括演算法的邏輯、人工智慧的訓練方式、資料的處理與標註過程，以及模型效能的評估機制。
隨著人工智慧日益被用於高風險決策（例如招聘、醫療診斷、貸款審批或投資建議），其不準確或帶有偏見的輸出結果可能造成嚴重後果，影響個人職涯、財務狀況，甚至健康與安全。
您可以運用簡潔的視覺化呈現、簡短的文字說明或互動式示範來展示系統運作原理。關鍵在於提供使用者足夠的洞察力，使其 能夠做出明智決策、提出疑問，並理解人工智慧輸出結果背後的邏輯依據。
- 如何讓使用者清楚瞭解 AI 的決策？
無障礙與包容性
AI 應該對每個人都有用，包括殘障人士、不會說英文的人、沒有高速網際網路的人，以及不熟悉科技的人。
- 是否會出現可能排斥失明使用者的視覺介面？
- 可能會排斥失聰使用者的音訊輸入又如何？
- 您的使用者是否具備技術知識，能輕鬆瀏覽並有效率地使用您的產品？
- 您會考慮使用您應用程式的非英語系使用者嗎？
環境影響
雖然人工智慧非常驚人，可以改變人們的生活，但也需要付出代價。訓練 AI 模型需要大量的計算能力，這會影響環境。儘管您的初始專案可能不會對環境造成重大影響，但您仍應考慮此問題可能會隨著專案規模擴大而浮現。
到 2030 年為 945 太瓦時
預計到 2030 年，為人工智慧提供動力的資料中心將消耗約 945 太瓦時（TWh）的電力——這比日本全年的總用電量還要多。根據國際能源署的數據，其中 60% 的能源仍將依賴化石燃料。
- 您可以如何使用現有的機器學習模型，而不是自行訓練？
- 您可以如何優化模型並使用較少的資料？
勞動力影響
AI 將許多以前由人類執行的任務自動化。您的專案可能會造成人們失去工作和收入，造成意想不到的傷害。
- 它是否會取代人類的工作，如果是的話，這些工人會發生什麼事？
- 誰會在經濟上獲益，誰又可能因此處於不利地位？
您應該知道的法規
道德設計超越了技術上合法的範圍，以確保您的產品是公平且值得信賴的。然而，在推出新技術時，您必須遵守一些法規和法律。
如果您的人工智能處理個人資料：
- GDPR (歐洲)：嚴格的隱私和資料保護規則
- CCPA（加州）：消費者隱私權
- COPPA (美國)：兒童資料保護
- HIPAA（美國）：醫療保健資料保護
如果您的專案使用 AI：
- 歐盟 AI 法 (2024)：將 AI 系統依風險（低、高、不可接受）分類。高風險系統 - 用於招聘、教育、醫療保健 - 必須符合嚴格的透明度、測試和文件規定。
- 美國人工智能權利法案：尚未成為法律，但概述了一些原則，例如保護免受演算法偏見、資料隱私，以及關鍵決策的人類替代方案。
- 其他框架：加拿大的 AI 與資料法案、新加坡的 Model AI Governance Framework 以及 OECD AI Principles 都強調問責性、公平性與可解釋性。
- 智慧財產 (IP)：謹慎使用可能會產生版權內容的生成式人工智能。避免在您自己模型的訓練資料集中使用受版權保護的資料。
成為有道德的創造者是一段旅程
AI 功能強大，但絕不完美。模型會不斷演進、從新資料中學習，並且與使用者互動的方式可能會產生意想不到的結果。這表示倫理考量並非一次性的清單，而是需要持續關注。
請記住，我們的目標不只是建立一個今天就能運作的 AI 解決方案，而是要建立一個明天及以後都能持續公平、安全、有益地運作的解決方案。
你和你的團隊應時刻自問：「我們現在能做些什麼，讓產品更具社會責任感？」 隨著時間推移，你們的 價值觀或所處環境可能產生變化，因此必須持續進行這類反思。
請牢記以下要點：
- 持續學習：精進技能、勇於提問，並思考如何讓產品更具社會責任感。
- 始終以行善為目標：這不僅是避免做壞事——而是懷抱著明確的使命，以仁慈公正的方式幫助你的社群。
- 將其納入計劃：為倫理議題預留時間與精力，就像你為產品外觀設計或編寫程式碼所投入的那樣。
- 設立團隊RRI領導者：負責提醒全體成員保持責任感，尤其當大家忙於新構想且情緒高漲時。
- 尋求支援：若對業務中的某項行為是否符合道德存有疑慮，請勿猶豫向同儕、導師、用戶或專業人士尋求協助。
活動 1
您的持續 AI 道德行動計畫
預計時間：30 分鐘
合乎倫理的建築是一個持續的過程。使用工作表中的問題來思考您在專案中將如何處理道德問題。
記住要保持好奇心！AI 世界永遠都在變化，成為一名偉大的創新者意味著永遠都要學習。您現在不僅有能力打造令人驚豔的產品，也有能力以道德的方式引導它走向未來。
其他資源
在 Stuart Russel 教授的這場演講中，他深入探討了人工智慧的倫理問題，並進一步強調負責任的設計、監督和考量社會影響的重要性。
