- 探讨为什么人工智能伦理对负责任的创新至关重要。
- 了解常见的道德挑战，如偏见、隐私、透明度等。
- 理解负责任的研究与创新（RRI）框架及其如何融入项目伦理计划
- 学习确保人工智能系统保持公平、准确和可追责的方法。
- 思考如何从一开始就将伦理思考纳入自己的人工智能项目，并将其视为一个持续的过程。
人工智能伦理
随着人工智能日益强大，我们必须认清现有工具的局限性，并思考所创造事物带来的广泛影响。人工智能可能存在不公、会犯错误，若被滥用更会造成危害。正因如此，作为开发者和创业者，我们需要以审慎的态度对待自己的工作。
当我们听到“伦理”这个词时，它听起来或许有些正式或复杂，但本质上它关乎的是提出问题。
“这公平吗？这可能对谁有利，又可能对谁不利？”
核心要义：人工智能是人类创造的技术产物，其中蕴含着我们对行动优先级、数据学习来源及成功定义的偏见。即便初衷再美好，人工智能本质上也存在缺陷。关键在于认清其可能出错之处，并负责任地运用这项技术。
项目中的人工智能伦理
在项目初期阶段，思考伦理将如何影响最终解决方案为时不晚。以下原则可作为指南，助您深入具体地思考人工智能项目的伦理问题，特别是您所负责的项目。请仔细阅读并结合自身项目思考相关问题。
不伤害
简单而强大。尽管大多数创造者无意造成损害，但人工智能的影响往往超出预期。一个系统可能会做出表面上看起来很有帮助的决定或建议，但一旦扩大规模，就会无意中对人们造成不利或误导。
"不造成伤害 "意味着不断询问技术可能会出现什么问题，谁可能会受到影响，以及有哪些系统可以最大限度地降低风险。
实例：社区安全应用程序出错社区安全应用程序出错
问题
一个团队开发了一款由人工智能驱动的社区安全应用程序，利用社交媒体和当地报告中的数据，提醒用户注意附近"潜在的不安全情况"。其目标是通过帮助人们保持警惕和规避风险，使社区更加安全。
但用户和社区团体注意到一个令人担忧的趋势：即使没有发生任何事件，该应用程序也会向边缘化人口较多的社区发送更多警报。人工智能根据有偏见的历史数据和语言模式进行训练，学会了将某些地区和词语与危险联系起来。
尽管开发者无意强化陈规定型观念，但危害已经造成--该应用程序丑化了社区，助长了社会分裂和不信任。
更好的方法
这个团队让来自不同社区的社区成员参与到设计过程中，而不仅仅是数据科学家。他们在不同的人口地区测试了他们的模型，并测量了偏差。
他们没有依赖社交媒体的情绪，而是使用了官方警方报告等透明的数据源。每个警报都包含一个解释（例如，"警报基于：本周报告的 3 起入室盗窃案"）和一个供用户标记虚假或有偏见警报的功能。
因此，该应用在提升社区安全意识的同时，避免了对特定区域的污名化。当检测到数据偏差（警报集中在某些区域时），他们会进行调查并修正数据，进而更新模型。
- 有哪些具体的内置系统可以快速检测到这些故障并将由此产生的风险降至最低？
偏见与公平
人工智能归根结底是人类的创造，可能会反映出创造者的假设和优先事项。如果用于训练人工智能的数据是通过有偏见的视角收集的，就会强化不正确的假设，结果就会出现难以预料的偏差。
实例：工作招聘中的偏见
这项研究发现，旨在简化求职申请处理程序的人工智能工具存在与种族和性别相关的偏见。人工智能工具在很大程度上偏爱与高加索男性相关的名字。随着人工智能在招聘过程中的广泛应用，这一发现使人们对这些工具的公平性产生了质疑。
解决偏见问题需要觉察、反思和有意识的行动。用户需要对人工智能产出的内容保持批判性和怀疑态度。开发者必须审视所用数据，质疑模型背后的假设，并测试不同群体间的公平性。有时这意味着在设计阶段引入多元视角，对模型进行差异化结果审计，或调整算法以纠正失衡现象。
- 在数据收集和标记阶段将采取哪些具体步骤？
- 如何确保在人工智能模型的设计、测试和审核阶段切实纳入不同的观点？
隐私与数据
人工智能通常依赖大量个人数据才能有效运作。虽然这些数据有助于人工智能提供有用的建议或服务，但也引发了有关隐私的重要伦理问题。
例如，一款跟踪用户活动以推荐本地服务的应用程序可能会无意中暴露出有关个人生活习惯、偏好或信仰的敏感细节。这些细节一旦落入不法分子之手，就可能被滥用，甚至会微妙地影响其他地方的算法如何对待用户。
-
只收集您需要的东西
将数据收集限制在应用程序运行所需的信息范围内。
-
获得明确的同意
确保用户了解收集的数据内容和原因，并提供选择加入或退出的选项。
-
尽可能匿名化数据
删除可识别个人身份的信息，以降低数据暴露后的风险。
-
安全存储数据
使用加密、安全服务器和强大的访问控制来保护用户信息。
-
透明
明确告知收集哪些数据、如何使用这些数据以及谁可以访问这些数据。
-
赋予用户控制权
允许用户查看、编辑或删除自己的数据。
-
考虑下游后果
考虑收集到的数据如何用于应用程序以外的用途，以及可能产生的影响。
- 您将如何设计用户界面和同意程序，以确保用户做出真正知情的同意？
- 您将采取哪些分层安全措施来保护数据？
准确性与人工监督
人工智能可能极其强大，但即便是最复杂的模型也可能出错。其中一个例子就是"AI幻觉"——系统会自信地产生完全虚假或捏造的信息。
这些错误可能源于人工智能在不完整数据上训练、基于错误假设构建，或倾向于生成满足用户需求的输出结果——即便这些结果存在谬误。正因如此，人工监督至关重要。面对人工智能的输出，我们应当秉持批判性思维：对系统产出的内容进行评估、质疑并置于具体语境中审视。
与其将人工智能视为无懈可击的权威，不如将其视为辅助判断的工具——它能提供洞见，但最终决策权仍应掌握在人类手中。例如，设想一个为医疗应用生成论文摘要的人工智能系统。若该系统凭空杜撰出原始文献中不存在的细节，用户可能基于虚假信息做出决策。而人工审核员若能及时发现并修正这些错误，便能在实际危害波及患者前予以防范。
- 谁来检查产出？
- 如何标记和处理错误？
透明度与可解释性
无论是开发者还是使用者，都应能够理解人工智能如何做出特定推荐或决策——包括算法的逻辑、人工智能的训练方式、数据的处理与标注过程，以及模型性能的评估方法。
随着人工智能越来越多地被用于高风险决策（如招聘、医疗诊断、贷款审批或投资建议），其不准确或存在偏见的输出结果可能造成严重后果，影响个人职业生涯、财务状况，甚至健康与安全。
您可以通过简洁的可视化展示、简短的文字说明或交互式演示来呈现系统运作原理。关键在于为用户提供充分的洞察力，使其 能够做出明智决策、提出问题，并理解人工智能输出结果背后的逻辑依据。
- 如何让用户清楚、明白地理解人工智能的决策？
无障碍与包容性
人工智能应该为所有人服务，包括残疾人、不会说英语的人、没有高速互联网的人以及不熟悉技术的人。
- 视觉界面是否会排斥盲人用户？
- 音频输入可能会排斥聋人用户，怎么办？
- 您的用户是否掌握技术知识，能够轻松浏览并高效使用您的产品？
- 您是否会考虑到使用您应用程序的非英语使用者？
环境影响
虽然人工智能令人惊叹，可以改变人们的生活，但它也是有代价的。训练人工智能模型需要大量的计算能力，这会影响环境。尽管您的初始项目可能不会对环境造成重大影响，但您仍应考虑到随着项目规模的扩大，这一问题可能会凸显出来。
到 2030 年达到 945 太瓦时
预计到2030年，支撑人工智能运行的数据中心将消耗约945太瓦时的电力——这一数字超过了日本全年的总用电量。据国际能源署称，其中60%的能源仍将依赖化石燃料。
- 如何使用现有的机器学习模型，而不是自行训练？
- 如何优化模型并减少数据使用量？
劳动力影响
人工智能将许多以前由人类完成的任务自动化。您的项目可能会造成意外伤害，使人们失去工作和收入。
- 它是否会取代人类的工作，如果是，这些工人会怎样？
- 谁会因此而在经济上受益，谁又会因此而处于不利地位？
您应该了解的法规
道德设计超越了技术上的合法性，以确保产品的公平性和可信度。然而，在推出新技术时，您必须遵守一些法规和法律。
如果您的人工智能处理个人数据：
- GDPR （欧洲）：严格的隐私和数据保护规则
- CCPA（加利福尼亚州）：消费者隐私权
- COPPA（美国）：儿童数据保护
- HIPAA（美国）：医疗数据保护
如果您的项目使用人工智能：
- 欧盟人工智能法案（2024 年）：按风险（低、高、不可接受）对人工智能系统进行分类。高风险系统--用于招聘、教育、医疗保健--必须符合严格的透明度、测试和文档记录规则。
- 美国人工智能权利法案：尚未成为法律，但概述了一些原则，如防止算法偏见、数据隐私和关键决策的人类替代方案。
- 其他框架：加拿大的《人工智能与数据法》、新加坡的《人工智能治理框架范本》以及经合组织的《人工智能原则》都强调了问责制、公平性和可解释性。
- 知识产权 (IP)：谨慎使用可能产生受版权保护内容的人工智能生成器。避免在自己模型的训练数据集中使用受版权保护的材料。
成为有道德的创作者是一段旅程
人工智能是强大的，但它永远不会完美。模型会不断演化，从新数据中学习，并以可能产生意想不到结果的方式与用户互动。这意味着伦理方面的考虑并非一次性清单，而是需要持续关注。
请记住，我们的目标不仅仅是建立一个今天能正常工作的人工智能解决方案，而是要建立一个在明天及以后能继续公平、安全、有益地工作的解决方案。
你和你的团队应时刻自问："我们现在能做些什么，让产品变得更负责任？" 随着时间推移，价值观 或环境可能发生变化，因此需要持续进行这种反思。
请牢记以下要点：
- 持续学习：提升技能，勇于提问，思考如何让产品更负责任。
- 始终以行善为目标：这不仅是避免做坏事——更在于怀抱明确使命，以仁慈公正的方式帮助你的社区。
- 将其纳入计划：为道德规范预留时间和精力，就像你为设计产品外观或编写代码所做的那样。
- 设立团队责任感倡导者：由专人提醒大家时刻保持责任意识，尤其当团队成员因新点子而忙碌兴奋时。
- 寻求支持：若对业务中的某些行为是否符合道德存疑，请不要害怕向同行、导师、用户或专业人士寻求帮助。
活动 1
您的持续人工智能道德行动计划
预计时间：30 分钟
道德建设是一个持续的过程。利用工作表中的问题，思考如何在项目中处理道德问题。
切记保持好奇心！人工智能世界总是在不断变化，而作为一名伟大的创新者，就意味着要始终保持学习的态度。现在，您不仅有能力打造令人惊叹的产品，还能以合乎道德的方式引导它走向未来。
其他资源
在斯图尔特-罗素教授的演讲中，他深入探讨了人工智能的伦理问题，并进一步强调了负责任的设计、监督和考虑社会影响的重要性。
