- 思考技术和人工智能的伦理问题
- 确保您的应用程序将对利益相关者产生积极影响
道德与行动
什么是伦理？
- 关于是非 对错 的道德原则
- 技术和人工智能世界的重要性
- 您不想造成伤害，即使是意外伤害
- 您的项目必须有助于人类和社会
什么是算法偏差？
- 程序员使其程序对某些用户的待遇优于其他用户
- 或者人工智能模型的训练不使用不同的样本
- 对某些用户造成不公平的结果
- 这可能不是故意的，但仍会对用户造成负面影响
查看本视频，了解有关算法偏见的更多信息。
技术的负面影响
我们每天都在使用技术，却往往没有意识到技术究竟在做什么--我们对它的反应如何，它对我们的心理有什么影响。
2021 年 10 月，Facebook（现为 Meta）通过自己的研究发现，它已经意识到自己对部分用户造成的伤害，但却没有采取任何措施来解决这一问题。
"据报道，研究人员写道："32% 的少女表示，当她们对自己的身体感觉不好时，Instagram（Facebook 旗下）会让她们感觉更糟。据报道，Facebook 还发现，14% 的美国男孩表示，Instagram 让他们对自己感觉更糟。
不要伤害
在《华尔街日报》发表文章后，Facebook 举报人提供了 进一步的信息：
- 脸书宣传虚假信息
- 无视某些用户的仇恨言论和非法活动。
像 Facebook 这样的软件公司在全球具有如此大的影响力，因此有责任确保其软件不会造成任何伤害。
虽然您刚刚起步，没有 Facebook 或 Instagram 的影响力，但您仍然需要仔细考虑谁会使用您的产品，以及他们可能会受到什么影响。
承诺确保您的项目只产生积极影响！
支持者
在开发项目时，您需要考虑利益相关者。
利益相关者是指受项目决策或行动影响的人或实体。
直接利益相关者
- 您的用户
间接利益攸关方
- 人或组织可能受您的技术影响，但不一定是直接影响。
例如，TikTok 的用户就是其直接利益相关者。
但它也有一些间接的利益相关者，如
- 其音乐在 TikTok 上播放的音乐艺术家
- 受益于 TikTok 的影响者
- 学校，因为学生会受到他们在 TikTok 上观看的内容的影响
这段视频更详细地解释了利益相关者以及其他制作道德技术的要点。
以下是开发应用程序时需要考虑的一些事项。
- 您的应用程序会收集用户数据吗？
- 您的用户知道吗？
- 您有收集数据的许可吗？
- 您采取了哪些措施来保护他们的数据隐私？
- 您在应用程序中提供的建议或信息是否准确？
- 你怎么知道？
应用程序示例
想象一下，一款名为 "杂草探测器 "的移动应用程序可以预测植物是否是杂草。让我们来了解一下，使用 "杂草探测器 "应用程序时，您会考虑哪些道德问题。
确保数据集能代表正在分类的对象。
数据应反映应用程序的使用人群。如果您的数据存在偏差，应用中使用的人工智能模型可能会犯错误。
如果数据集只包含在沙漠中发现的杂草图像怎么办？
如果我们在水边的植物上使用该应用程序，它很可能无法工作，因为它并没有使用这些类型植物的图像进行训练。
该应用程序偏爱沙漠植物！
考虑您将为应用程序编写的每项决策。
它是否会做出一些您最初没有考虑到的决定？
如果杂草探测器将番茄植株识别为杂草怎么办？这可能会对打算食用它的人和花园里的昆虫造成负面影响。
您能分辨出这些植物中哪一种是杂草吗？如果不确定，你会怎么做？
当人们在自家花园中使用该应用程序时，它可能会收集有关其住宅位置的数据。它可能会共享有关住宅位置的敏感信息--这是一个问题！
必须仔细考虑应用程序共享的信息。 用户应该相信您的项目会尊重他们的信息，不会滥用这些信息。如果一个陌生人以某种方式知道了您的秘密，您会作何感想？
作为开发者 我们有责任我们的技术如何与人互动，我们应该时刻注意我们的发明可能产生的潜在影响。
活动：道德之旅
确保您的应用程序只产生积极影响
- 确定直接和间接的利益相关者。
- 按照问题流程图，检查您是否正在竭尽全力使您的项目产生积极影响。
反思
既然您已经了解了更多有关道德规范的知识，并知道自己有责任确保项目只产生积极影响，那么请考虑这些问题：
关键术语回顾
- 道德- 影响人们如何判断对错的一套道德原则
- 偏见- 某人先入为主的想法，往往对某些人或群体不公平
- 利益相关者- 将影响组织或企业的决策或行动或受其影响的人或实体
其他资源
这里有更多关于科技伦理和积极影响的视频。
很好地诠释了为什么考虑自己创造的技术的影响很重要。
性别阴影项目促进人工智能产品测试的包容性。
