负责任的研究与创新

  • 了解 "负责任的研究与创新"(RRI)的概念
  • 分析 RRI 为何重要
  • 了解 RRI 原则:反思和预测

负责任的研究与创新(RRI)

在本课中,我们将深入探讨如何通过思考应用程序对世界的影响,让您的精彩创意更加出色。 

什么是负责任的研究与创新(RRI)?

你有没有停下来思考过,科技会以我们意想不到的方式影响人类和地球? 

根据负责任的人工智能英国,"负责任的研究与创新 "是指

在进行研究和创新时,要考虑到未来可能对人类
和环境产生的影响,这样我们才能最大限度地趋利避害。
.

RRI 就是要确保我们在创造新事物的过程中,能够造福于每个人,避免产生负面影响。 RRI 可以帮助我们将创造力用于公益事业,并理解为什么要这样做。

地区框架

是一本简单实用的指南,可帮助您应用 RRI 原则。它代表

A预测潜在的结果。可能发生什么?

R思考思考我们的目标和方法。我们为什么要这样做?

E工作 与不同的人和社区合作。谁应该参与?

A我们 我们学到了什么?我们应该怎么做?

本节课,我们将重点讨论前两个问题: 预测反思.

预测:提前思考

这就是发挥想象力,畅想未来。 也许你的应用程序会不小心分享太多个人信息,也许它会造成数字鸿沟,让一些人可以使用而另一些人不能。

预测可以帮助你及早发现潜在的问题,从而在问题发生之前加以解决。这就像在开始长途旅行前看地图一样。这意味着你要想象应用程序可能发生的一切情况。 

未雨绸缪意味着你对意外做好了准备。

停下来,讨论一下:

关于您的应用程序创意:

会出什么问题呢?

如果有人以你从未想到过的方式使用它呢?

如果以后出现问题怎么办?

girls discussing

反思:向内看

反思就是审视自己的动机和选择,清楚自己为什么要这样做。这是与自己和团队进行交流的机会。这有助于确保您的项目忠实于其最初的目的和价值,并使您保持正确的方向。 

就像您的应用程序会随着您添加新功能而改变一样,您的想法也可能会改变。您应该在整个项目中不断反思,以确保 您所做的每一个选择都是正确的。

举例说明

1.想象一下,一款人工智能应用程序能帮助医生诊断疾病。
这是人工智能的一个非常积极的用途!但是,如果用于训练人工智能的数据大多来自某一类人(比如来自某个特定国家的成年人)怎么办?人工智能对其他人群的效果可能就不会那么好,从而导致诊断不准确。
2.预测和反思
开发人员必须预料到并认识到,只用一个地区或一个群体的数据来训练他们的系统可能会导致不公平的结果(偏差)。

在对自己的价值观和目的进行反思后,他们积极从许多不同的国家和社区收集多样化的数据。 这可以确保人工智能对每个人都准确无误,有助于阻止健康差异恶化,并与过去没有得到公平代表的社区建立信任。
3.开发人员应扪心自问:
  • 如果人工智能出错了怎么办?
  • 医生如何知道人工智能诊断的可信度?
提出这些问题可以而且应该导致探索不同的方法、创建新的功能和使用更具包容性的数据集。

停谈

在这种情况下,你还能想到开发人员应该问自己的其他问题吗?

girls discussing

要更好地了解负责任的创新者的重要性,请观看这段视频。

活动:预测和反思

预计时间30 分钟

现在是时候把学到的知识应用到自己的项目创意中了!

以下列问题为指导,与团队一起集思广益。记住要诚实面对自己。这是一个确保你们的项目能够真正让你们引以为豪的机会,不仅因为它能发挥作用,还因为它能造福世界!
下载工作表

反思

您刚刚了解了两个重要工具,它们不仅能帮助您开发出酷炫的应用程序,还能帮助您开发出负责任的应用程序:预测反思

mountain reflection
根据你的 "预测 "答案,你现在可能需要在项目中更改或添加什么内容?
对 RRI 的思考如何改变了您对日常使用的应用程序(如社交媒体或游戏)的看法?

其他资源

  • 要深入了解预期和反思,请查看诺丁汉大学与可信自主系统中心合作编写材料
  • Code.org 提供的这段视频中,您将了解更多有关人工智能中的平等访问和算法偏见的信息。