責任ある研究とイノベーション

  • 責任ある研究とイノベーション(RRI)の概念を理解する。
  • なぜRRIが重要なのかを分析する
  • RRIの原則を学ぶ反映と予測

責任ある研究とイノベーション(RRI)

このレッスンでは、世界に与える影響について考えることで、あなたの素晴らしいアプリのアイデアをさらに良いものにする方法について掘り下げていきます。 

責任ある研究とイノベーション(RRI)とは?

テクノロジーが私たちの予期せぬ形で人々や地球にどのような影響を与えるか、考えるのをやめたことがあるだろうか? 

によるとレスポンシブルAI UK責任ある研究とイノベーションとは

将来、それが人々
や環境にどのような影響を与えるかを予測しながら研究と革新を行うことで、私たちは最大の利益を得、害を避けることができる。
.

RRIは、私たちが新しいものを創造する際に、すべての人に利益をもたらし、否定的な結果を招かないような方法で行うことを確認するためのものです。 RRIは、私たちの創造的な力を善のために使い、自分がなぜそのようなことをしているのかを理解する助けとなる。

エリア・フレームワーク

RRIの原則を適用するための、シンプルで実践的なガイドです。の略である:

A予想する潜在的な結果を想定する。何が起こり得るか?

R振り返る私たちの目標と方法について。なぜこのようなことをするのか?

Egage さまざまな人々やコミュニティと誰が関わるべきか?

Act 学んだことについて私たちは何をすべきか?

このレッスンでは、最初の2つに焦点を当てる: 予測するそして 振り返る.

予想する:先を読む

これは、未来について想像力を働かせることだ。 もしかしたら、あなたのアプリが誤って多くの個人情報を共有してしまうかもしれないし、デジタルデバイド(情報格差)を生み出し、それを使える人と使えない人が出てくるかもしれない。

予測することで、潜在的な問題を早期に発見し、問題が起こる前に解決することができる。長旅に出る前に地図を見るようなものだ。つまり、あなたのアプリで起こりうるすべてのことを想像するのです。 

予想するということは、予想外の事態に備えるということだ。

立ち止まって話し合う:

あなたのアプリのアイデアに関連して:

何が問題なのか?

もし誰かが、あなたが思いもよらないような使い方をしたら?

あるいは、後になって問題が出てきたら?

girls discussing

リフレクト内側を見る

リフレクションとは、自分自身の動機や選択を見つめ直し、なぜそのようなことをしているのかを明確に認識することである。自分自身やチームと向き合うチャンスでもある。これは、プロジェクトが本来の目的と価値観に忠実であることを確認し、正しい軌道を維持するのに役立ちます。 

アプリが新しい機能を追加するにつれて変化するように、あなたのアイデアも変化するかもしれません。プロジェクト全体を通して振り返りを行い、次のことを確認する必要があります。 プロジェクト全体を振り返り、すべての選択が良い方向へ導いてくれることを確認する必要がある。

例を見てみよう。

1.医師が病気を診断するのを助けるAIアプリを想像してみてほしい。
これはAIの非常に前向きな使い方だ!しかし、AIを訓練するために使用されたデータが、ほとんどあるグループの人々(特定の国の成人など)から得られたものだったらどうだろう?AIは他のグループの人々にはうまく機能せず、不正確な診断につながるかもしれない。
2.予測し、振り返る
開発者は、ある地域やグループのみからのデータでシステムをトレーニングすると、不公平な結果(バイアス)につながる可能性があることを予測し、認識しなければならない。

自分たちの価値観や目的を振り返った上で、さまざまな国や地域から多様なデータを積極的に収集する。 これにより、AIが誰にとっても正確であることを保証し、健康格差の悪化を食い止め、これまで公平に代表されてこなかったコミュニティとの信頼関係を築くことができる。
3.開発者は自問すべきである:
  • AIがミスをしたら?
  • 医師はAIの診断の信頼度をどうやって知るのだろうか?
このような問いかけをすることで、さまざまなアプローチを模索し、新しい機能を生み出し、より包括的なデータセットを使用することができる。

ストップ&ディスカッション

このシナリオで、開発者が自らに問うべき質問が他にあるだろうか?

girls discussing

責任あるイノベーターであることの重要性をより実感していただくために、このビデオをご覧ください。

アクティビティ:予測し、振り返る

所要時間30分

さて、学んだことを自分のプロジェクトのアイデアに応用してみよう!

以下の質問を参考に、チームでブレインストーミングを行いましょう。自分たちに正直になることを忘れないでください。これは、あなたのプロジェクトが、単にうまくいくからというだけでなく、世の中のためになるからこそ、心から誇れるものであることを確認するチャンスなのです!
ワークシートのダウンロード

振り返り

クールなアプリを作るだけでなく、責任あるアプリを作るための2つの重要なツールについて学びました:予測すること」と「振り返ること」だ。

mountain reflection
あなたの "予想する "答えに基づいて、今あなたのプロジェクトに変更または追加する必要がありそうなことは何ですか?
RRIについて考えることで、毎日使っているアプリ(ソーシャルメディアやゲームなど)の見方はどう変わりましたか?

追加リソース

  • 予想と考察を深めるには、ノッティンガム大学がTrustworthy Autonomous Systems Hubと共同で作成した資料をご覧ください
  • Code.orgのビデオで、AIにおける平等なアクセスとアルゴリズム・バイアスについて詳しく学ぶ。