- テクノロジーとAIの倫理を考える
- アプリがステークホルダーにポジティブな影響を与えることを確認する
このレッスンのアクティビティ：
倫理と行動
倫理とは何か？
- 何が正しくて 何が間違っているかについての道徳原則
- テクノロジーとAIの世界で重要なこと
- 偶然であったとしても、危害を加えないこと
- プロジェクトは、人々や社会の役に立たなければならないこと
アルゴリズム・バイアスとは何か？
- プログラマーが、あるユーザーを他のユーザーより優遇するようなプログラムを作成すること
- あるいは、AIモデルは多様なサンプルを使用せずに学習されること
- 一部のユーザーに不公平な結果をもたらすこと
- 意図的でなくても、ユーザーに悪影響を与える可能性があること
アルゴリズム・バイアスについて詳しくは、このビデオをご覧ください。
テクノロジーの悪影響
私たちは皆、毎日テクノロジーを使っているが、そのテクノロジーが実際に何をしているのか、つまり私たちがテクノロジーにどう反応しているのか、テクノロジーが私たちの精神にどのように影響しているのかを気づいていないことが多いでしょう。
2021年10月、フェイスブック（現メタ）が独自の調査を通じて、一部のユーザーに害を与えていることを認識していたにもかかわらず、事態の収拾に何も手を打たなかったことが明らかになりました。
「10代の女子の32％が、自分の体について嫌な気分になったとき、（フェイスブックが所有する）インスタグラムが気分を悪くさせたと答えた」と研究者たちは書いている。フェイスブックはまた、米国の男子の14％が、インスタグラムによって自分自身のことを悪く感じるようになったと答えたと報じている。
危害を加えない
ウォール・ストリート・ジャーナル紙の記事を受け、フェイスブックの内部告発者がさらなる情報を提供しています：
- フェイスブックが偽情報を宣伝
- 特定のユーザーからのヘイトスピーチや違法行為を無視
フェイスブックのようなソフトウェア企業は世界中に大きな影響力を持っており、そのソフトウェアが害を及ぼさないようにする責任があります。
まだ始めたばかりで、フェイスブックやインスタグラムのような影響力はないとはいえ、誰があなたの製品を使い、それによってどのような影響を受けるかを注意深く考える必要があります。
プロジェクトがポジティブな影響しか与えないことを誓いましょう！
ステークホルダー
プロジェクトを開発する際には、ステークホルダーを考慮する必要があります。
ステークホルダーとは、プロジェクトによる決定や行動によって影響を受ける人々や団体のことです。
直接的なステークホルダー
- ユーザー
間接的なステークホルダー
- あなたの技術によって影響を受ける可能性のある人または組織。
例えば、TikTokのユーザーは直接的なステークホルダーです。
しかし、間接的なステークホルダーもいます：
- TikTokで再生されている音楽アーティスト
- TikTokを利用することで利益を得るインフルエンサーたち
- 学校（生徒はTikTokで見るものに影響されるから）
このビデオでは、ステークホルダーについてより詳しく説明するとともに、倫理的なテクノロジーを作るためのその他の重要なポイントについても解説しています。
アプリを開発する際に考えるべきことをいくつか挙げてみます。
- アプリはユーザーデータを収集していますか？
- ユーザーはそれを知っていますか？
- ユーザーにデータ収集の許可を得ていますか？
- 個人情報を保護するために、どのような対策を講じていますか？
- アプリで提供するアドバイスや情報は正確ですか？
- 情報が正しいとどのようにわかりますか？
アプリの例
植物が雑草かどうかを予測する「雑草探知機」というモバイルアプリを想像してみてください。雑草検知アプリの倫理に関して、考えなければいけないことを順を追って説明します。
データセットが分類対象の代表的なものであることを確認します。
データはアプリが使用される母集団を反映したものでなければなりません。データに偏りがあると、アプリで使われるAIモデルが間違いを犯すかもしれません。
データセットに砂漠で見られる雑草の画像しか含まれていなかったらどうなりますか？
水辺の植物にこのアプリを使っても、おそらくうまくいかないだろう。
このアプリは砂漠の植物に偏っていることになります！
アプリをコーディングする際の各決定について考えてみましょう。
当初意図していなかったような決定を下す可能性はありますか？
もし雑草探知機がトマトの苗を雑草と識別したらどうなりますか？それを食べようと思っていた人や庭の昆虫に悪影響が出るかもしれません。
どれが雑草かわかりますか？わからなかったらどうする？
庭でアプリを使用すると、アプリが人の家の位置に関するデータを収集するのかもしれない。それは人々の家の位置に関する機密情報を共有するかもしれない！
アプリが共有する情報は、慎重に考慮されなければなりません。 ユーザーは、あなたのプロジェクトが自分の情報を尊重し、それを悪用しないことを信頼すべきです。もし見知らぬ人があなたの秘密を知っていたらどう思いますか？
開発者として 私たちは技術が人々とどのように相互作用するかについて責任を負い、私たちの発明がもたらしうる潜在的な影響に常に留意しなければなりません。
アクティビティ：エシカル・ジャーニー
アプリがポジティブな影響しか与えないようにする
- 直接・間接を問わず、利害関係者を特定します。
- 質問のフローチャートに従い、プロジェクトがポジティブな影響しか与えないよう、できることはすべてやっているかチェックします。
振り返り
倫理と、プロジェクトがポジティブな影響しか与えないようにするための役割について学んだところで、以下の質問について考えてみましょう：
主な用語のおさらい
- 倫理- 人々が何が正しいか間違っているかを決定する方法に影響を与える道徳原則のセット
- 偏見- 誰かが持っている先入観で、ある人やグループに対して不公平であることが多い
- ステークホルダー- 組織や企業が行う意思決定や行動に影響を与える、または影響を受ける人々や団体
追加リソース
テクノロジーにおける倫理とポジティブ・インパクトに関するビデオはこちらです。
なぜ、自分が創造するテクノロジーが与える影響を考慮することが重要なのかについて、良く述べられています。
ジェンダー・シェード・プロジェクトは、AIのための包括的な製品テストを推進しています。
