Recherche et innovation responsables

  • Comprendre le concept de recherche et d'innovation responsables (RRI)
  • Analyser l'importance de la RRI
  • Découvrez les principes de RRI : Réfléchir et Anticiper

RECHERCHE ET INNOVATION RESPONSABLES (RRI)

Dans cette leçon, nous verrons comment vous pouvez améliorer vos idées d'applications en pensant à leur impact sur le monde. 

Qu'est-ce que la recherche et l'innovation responsables (RRI) ?

Vous êtes-vous déjà arrêté pour réfléchir à la façon dont la technologie peut affecter les gens et la planète d'une manière inattendue ? 

Selon Responsible AI UKla recherche et l'innovation responsables signifient

Faire de la recherche et de l'innovation de manière à anticiper la façon dont elles pourraient affecter les personnes
et l'environnement à l'avenir, afin d'en tirer le plus grand bénéfice et d'éviter les dommages..

RRI consiste à s'assurer que lorsque nous créons de nouvelles choses, nous le faisons d'une manière qui profite à tous et qui évite les conséquences négatives. RRI nous aide à utiliser notre pouvoir créatif pour le bien et à comprendre pourquoi vous faites ce que vous faites.

LE CADRE RÉGIONAL

est un guide simple et pratique pour vous aider à appliquer les principes de RRI. Il est synonyme de :

Anticiper les résultats potentiels. Que pourrait-il se passer ?

Reflexion sur nos objectifs et nos méthodes. Pourquoi faisons-nous cela ?

Engage avec différentes personnes et communautés. Qui doit être impliqué ?

Act sur ce que nous apprenons. Que devrions-nous faire ?

Source : "RRI Toolkit", RAI Uk

Dans cette leçon, nous nous concentrerons sur les deux premières : Anticiper et Réfléchir.

ANTICIPER : PENSER À L'AVANCE

Il s'agit d'utiliser son imagination pour penser à l'avenir. Peut-être que votre application pourrait accidentellement partager trop d'informations personnelles, ou qu'elle pourrait créer une fracture numérique, certaines personnes pouvant l'utiliser et d'autres non.

L'anticipation vous permet de repérer rapidement les problèmes potentiels et de les résoudre avant qu'ils ne surviennent. C'est comme regarder une carte avant d'entreprendre un long voyage. Cela signifie que vous imaginez tout ce qui pourrait se produire avec votre application. 

Anticiper, c'est se préparer à l'inattendu.

S'ARRÊTER ET DISCUTER :

En relation avec votre idée d'application :

Qu'est-ce qui pourrait mal tourner ?

Et si quelqu'un l'utilisait d'une manière à laquelle vous n'auriez jamais pensé ?

Et si un problème surgit plus tard ?

girls discussing

REFLECHIR : REGARDER VERS L'INTÉRIEUR

La réflexion consiste à examiner ses propres motivations et choix afin de comprendre clairement pourquoi on fait ce que l'on fait. C'est l'occasion de faire le point avec vous-même et votre équipe. Cela permet de s'assurer que votre projet reste fidèle à son objectif et à ses valeurs initiales et vous maintient sur la bonne voie. 

Tout comme votre application évoluera au fur et à mesure que vous ajouterez de nouvelles fonctionnalités, vos idées pourront également changer. Vous devez continuer à réfléchir tout au long du projet pour vous assurer que que chaque choix que vous faites vous mène toujours dans la bonne direction.

VOYONS UN EXEMPLE

1. Imaginez une application d'IA qui aide les médecins à diagnostiquer les maladies.
Il s'agit là d'une utilisation très positive de l'IA ! Mais qu'en est-il si les données utilisées pour former l'IA proviennent principalement d'un groupe de personnes (comme les adultes d'un pays spécifique) ? L'IA pourrait ne pas fonctionner aussi bien pour d'autres groupes de personnes, ce qui conduirait à des diagnostics inexacts.
2. Anticiper et réfléchir
Les développeurs doivent anticiper et réaliser que la formation de leurs systèmes avec des données provenant d'un seul domaine ou groupe peut conduire à des résultats injustes (biais).

Après avoir réfléchi à leurs valeurs et à leur objectif, ils collectent activement des données diverses provenant de nombreux pays et communautés différents. Cela permet de s'assurer que l'IA est exacte pour tout le monde, d'empêcher les différences de santé de s'aggraver et d'instaurer un climat de confiance avec les communautés qui n'ont pas été équitablement représentées dans le passé.
3. Les développeurs doivent se poser la question :
  • Que se passe-t-il si l'IA commet une erreur ?
  • Comment les médecins connaîtront-ils le niveau de confiance de l'IA dans son diagnostic ?
Poser ces questions pourrait et devrait conduire à explorer des approches différentes, à créer de nouvelles fonctionnalités et à utiliser des ensembles de données plus inclusifs.

S'ARRÊTER ET DISCUTER

Dans ce scénario, pouvez-vous penser à d'autres questions que les développeurs devraient se poser ?

girls discussing

Pour mieux comprendre l'importance d'être un innovateur responsable, regardez cette vidéo.

ACTIVITÉ : ANTICIPER ET RÉFLÉCHIR

Durée estimée : 30 minutes

Il est maintenant temps d'appliquer ce que vous avez appris à votre propre idée de projet !

Utilisez les questions suivantes comme guide pour faire un brainstorming avec votre équipe. N'oubliez pas d'être honnêtes avec vous-mêmes. C'est l'occasion de vous assurer que votre projet est quelque chose dont vous pouvez être vraiment fiers, non seulement parce qu'il fonctionne, mais aussi parce qu'il fait du bien dans le monde !
Télécharger la feuille de travail

RÉFLEXION

Vous venez de découvrir deux outils importants pour créer non seulement des applications sympas, mais aussi des applications responsables: Anticiper et Réfléchir.

mountain reflection
Quelle est la chose que vous pourriez avoir besoin de changer ou d'ajouter à votre projet maintenant en fonction de vos réponses à la question "Anticiper" ?
Comment la réflexion sur la RRI a-t-elle changé la façon dont vous considérez les applications que vous utilisez tous les jours (comme les médias sociaux ou les jeux) ?

RESSOURCES SUPPLÉMENTAIRES

  • Pour aller plus loin dans l'anticipation et la réflexion, consultez les documents créés par l'université de Nottingham en collaboration avec le Trustworthy Autonomous Systems Hub.
  • En savoir plus sur l'égalité d'accès et les biais algorithmiques dans l'IA dans cette vidéo de Code.org
Leçon précédente
Retour au cours
Leçon suivante