- Réfléchir à l'éthique de la technologie et de l'IA
- Assurez-vous que votre application aura un impact positif sur les parties prenantes.
Voici les activités de cette leçon :
ÉTHIQUE ET ACTIONS
Qu'est-ce que l'éthique ?
- Principes moraux sur ce qui est bien ou mal
- Important dans le monde de la technologie et de l'IA
- Vous ne voulez pas faire de mal, même par accident.
- Votre projet doit aider les personnes et la société
Qu'est-ce que le biais algorithmique ?
- Lorsque le programmeur fait en sorte que son programme traite certains utilisateurs mieux que d'autres
- soit le modèle d'IA est formé sans utiliser d'échantillons diversifiés
- Créer des résultats injustes pour certains utilisateurs
- Elle peut ne pas être intentionnelle, mais peut néanmoins avoir un effet négatif sur les utilisateurs.
Consultez cette vidéo pour en savoir plus sur les biais algorithmiques.
L'IMPACT NÉGATIF DE LA TECHNOLOGIE
Nous utilisons tous la technologie tous les jours et sommes souvent inconscients de ce qu'elle fait réellement - comment nous y réagissons, ce qu'elle fait à notre psyché.
En octobre 2021, il a été révélé que Facebook (aujourd'hui Meta), grâce à ses propres recherches, était conscient du préjudice qu'il causait à certains de ses utilisateurs, mais n'a rien fait pour remédier à la situation.
"Trente-deux pour cent des adolescentes ont déclaré que lorsqu'elles se sentaient mal dans leur corps, Instagram (qui appartient à Facebook) les faisait se sentir encore plus mal", auraient écrit les chercheurs. Facebook aurait également constaté que 14 % des garçons aux États-Unis ont déclaré qu'Instagram les faisait se sentir plus mal dans leur peau.
NE PAS NUIRE
À la suite de l'article du Wall Street Journal, des dénonciateurs de Facebook ont fourni d'autres informations :
- Facebook a encouragé la désinformation
- ignoré les discours haineux et les activités illégales de certains utilisateurs.
Les éditeurs de logiciels tels que Facebook ont une influence considérable dans le monde entier et ont la responsabilité de s'assurer que leurs logiciels ne causent pas de tort.
Même si vous débutez et que vous n'avez pas la portée de Facebook ou d'Instagram, vous devez réfléchir attentivement aux personnes qui utiliseront votre produit et à la manière dont elles pourraient être affectées par celui-ci.
S'engager à ce que votre projet n'ait qu'un impact positif !
PARTIES PRENANTES
Au fur et à mesure que vous développez votre projet, vous devez tenir compte des parties prenantes.
Les parties prenantes sont des personnes ou des entités qui sont affectées par les décisions ou les actions prises dans le cadre de votre projet.
Parties prenantes directes
- vos utilisateurs
Parties prenantes indirectes
- les personnes ou les organisations qui qui peuvent être concernés par votre technologie, mais pas nécessairement de manière directe.
Par exemple, les utilisateurs de TikTok sont ses parties prenantes directes.
Mais il y a aussi des parties prenantes indirectes, comme par exemple :
- artistes dont la musique est diffusée sur TikTok
- Les influenceurs qui profitent de leur présence sur TikTok
- Les écoles, parce que les élèves sont influencés par ce qu'ils voient sur TikTok
Cette vidéo explique les parties prenantes plus en détail, ainsi que d'autres points clés pour la réalisation d'une technologie éthique.
Voici quelques éléments à prendre en compte lors du développement de votre application.
- Votre application recueille-t-elle des données sur les utilisateurs ?
- Vos utilisateurs le savent-ils ?
- Avez-vous l'autorisation de collecter les données ?
- Quelles mesures prenez-vous pour préserver la confidentialité de leurs données ?
- Les conseils ou les informations que vous fournissez dans votre application sont-ils exacts ?
- Comment le savez-vous ?
EXEMPLE D'APP
Imaginez une application mobile appelée Weed Detector qui prédit si une plante est une mauvaise herbe ou non. Passons en revue les aspects éthiques de l'application Weed Detector.
Assurez-vous que l'ensemble de données est représentatif des objets à classer.
Les données doivent refléter la population sur laquelle l'application est utilisée. Si vos données sont biaisées, le modèle d'IA utilisé dans l'application risque de commettre des erreurs.
Que se passe-t-il si l'ensemble de données ne contient que des images de mauvaises herbes trouvées dans le désert ?
Si nous utilisons l'application sur des plantes trouvées près de l'eau, elle ne fonctionnera probablement pas, car elle n'a pas été formée à partir d'images de ces types de plantes.
L'application a un penchant pour les plantes du désert !
Réfléchissez à chaque décision que vous allez coder pour votre application.
Y a-t-il des décisions qu'il pourrait prendre et que vous n'aviez pas prévues à l'origine ?
Que se passerait-il si le détecteur de mauvaises herbes identifiait un plant de tomate comme une mauvaise herbe ? Cela pourrait avoir un impact négatif sur les personnes qui prévoient de le manger et sur les insectes du jardin.
Pouvez-vous dire laquelle de ces plantes est une mauvaise herbe ? Que feriez-vous si vous n'étiez pas sûr ?
Il se peut que l'application recueille des données sur l'emplacement des maisons des utilisateurs lorsqu'ils utilisent l'application dans leur jardin. Elle pourrait partager des informations sensibles sur l'emplacement des maisons des utilisateurs - c'est un problème !
Les informations partagées par votre application doivent être soigneusement étudiées. Les utilisateurs doivent faire confiance à votre projet pour respecter leurs informations et ne pas les utiliser à mauvais escient. Comment vous sentiriez-vous si un inconnu connaissait vos secrets ?
En tant que développeurs, nous sommes responsables de la façon dont notre technologie interagit avec les gens et nous devrions toujours être conscients de l'impact potentiel de nos inventions.
ACTIVITÉ : VOYAGE ÉTHIQUE
Veillez à ce que votre application n'ait qu'un impact positif
- Identifiez les parties prenantes, directes et indirectes.
- Suivez l'organigramme des questions et vérifiez que vous faites tout ce qui est en votre pouvoir pour que votre projet n'ait qu'un impact positif.
RÉFLEXION
Maintenant que vous en savez plus sur l'éthique et sur le rôle que vous pouvez jouer pour que votre projet n'ait qu'un impact positif, posez-vous les questions suivantes :
RÉVISION DES TERMES CLÉS
- Éthique - Ensemble de principes moraux qui influencent la façon dont les gens décident de ce qui est bien ou mal.
- Préjugé - idées préconçues d'une personne qui sont souvent injustes à l'égard de certaines personnes ou de certains groupes.
- Parties prenantes - Personnes ou entités qui affecteront ou seront affectées par les décisions ou les actions prises par une organisation ou une entreprise.
RESSOURCES SUPPLÉMENTAIRES
Voici d'autres vidéos sur l'éthique et l'impact positif des technologies.
Un bon commentaire sur la raison pour laquelle il est important de prendre en compte l'impact de la technologie que vous créez.
Le projet "Gender Shades" promeut des tests de produits inclusifs pour l'IA.
