- Considerar la ética de la tecnología y la IA
- Asegúrese de que su aplicación tendrá un impacto positivo en las partes interesadas.
Éstas son las actividades para esta lección:
ÉTICA Y ACCIONES
¿Qué es la ética?
- Principios morales sobre lo que está bien y lo que está mal
- Importante en el mundo de la tecnología y la IA
- No quiere causar daños, aunque sea por accidente.
- Su proyecto debe ayudar a las personas y a la sociedad
¿Qué es el sesgo algorítmico?
- Cuando el programador hace que su programa trate a unos usuarios mejor que a otros
- o el modelo de IA se entrena sin utilizar muestras diversas
- Creación de resultados injustos para algunos usuarios
- Aunque no sea intencionado, puede afectar negativamente a los usuarios.
Visite video para saber más sobre el sesgo algorítmico.
EL IMPACTO NEGATIVO DE LA TECNOLOGÍA
Todos utilizamos la tecnología a diario y a menudo no somos conscientes de lo que hace, de cómo reaccionamos ante ella o de lo que afecta a nuestra psique.
En octubre de 2021, se reveló que Facebook (ahora Meta), a través de su propia investigación, era consciente del daño que estaba causando a algunos de sus usuarios y, sin embargo, no hizo nada para solucionar la situación.
"Treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con su cuerpo, Instagram (propiedad de Facebook) las hacía sentir peor", escribieron los investigadores. Según los informes, Facebook también descubrió que el 14% de los chicos de EE. UU. afirmaban que Instagram les hacía sentirse peor consigo mismos.
Wall Street Journal - Los archivos de Facebook
NO HACER DAÑO
Tras el artículo del Wall Street Journal, los denunciantes de Facebook han proporcionado más información que:
- Facebook promovió la desinformación
- ignoró la incitación al odio y la actividad ilegal de determinados usuarios.
Las empresas de software como Facebook tienen tanta influencia en todo el mundo y tienen la responsabilidad de asegurarse de que su software no hace daño.
Aunque estés empezando y no tengas el alcance de Facebook o Instagram, debes pensar detenidamente en quién utilizará tu producto y cómo podría afectarle.
Comprométase a que su proyecto sólo tenga un impacto positivo.
PARTICIPANTES
A medida que desarrolle su proyecto, deberá tener en cuenta a las partes interesadas.
Partes interesadas son personas o entidades que se ven afectadas por las decisiones o acciones de su proyecto.
Partes interesadas directas
- tus usuarios
Partes interesadas indirectas
- personas u organizaciones que pueden verse afectadas por su tecnología, pero no necesariamente de forma directa.

Por ejemplo, los usuarios de TikTok son sus accionistas directos.
Pero tiene algunas partes interesadas indirectas, como:
- artistas musicales cuya música se reproduce en TikTok
- Influencers que se benefician de estar en TikTok
- Escuelas, porque los alumnos se dejan influir por lo que ven en TikTok
En video se explican con más detalle las partes interesadas, así como otros puntos clave para hacer una tecnología ética.
He aquí algunos aspectos que debes tener en cuenta al desarrollar tu aplicación.
- ¿Recoge tu aplicación datos de los usuarios?
- ¿Lo saben sus usuarios?
- ¿Tiene permiso para recopilar los datos?
- ¿Qué medidas tomas para mantener la privacidad de sus datos?
- ¿Son precisos los consejos o la información que ofrece en su aplicación?
- ¿Cómo lo sabes?

EJEMPLO DE APLICACIÓN
Imagine una aplicación móvil llamada Detector de malas hierbas que predice si una planta es una mala hierba o no. Veamos qué aspectos éticos habría que tener en cuenta con la aplicación Weed Detector.
Asegúrese de que el conjunto de datos es representativo de los objetos que se van a clasificar.


Los datos deben reflejar la población en la que se utiliza la aplicación. Si tus datos tienen sesgos, el modelo de IA utilizado en la app podría cometer errores.
¿Y si el conjunto de datos sólo contiene imágenes de malas hierbas del desierto?
Si utilizamos la aplicación con plantas que se encuentran cerca del agua, probablemente no funcione, porque no se ha entrenado con imágenes de ese tipo de plantas.
La aplicación se inclina por las plantas del desierto.
Piensa en cada una de las decisiones que tomará tu aplicación.
¿Hay decisiones que podría tomar y que usted no tenía previstas en un principio?
¿Y si el detector de malas hierbas identifica una tomatera como mala hierba? Eso podría afectar negativamente a las personas que pensaban comérsela y a los insectos del huerto.
¿Puedes decir cuál de estas plantas es una mala hierba? ¿Qué harías si no estuvieras seguro?
Puede que la aplicación recopile datos sobre la ubicación de los hogares de las personas que la utilizan en su jardín. Podría compartir información sensible sobre la ubicación de los hogares de las personas, ¡y eso es un problema!
La información que comparte tu aplicación debe considerarse cuidadosamente. Los usuarios deben confiar en que tu proyecto respetará su información y no hará un mal uso de ella. Cómo te sentirías si un desconocido conociera tus secretos?
Como desarrolladores, somos responsables de cómo nuestra tecnología interactúa con las personas y siempre debemos ser conscientes del impacto potencial que pueden tener nuestras invenciones.
ACTIVIDAD: VIAJE ÉTICO
Asegúrese de que su aplicación sólo tenga un impacto positivo
- Identifique quiénes son sus partes interesadas, tanto directas como indirectas.
- Siga el diagrama de preguntas y compruebe que está haciendo todo lo posible para que su proyecto sólo tenga repercusiones positivas.
REFLEXIÓN
Ahora que ha aprendido más sobre la ética y su papel a la hora de asegurarse de que su proyecto sólo tenga un impacto positivo, considere estas preguntas:

REVISIÓN DE TÉRMINOS CLAVE
- Ética - conjunto de principios morales que afectan al modo en que las personas deciden lo que está bien o mal
- Prejuicio - ideas preconcebidas que alguien tiene y que suelen ser injustas para algunas personas o grupos
- Partes interesadas - personas o entidades que se verán afectadas por las decisiones o acciones de una organización o empresa.
RECURSOS ADICIONALES
Aquí tiene más videos sobre ética e impacto positivo en la tecnología.
Buen comentario sobre por qué es importante tener en cuenta el impacto de la tecnología que creas.
El proyecto Gender Shades promueve pruebas de productos inclusivos para la IA.