- Considerarás la ética de la tecnología y la IA
- Te asegurarás de que tu aplicación tendrá un impacto positivo en las partes interesadas.
Estas son las actividades para esta lección:
ÉTICA Y ACCIONES
¿Qué es la ética?
- Principios morales sobre lo que está bien y lo que está mal
- Importante en el mundo de la tecnología y la IA
- No quieres causar daños, aunque sea por accidente.
- Tu proyecto debe ayudar a las personas y a la sociedad
¿Qué es el sesgo algorítmico?
- Cuando el programador hace que su programa trate a unos usuarios mejor que a otros
- o el modelo de IA se entrena sin utilizar muestras diversas
- Creación de resultados injustos para algunos usuarios
- Aunque no sea intencionado, puede afectar negativamente a los usuarios.
Visualiza este video para saber más sobre el sesgo algorítmico.
IMPACTO NEGATIVO DE LA TECNOLOGÍA
Todos utilizamos la tecnología a diario y a menudo no somos conscientes de lo que hace, de cómo reaccionamos ante ella o de lo que afecta a nuestra psique.
En octubre de 2021, se reveló que Facebook (ahora Meta), a través de su propia investigación, era consciente del daño que estaba causando a algunos de sus usuarios y, sin embargo, no hizo nada para solucionar la situación.
"Treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con su cuerpo, Instagram (propiedad de Facebook) las hacía sentir peor", escribieron los investigadores. Según los informes, Facebook también descubrió que el 14% de los chicos de EE. UU. afirmaban que Instagram les hacía sentirse peor consigo mismos.
Wall Street Journal - Los archivos de Facebook
NO HACER DAÑO
Tras el artículo del Wall Street Journal, los denunciantes de Facebook han proporcionado más información que:
- Facebook promovió la desinformación
- ignoró la incitación al odio y la actividad ilegal de determinados usuarios.
Las empresas de software como Facebook tienen tanta influencia en todo el mundo y tienen la responsabilidad de asegurarse de que su software no hace daño.
Aunque estés empezando y no tengas el alcance de Facebook o Instagram, debes pensar detenidamente en quién utilizará tu producto y cómo podría afectarle.
Comprométete a que tu proyecto sólo tenga un impacto positivo.
PARTES INTERESADAS
A medida que desarrollas tu proyecto, deberás tener en cuenta a las partes interesadas.
Las partes interesadas son personas o entidades que se ven afectadas por las decisiones o acciones de tu proyecto.
Partes interesadas directas
- tus usuarios
Partes interesadas indirectas
- personas u organizaciones que pueden verse afectadas por tu tecnología, pero no necesariamente de forma directa.

Por ejemplo, los usuarios de TikTok son sus partes interesadas directas.
Pero tiene algunas partes interesadas indirectas, como:
- artistas musicales cuya música se reproduce en TikTok
- Influencers que se benefician de estar en TikTok
- Escuelas, porque los estudiantes está influenciados por lo que ven en TikTok
En este video se explican con más detalle las partes interesadas, así como otros puntos clave para hacer una tecnología ética.
He aquí algunos aspectos que debes tener en cuenta al desarrollar tu aplicación.
- ¿Recoge tu aplicación datos de los usuarios?
- ¿Lo saben tus usuarios?
- ¿Tienes permiso para recopilar los datos?
- ¿Qué medidas tomas para mantener la privacidad de sus datos?
- ¿Son precisos los consejos o la información que ofreces en tu aplicación?
- ¿Cómo lo sabes?

EJEMPLO DE APLICACIÓN
Imagina una aplicación móvil llamada Detector de malas hierbas que predice si una planta es mala hierba o no. Veamos qué aspectos éticos habría que tener en cuenta con esta aplicación.
Asegúrate de que el conjunto de datos es representativo de los objetos que se van a clasificar.


Los datos deben reflejar la población en la que se utiliza la aplicación. Si tus datos tienen sesgos, el modelo de IA utilizado en la app podría cometer errores.
¿Y si el conjunto de datos sólo contiene imágenes de malas hierbas del desierto?
Si utilizamos la aplicación con plantas que se encuentran cerca del agua, probablemente no funcione, porque no se ha entrenado con imágenes de ese tipo de plantas.
¡La aplicación se inclina por las plantas del desierto!
Piensa en cada una de las decisiones que tomará tu aplicación.
¿Hay decisiones que podría tomar y que tú no tenías previstas en un principio?
¿Y si el detector de malas hierbas identifica una tomatera como mala hierba? Eso podría afectar negativamente a las personas que pensaban comérsela y a los insectos del huerto.
¿Puedes decir cuál de estas plantas es una mala hierba? ¿Qué harías si no estuvieras segura?
Puede que la aplicación recopile datos sobre la ubicación de los hogares de las personas que la utilizan en su jardín. Podría compartir información sensible sobre la ubicación de los hogares de las personas, ¡y eso es un problema!
La información que comparte tu aplicación debe considerarse cuidadosamente. Los usuarios deben confiar en que tu proyecto respetará su información y no hará un mal uso de ella. Cómo te sentirías si un desconocido conociera tus secretos?
Como desarrolladores, somos responsables de cómo nuestra tecnología interactúa con las personas y siempre debemos ser conscientes del impacto potencial que pueden tener nuestras invenciones.
ACTIVIDAD: VIAJE ÉTICO
Asegúrate de que tu aplicación sólo tiene un impacto positivo
- Identificar quiénes son tus partes interesadas, tanto directas como indirectas.
- Seguir el diagrama de preguntas y comprobar que estás haciendo todo lo posible para que tu proyecto sólo tenga repercusiones positivas.
REFLEXIÓN
Ahora que has aprendido más sobre la ética y su papel a la hora de asegurarte de que tu proyecto sólo tenga un impacto positivo, considera estas preguntas:

REVISIÓN DE TÉRMINOS CLAVE
- Ética - conjunto de principios morales que afectan al modo en que las personas deciden lo que está bien o mal
- Se- ideas preconcebidas que alguien tiene y que suelen ser injustas para algunas personas o grupos
- Partes interesadas - personas o entidades que se verán afectadas por las decisiones o acciones de una organización o empresa.
RECURSOS ADICIONALES
Aquí tienes más vídeos sobre ética e impacto positivo en la tecnología.
Buen comentario sobre por qué es importante tener en cuenta el impacto de la tecnología que creas.
El proyecto Gender Shades promueve pruebas de productos inclusivos para la IA.