Impacto positivo

  • Considerarás la ética de la tecnología y la IA
  • Te asegurarás de que tu aplicación tendrá un impacto positivo en las partes interesadas.

Estas son las actividades para esta lección:

ÉTICA Y ACCIONES

¿Qué es la ética?

 

¿Qué es el sesgo algorítmico?

Visualiza este video para saber más sobre el sesgo algorítmico.

IMPACTO NEGATIVO DE LA TECNOLOGÍA

Todos utilizamos la tecnología a diario y a menudo no somos conscientes de lo que hace, de cómo reaccionamos ante ella o de lo que afecta a nuestra psique.

En octubre de 2021, se reveló que Facebook (ahora Meta), a través de su propia investigación, era consciente del daño que estaba causando a algunos de sus usuarios y, sin embargo, no hizo nada para solucionar la situación.

"Treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con su cuerpo, Instagram (propiedad de Facebook) las hacía sentir peor", escribieron los investigadores. Según los informes, Facebook también descubrió que el 14% de los chicos de EE. UU. afirmaban que Instagram les hacía sentirse peor consigo mismos.

NO HACER DAÑO

Tras el artículo del Wall Street Journal, los denunciantes de Facebook han proporcionado más información que:

  • Facebook promovió la desinformación
  • ignoró la incitación al odio y la actividad ilegal de determinados usuarios. 

Las empresas de software como Facebook tienen tanta influencia en todo el mundo y tienen la responsabilidad de asegurarse de que su software no hace daño.

Aunque estés empezando y no tengas el alcance de Facebook o Instagram, debes pensar detenidamente en quién utilizará tu producto y cómo podría afectarle.

Comprométete a que tu proyecto sólo tenga un impacto positivo.

PARTES INTERESADAS

A medida que desarrollas tu proyecto, deberás tener en cuenta a las partes interesadas. 

Las partes interesadas son personas o entidades que se ven afectadas por las decisiones o acciones de tu proyecto.

Partes interesadas directas

  • tus usuarios

Partes interesadas indirectas

  • personas u organizaciones que pueden verse afectadas por tu tecnología, pero no necesariamente de forma directa.
logotipo tik tok

Por ejemplo, los usuarios de TikTok son sus partes interesadas directas.

Pero tiene algunas partes interesadas indirectas, como:

  • artistas musicales cuya música se reproduce en TikTok
  • Influencers que se benefician de estar en TikTok
  • Escuelas, porque los estudiantes está influenciados por lo que ven en TikTok

En este video se explican con más detalle las partes interesadas, así como otros puntos clave para hacer una tecnología ética.

He aquí algunos aspectos que debes tener en cuenta al desarrollar tu aplicación. 

  • ¿Recoge tu aplicación datos de los usuarios? 
  • ¿Lo saben tus usuarios? 
  • ¿Tienes permiso para recopilar los datos? 
  • ¿Qué medidas tomas para mantener la privacidad de sus datos? 
  • ¿Son precisos los consejos o la información que ofreces en tu aplicación? 
  • ¿Cómo lo sabes?
desarrollo de una aplicación móvil para una buena infografía

EJEMPLO DE APLICACIÓN

Imagina una aplicación móvil llamada Detector de malas hierbas que predice si una planta es mala hierba o no. Veamos qué aspectos éticos habría que tener en cuenta con esta aplicación.

Asegúrate de que el conjunto de datos es representativo de los objetos que se van a clasificar.

Hierba del desierto
Hierba del desierto
hierba acuática
Hierba acuática

Los datos deben reflejar la población en la que se utiliza la aplicación. Si tus datos tienen sesgos, el modelo de IA utilizado en la app podría cometer errores.

¿Y si el conjunto de datos sólo contiene imágenes de malas hierbas del desierto?

Si utilizamos la aplicación con plantas que se encuentran cerca del agua, probablemente no funcione, porque no se ha entrenado con imágenes de ese tipo de plantas.

¡La aplicación se inclina por las plantas del desierto!

Piensa en cada una de las decisiones que tomará tu aplicación.

¿Hay decisiones que podría tomar y que tú no tenías previstas en un principio? 

¿Y si el detector de malas hierbas identifica una tomatera como mala hierba? Eso podría afectar negativamente a las personas que pensaban comérsela y a los insectos del huerto.

¿Puedes decir cuál de estas plantas es una mala hierba? ¿Qué harías si no estuvieras segura?

seis plantas diferentes, algunas malas hierbas

casita con jardínPuede que la aplicación recopile datos sobre la ubicación de los hogares de las personas que la utilizan en su jardín. Podría compartir información sensible sobre la ubicación de los hogares de las personas, ¡y eso es un problema!

La información que comparte tu aplicación debe considerarse cuidadosamente. Los usuarios deben confiar en que tu proyecto respetará su información y no hará un mal uso de ella. Cómo te sentirías si un desconocido conociera tus secretos?

Como desarrolladores, somos responsables de cómo nuestra tecnología interactúa con las personas y siempre debemos ser conscientes del impacto potencial que pueden tener nuestras invenciones.

ACTIVIDAD: VIAJE ÉTICO

Tiempo estimado: 30 minutos

Asegúrate de que tu aplicación sólo tiene un impacto positivo

Sigue las instrucciones de la hoja de ejercicios para:

  1. Identificar quiénes son tus partes interesadas, tanto directas como indirectas.
  2. Seguir el diagrama de preguntas y comprobar que estás haciendo todo lo posible para que tu proyecto sólo tenga repercusiones positivas.
Ten en cuenta que puedes hacer una copia de la hoja de ejercicios y editarla según sea necesario.
Abrir la hoja de ejercicios

REFLEXIÓN

Ahora que has aprendido más sobre la ética y su papel a la hora de asegurarte de que tu proyecto sólo tenga un impacto positivo, considera estas preguntas:

persona de pie cerca del agua y reflejo
¿Qué has aprendido sobre tecnología y ética que te haya sorprendido?
¿Ves ahora de forma diferente alguna de las tecnologías que utiliza a diario?
¿Qué papel puedes desempeñar tú para que la tecnología sea más ética?

REVISIÓN DE TÉRMINOS CLAVE

    • Ética - conjunto de principios morales que afectan al modo en que las personas deciden lo que está bien o mal
    • Se- ideas preconcebidas que alguien tiene y que suelen ser injustas para algunas personas o grupos
    • Partes interesadas - personas o entidades que se verán afectadas por las decisiones o acciones de una organización o empresa.

RECURSOS ADICIONALES

Aquí tienes más vídeos sobre ética e impacto positivo en la tecnología.