Impacto positivo

  • Considerar la ética de la tecnología y la IA
  • Asegúrese de que su aplicación tendrá un impacto positivo en las partes interesadas.

Éstas son las actividades para esta lección:

ÉTICA Y ACCIONES

¿Qué es la ética?

 

¿Qué es el sesgo algorítmico?

Visite video para saber más sobre el sesgo algorítmico.

EL IMPACTO NEGATIVO DE LA TECNOLOGÍA

Todos utilizamos la tecnología a diario y a menudo no somos conscientes de lo que hace, de cómo reaccionamos ante ella o de lo que afecta a nuestra psique.

En octubre de 2021, se reveló que Facebook (ahora Meta), a través de su propia investigación, era consciente del daño que estaba causando a algunos de sus usuarios y, sin embargo, no hizo nada para solucionar la situación.

"Treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con su cuerpo, Instagram (propiedad de Facebook) las hacía sentir peor", escribieron los investigadores. Según los informes, Facebook también descubrió que el 14% de los chicos de EE. UU. afirmaban que Instagram les hacía sentirse peor consigo mismos.

NO HACER DAÑO

Tras el artículo del Wall Street Journal, los denunciantes de Facebook han proporcionado más información que:

  • Facebook promovió la desinformación
  • ignoró la incitación al odio y la actividad ilegal de determinados usuarios. 

Las empresas de software como Facebook tienen tanta influencia en todo el mundo y tienen la responsabilidad de asegurarse de que su software no hace daño.

Aunque estés empezando y no tengas el alcance de Facebook o Instagram, debes pensar detenidamente en quién utilizará tu producto y cómo podría afectarle.

Comprométase a que su proyecto sólo tenga un impacto positivo.

PARTICIPANTES

A medida que desarrolle su proyecto, deberá tener en cuenta a las partes interesadas. 

Partes interesadas son personas o entidades que se ven afectadas por las decisiones o acciones de su proyecto.

Partes interesadas directas

  • tus usuarios

Partes interesadas indirectas

  • personas u organizaciones que pueden verse afectadas por su tecnología, pero no necesariamente de forma directa.
logotipo tik tok

Por ejemplo, los usuarios de TikTok son sus accionistas directos.

Pero tiene algunas partes interesadas indirectas, como:

  • artistas musicales cuya música se reproduce en TikTok
  • Influencers que se benefician de estar en TikTok
  • Escuelas, porque los alumnos se dejan influir por lo que ven en TikTok

En video se explican con más detalle las partes interesadas, así como otros puntos clave para hacer una tecnología ética.

He aquí algunos aspectos que debes tener en cuenta al desarrollar tu aplicación. 

  • ¿Recoge tu aplicación datos de los usuarios? 
  • ¿Lo saben sus usuarios? 
  • ¿Tiene permiso para recopilar los datos? 
  • ¿Qué medidas tomas para mantener la privacidad de sus datos? 
  • ¿Son precisos los consejos o la información que ofrece en su aplicación? 
  • ¿Cómo lo sabes?
desarrollo de una aplicación móvil para una buena infografía

EJEMPLO DE APLICACIÓN

Imagine una aplicación móvil llamada Detector de malas hierbas que predice si una planta es una mala hierba o no. Veamos qué aspectos éticos habría que tener en cuenta con la aplicación Weed Detector.

Asegúrese de que el conjunto de datos es representativo de los objetos que se van a clasificar.

Hierba del desierto
Hierba del desierto
hierba acuática
Hierba acuática

Los datos deben reflejar la población en la que se utiliza la aplicación. Si tus datos tienen sesgos, el modelo de IA utilizado en la app podría cometer errores.

¿Y si el conjunto de datos sólo contiene imágenes de malas hierbas del desierto?

Si utilizamos la aplicación con plantas que se encuentran cerca del agua, probablemente no funcione, porque no se ha entrenado con imágenes de ese tipo de plantas.

La aplicación se inclina por las plantas del desierto.

Piensa en cada una de las decisiones que tomará tu aplicación.

¿Hay decisiones que podría tomar y que usted no tenía previstas en un principio? 

¿Y si el detector de malas hierbas identifica una tomatera como mala hierba? Eso podría afectar negativamente a las personas que pensaban comérsela y a los insectos del huerto.

¿Puedes decir cuál de estas plantas es una mala hierba? ¿Qué harías si no estuvieras seguro?

seis plantas diferentes, algunas malas hierbas

casita con jardínPuede que la aplicación recopile datos sobre la ubicación de los hogares de las personas que la utilizan en su jardín. Podría compartir información sensible sobre la ubicación de los hogares de las personas, ¡y eso es un problema!

La información que comparte tu aplicación debe considerarse cuidadosamente. Los usuarios deben confiar en que tu proyecto respetará su información y no hará un mal uso de ella. Cómo te sentirías si un desconocido conociera tus secretos?

Como desarrolladores, somos responsables de cómo nuestra tecnología interactúa con las personas y siempre debemos ser conscientes del impacto potencial que pueden tener nuestras invenciones.

ACTIVIDAD: VIAJE ÉTICO

Tiempo estimado: 30 minutos

Asegúrese de que su aplicación sólo tenga un impacto positivo

Sigue las instrucciones de la hoja de ejercicios para:

  1. Identifique quiénes son sus partes interesadas, tanto directas como indirectas.
  2. Siga el diagrama de preguntas y compruebe que está haciendo todo lo posible para que su proyecto sólo tenga repercusiones positivas.
Tengan en cuenta que pueden hacer una copia de la hoja de cálculo y editarla según sea necesario.
Abrir hoja de cálculo

REFLEXIÓN

Ahora que ha aprendido más sobre la ética y su papel a la hora de asegurarse de que su proyecto sólo tenga un impacto positivo, considere estas preguntas:

persona de pie cerca del agua y reflejo
¿Qué ha aprendido sobre tecnología y ética que le haya sorprendido?
¿Ve ahora de forma diferente alguna de las tecnologías que utiliza a diario?
¿Qué papel puede desempeñar usted para que la tecnología sea más ética?

REVISIÓN DE TÉRMINOS CLAVE

    • Ética - conjunto de principios morales que afectan al modo en que las personas deciden lo que está bien o mal
    • Prejuicio - ideas preconcebidas que alguien tiene y que suelen ser injustas para algunas personas o grupos
    • Partes interesadas - personas o entidades que se verán afectadas por las decisiones o acciones de una organización o empresa.

RECURSOS ADICIONALES

Aquí tiene más videos sobre ética e impacto positivo en la tecnología.