Investigación e Innovación Responsables (IIR)

  • Comprender el concepto de Investigación e Innovación Responsables (RRI)
  • Analizar por qué es importante la RRI
  • Conozca los principios de la RRI: Reflexionar y Anticipar

INVESTIGACIÓN E INNOVACIÓN RESPONSABLES (RRI)

En esta lección, nos sumergiremos en cómo puedes mejorar aún más tus increíbles ideas para aplicaciones pensando en su impacto en el mundo. 

¿Qué es la Investigación e Innovación Responsables (RRI)?

¿Alguna vez se ha parado a pensar en cómo la tecnología puede afectar a las personas y al planeta de formas que no esperábamos? 

Según Responsible AI UKInvestigación e innovación responsables significa:

Investigar e innovar de forma que se prevea cómo puede afectar a las personas
y al medio ambiente en el futuro, para obtener el máximo beneficio y evitar daños.
.

La RRI consiste en asegurarnos de que, al crear cosas nuevas, lo hacemos de forma que beneficie a todos y evitemos consecuencias negativas. La RRI nos ayuda a utilizar nuestro poder creativo para el bien y a entender por qué hacemos lo que hacemos.

EL MARCO TERRITORIAL

Es una guía sencilla y práctica que le ayudará a aplicar los principios de la RRI. Representa:

Anticipar los posibles resultados. ¿Qué podría ocurrir?

Reflexionar sobre nuestros objetivos y métodos. ¿Por qué lo hacemos?

Engage con diferentes personas y comunidades. ¿Quién debe participar?

Act sobre lo que aprendemos. ¿Qué debemos hacer?

En esta lección, nos centraremos en las dos primeras: Anticipar y Reflexionar.

ANTICIPARSE: PENSAR EN EL FUTURO

Se trata de usar la imaginación para pensar en el futuro. Tal vez tu aplicación podría compartir accidentalmente demasiada información personal, o tal vez podría crear una brecha digital en la que algunas personas puedan utilizarla y otras no.

Anticiparse le ayuda a detectar posibles problemas con antelación, para poder solucionarlos antes de que ocurran. Es como mirar un mapa antes de emprender un largo viaje. Significa que imaginas todo lo que podría ocurrir con tu aplicación. 

Anticiparse significa estar preparado para lo inesperado.

PARAR Y DISCUTIR:

En relación con tu idea de aplicación:

¿Qué podría salir mal?

¿Y si alguien lo utiliza de una forma que a usted no se le había ocurrido?

¿Y si después surge algún problema?

girls discussing

REFLEXIONAR: MIRAR HACIA DENTRO

La reflexión consiste en analizar tus propias motivaciones y decisiones para tener una idea clara de por qué haces lo que haces. Es una oportunidad para ver cómo están tu equipo y tú mismo. Esto ayuda a garantizar que tu proyecto se mantiene fiel a su propósito y valores originales y te mantiene en el buen camino. 

Al igual que tu aplicación cambiará a medida que añadas nuevas funciones, tus ideas también pueden cambiar. Debes seguir reflexionando a lo largo de todo el proyecto para asegurarte de que de que cada decisión que tomas te lleva en la buena dirección.

VEAMOS UN EJEMPLO

1. Imagina una aplicación de IA que ayude a los médicos a diagnosticar enfermedades.
Se trata de un uso muy positivo de la IA. Pero, ¿y si los datos utilizados para entrenar la IA proceden principalmente de un grupo de personas (como adultos de un país concreto)? La IA podría no funcionar tan bien con otros grupos de personas, lo que daría lugar a diagnósticos inexactos.
2. Anticipar y reflexionar
Los desarrolladores deben prever y darse cuenta de que entrenar sus sistemas con datos procedentes de un solo ámbito o grupo puede dar lugar a resultados injustos (sesgo).

Tras reflexionar sobre sus valores y propósitos, recopilan activamente datos diversos de muchos países y comunidades diferentes. Esto garantiza que la IA sea precisa para todos, ayuda a evitar que las diferencias sanitarias empeoren y genera confianza en comunidades que no han estado representadas de forma justa en el pasado.
3. Los desarrolladores deben preguntarse:
  • ¿Y si la IA comete un error?
  • ¿Cómo sabrán los médicos el nivel de confianza de la IA en su diagnóstico?
Plantearse estas preguntas podría y debería llevar a explorar distintos enfoques, crear nuevas funciones y utilizar conjuntos de datos más inclusivos.

PARA Y COMENTA

En este caso, ¿se le ocurren otras preguntas que deberían plantearse los desarrolladores?

girls discussing

Para comprender mejor la importancia de ser un innovador responsable, vea este video.

ACTIVIDAD: ANTICIPAR Y REFLEXIONAR

Tiempo estimado: 30 minutos

Ahora es el momento de aplicar lo que has aprendido a tu propia idea de proyecto.

Utiliza las siguientes preguntas como guía para hacer una lluvia de ideas con tu equipo. Recuerda que debes ser sincero contigo mismo. Esta es una oportunidad para asegurarte de que tu proyecto es algo de lo que puedes estar realmente orgulloso, no sólo porque funciona, sino porque hace el bien en el mundo.
Descargar la hoja de ejercicios

REFLEXIÓN

Acabas de aprender dos herramientas importantes para crear aplicaciones no sólo atractivas, sino también responsables: Anticiparse y Reflexionar.

mountain reflection
¿Qué es lo que tendrías que cambiar o añadir a tu proyecto ahora mismo basándote en tus respuestas de "Anticipa"?
¿Cómo ha cambiado tu forma de ver las aplicaciones que utilizas a diario (como las redes sociales o los juegos) el hecho de pensar en la RRI?

RECURSOS ADICIONALES

  • Para profundizar en la anticipación y la reflexión, consulta los materiales creados por la Universidad de Nottingham en colaboración con el Trustworthy Autonomous Systems Hub.
  • Más información sobre la igualdad de acceso y el sesgo algorítmico en la IA en este video de Code.org