- Explorad por qué la ética para la IA es esencial para una innovación responsable.
- Comprended los retos éticos más comunes, como la parcialidad, la privacidad, la transparencia, etc.
- Comprender el marco de Investigación e Innovación Responsables (IIR) y cómo se pueden integrar en el plan ético de vuestro proyecto.
- Aprended formas de garantizar que los sistemas de IA sigan siendo justos, precisos y responsables.
- Reflexionad sobre cómo incorporar el pensamiento ético a vuestro propio proyecto de IA desde el principio y consideradlo un proceso continuo.
Ética para la IA
A medida que la IA se vuelve más poderosa, debemos comprender el alcance de las herramientas que tenemos y pensar en el impacto más amplio de lo que creamos. La IA puede ser injusta, cometer errores y, si se utiliza incorrectamente, causar daños. Por eso, como desarrolladoras y emprendedoras, debemos abordar nuestro trabajo con prudencia.
Cuando escuchamos la palabra «ética», puede sonar un poco formal o complicada, pero en realidad se trata de hacerse preguntas.
“¿Es justo esto? ¿A quién podría ayudar y a quién podría perjudicar?»
En resumen: la IA es una tecnología creada por seres humanos, heredando nuestros prejuicios sobre qué acciones deben priorizarse, de qué datos debe aprender y qué se define como éxito. Incluso con las mejores intenciones, la IA es inherentemente imperfecta. La clave está en reconocer dónde puede fallar y utilizarla de forma responsable.
La ética para la IA en vuestro proyecto
Aún en las primeras fases de vuestro proyecto, no es demasiado pronto como para empezar a pensar en cómo influirá la ética a vuestra solución final. A continuación, os ofrecemos algunos principios que podéis utilizar como guía para reflexionar en profundidad y de forma específica sobre la ética en los proyectos de IA, y de vuestro proyecto en particular. Leed y reflexionad sobre las preguntas en relación con vuestro proyecto.
No Hacer Daño
Simple pero poderosa. Aunque la mayoría de los creadores nunca pretenden causar daño, el impacto de la IA suele ir más allá de lo esperado. Un sistema puede tomar decisiones o hacer recomendaciones que parezcan útiles a primera vista, pero que, cuando el producto crece, pueden perjudicar o engañar involuntariamente a las personas.
"No hacer daño" significa preguntarse continuamente qué puede salir mal con vuestra tecnología, a quién puede afectar y qué sistemas existen para minimizar el riesgo.
Ejemplo: Una aplicación de seguridad comunitaria que salió mal
❌ El problema
Un equipo desarrolla una aplicación de seguridad comunitaria basada en inteligencia artificial que alerta a los usuarios de "situaciones potencialmente inseguras" cerca de ellos, utilizando datos de las redes sociales e informes locales. El objetivo es hacer más seguros los barrios ayudando a la gente a estar alerta y evitar riesgos.
Pero los usuarios y los grupos comunitarios observan una tendencia preocupante: la aplicación envía más alertas a los barrios con mayor población marginada, incluso cuando no se produce ningún incidente. Entrenada con datos históricos sesgados y patrones lingüísticos, la IA aprendió a asociar determinadas zonas y palabras con el peligro.
Aunque los desarrolladores no pretendían reforzar los estereotipos, el daño estaba hecho: la aplicación estigmatizaba a las comunidades y alimentaba la categoría y la desconfianza.
✅ Mejor enfoque
Este equipo implicó a miembros de la comunidad de diversos barrios en el proceso de diseño, no solo a científicos de datos. Pusieron a prueba su modelo en distintas áreas demográficas y midieron los sesgos.
En lugar de basarse en el sentimiento de las redes sociales, utilizaron fuentes de datos transparentes, como informes policiales oficiales. Cada alerta incluía una explicación (por ejemplo, "Alerta basada en: 3 robos denunciados esta semana") y una función para que los usuarios señalaran las alertas falsas o sesgadas.
Como resultado, la aplicación mejoró la concienciación de la comunidad SIN estigmatizar barrios. Cuando se detectaban sesgos (alertas concentradas en determinadas zonas), se investigaban y corregían los datos y se actualizaba el modelo.
- ¿Qué sistemas específicos e integrados existen para detectar rápidamente estos fallos y minimizar el riesgo resultante?
Sesgo y Decisiones Justas
La IA es, en última instancia, una creación humana y puede reflejar las suposiciones y prioridades de sus creadores. Si los datos utilizados para entrenar la IA se recopilan desde una perspectiva sesgada, pueden reforzar suposiciones incorrectas y los resultados pueden sesgarse de formas difíciles de prever.
Ejemplo: Sesgo en el reclutamiento laboral
En este estudio, se descubrió que las herramientas de IA destinadas a facilitar el procesamiento de las solicitudes de empleo tenían sesgos relacionados con la raza y el sexo percibidos. Las herramientas de IA favorecían en gran medida los nombres asociados a hombres caucásicos. Con la inmensa adopción de la IA en el proceso de contratación, este descubrimiento pone en tela de juicio la imparcialidad de estas herramientas.
Para abordar los sesgos es necesario ser consciente, reflexionar y actuar de forma intencionada. Los usuarios deben ser críticos y escépticos con respecto a lo que produce la IA. Los desarrolladores deben examinar los datos que utilizan, cuestionar las suposiciones en las que se basan sus modelos y comprobar que los resultados son justos para los diferentes grupos. A veces, esto significa incorporar perspectivas diversas durante el diseño, auditar los modelos en busca de resultados dispares o ajustar los algoritmos para corregir los desequilibrios.
- ¿Qué medidas concretas se tomarán durante la fase de recogida de datos y etiquetado?
- ¿Cómo se asegurará de que las diversas perspectivas se integran de forma significativa en las fases de diseño, prueba y auditoría del modelo de IA?
Privacidad y Datos
La IA depende a menudo de grandes cantidades de datos personales para funcionar eficazmente. Aunque estos datos ayudan a la IA a ofrecer recomendaciones o servicios útiles, también plantean importantes cuestiones éticas sobre la privacidad.
Por ejemplo, una aplicación que rastrea la actividad del usuario para sugerir servicios locales podría exponer inadvertidamente detalles sensibles sobre las rutinas, preferencias o creencias de una persona. Estos datos podrían utilizarse indebidamente si caen en las manos equivocadas, o incluso influir sutilmente en la forma en que el usuario es tratado por algoritmos en otros lugares.
-
Recoge sólo lo que necesites
Limite la recopilación de datos a la información necesaria para el funcionamiento de su aplicación.
-
Obtener un consentimiento claro
Asegúrese de que los usuarios entienden qué datos se recopilan y por qué, y ofrézcales la opción de aceptarlos o rechazarlos.
-
Anonimizar los datos cuando sea posible
Elimine la información personal identificable para reducir el riesgo en caso de que los datos queden expuestos.
-
Almacenar datos de forma segura
Utilice cifrado, servidores seguros y controles de acceso estrictos para proteger la información de los usuarios.
-
Sea transparente
Comunique claramente qué datos se recopilan, cómo se utilizan y quién puede acceder a ellos.
-
Dar el control a los usuarios
Permitir que los usuarios revisen, editen o eliminen sus datos.
-
Considerad las Consecuencias a Futuro
Piensad en cómo podrían utilizarse los datos recopilados más allá de vuestra aplicación y en las posibles repercusiones.
- ¿Cómo diseñaréis la interfaz de usuario y el proceso de consentimiento para garantizar que los usuarios den su consentimiento con conocimiento de causa?
- ¿Qué medidas de seguridad por niveles aplicaréis para proteger los datos?
Precisión y Supervisión Humana
La IA puede ser increíblemente potente, pero incluso los modelos más sofisticados pueden cometer errores. Un ejemplo son las «alucinaciones de la IA», en las que el sistema genera con total seguridad información que es completamente falsa o inventada.
Estos errores pueden ocurrir porque la IA se entrene con datos incompletos, se base en suposiciones erróneas o tenga un sesgo hacia la generación de resultados que satisfagan al usuario, aunque sean incorrectos. Por eso es esencial la supervisión humana. Los resultados de la IA deben abordarse con una mentalidad crítica: evaluando, cuestionando y contextualizando lo que produce el sistema.
En lugar de tratar a la IA como una autoridad infalible, debería considerarse como una herramienta que mejora el juicio, proporcionando nuevas perspectivas, pero dejando la responsabilidad final en manos humanas. Por ejemplo, imaginemos un sistema de IA que genera resúmenes de artículos médicos para una aplicación de salud. Si la IA alucina detalles que no se encuentran en el material original, los usuarios podrían tomar decisiones basadas en información falsa. Un revisor humano que detecte y corrija estos errores puede evitar daños graves antes de que afecten a personas reales.
- ¿Quién comprobará los resultados?
- ¿Cómo se detectarán y corregirán los errores?
Transparencia y Explicabilidad
Tanto las personas que lo construyen como las que lo utilizan deben ser capaces de comprender cómo la IA ha llegado a una recomendación o decisión concreta: la lógica de los algoritmos, cómo se ha entrenado a la IA, cómo se han procesado y etiquetado los datos y cómo se evalúa el rendimiento del modelo.
Dado que la IA se utiliza cada vez más para tomar decisiones de peso (como contrataciones, diagnósticos médicos, aprobaciones de préstamos o recomendaciones de inversión), los resultados inexactos o sesgados pueden tener consecuencias graves que afecten a la carrera profesional, las finanzas o incluso la salud y la seguridad.
Podéis utilizar visualizaciones sencillas, explicaciones breves en forma de texto o demostraciones interactivas para mostrar cómo funciona vuestro sistema. La clave es proporcionar a los usuarios suficiente información para que puedan tomar decisiones informadas, hacer preguntas y comprender el razonamiento que hay detrás de los resultados de vuestra IA.
- ¿Cómo podéis hacer que las decisiones de vuestra IA sean claras y comprensibles para vuestros usuarios?
Accesibilidad e Inclusión
La IA debe funcionar para todos, incluyendo a las personas con discapacidad, las que no hablen castellano, las que carecan de Internet de alta velocidad y las que no estén familiarizadas con la tecnología.
- ¿Habrá interfaces visuales que pueden excluir a usuarios ciegos?
- ¿Qué pasa con la entrada de audio que podría excluir a usuarios sordos?
- ¿Tienen los usuarios los conocimientos técnicos necesarios para navegar fácilmente y utilizar vuestro producto de manera eficiente?
- ¿Tendréis en cuenta a los usuarios de vuestra aplicación que no hablen castellano?
Impacto Medioambiental
Aunque la IA sea asombrosa y pueda transformar la vida de las personas, también tiene un coste. Entrenar modelos de IA requiere una potencia de cálculo considerable, lo que afecta al medio ambiente. Aunque vuestro proyecto inicial no afecte de forma significativa al medio ambiente, debéis tener en cuenta que este problema podría pasar a primer plano a medida que vuestro proyecto crezca.
945 TWh en 2030
Se prevé que, para 2030, los centros de datos que alimentan la inteligencia artificial consumirán alrededor de 945 teravatios-hora de electricidad, una cifra superior al consumo anual total de Japón. Según la Agencia Internacional de la Energía, el 60 % de esa energía seguirá procediendo de combustibles fósiles.
- ¿Cómo podríais utilizar modelos de aprendizaje automático existentes en lugar de entrenar unos propios?
- ¿Cómo podríais optimizar vuestro modelo y utilizar menos datos?
Impacto Laboral
La IA automatiza muchas tareas que antes realizaban los humanos. Vuestro proyecto podría causar daños no deseados y hacer que la gente pierda su trabajo y sus ingresos.
- ¿Sustituye puestos de trabajo humanos y, en caso afirmativo, qué ocurriría con esos trabajadores?
- ¿Quién se beneficiaría económicamente y quién podría verse perjudicado por ello?
Normativas que debéis conocer
El diseño ético va más allá de lo que es técnicamente legal para garantizar que vuestro producto es justo y digno de confianza. Sin embargo, hay normativas y leyes que se deben cumplir cuando se lanzan nuevas tecnologías.
Si vuestra IA maneja datos personales:
- RGPD (Europa): normas estrictas sobre privacidad y protección de datos
- CCPA (California): ley de privacidad del consumidor
- COPPA (EE.UU.): protección de datos de menores
- HIPAA (EE.UU.): protección de datos sanitarios
Si tu proyecto utiliza la IA:
- Ley de IA de la UE (2024): Clasifica los sistemas de IA según su riesgo (bajo, alto, inaceptable). Los sistemas de alto riesgo -utilizados en contratación, educación, sanidad- deben cumplir normas estrictas de transparencia, pruebas y documentación.
- Declaración de derechos de la IA en Estados Unidos: Aunque aún no se haya aprobado como ley, define principios como la protección frente a los sesgos algorítmicos, la privacidad de los datos y las alternativas humanas para las decisiones críticas.
- Otros marcos: La Ley de IA y Datos de Canadá, el Marco Modelo de Gobernanza de la IA de Singapur y los Principios de IA de la OCDE hacen hincapié en la responsabilidad, las decisiones justas y la explicabilidad.
- Propiedad intelectual (PI): Tened cuidado con la IA generativa que pueda producir contenidos protegidos por derechos de autor. Evitad utilizar materiales protegidos por derechos de autor en conjuntos de datos de entrenamiento para vuestros propios modelos.
Ser una creadora ética es un viaje
La IA es potente, pero nunca es perfecta. Los modelos evolucionan, aprenden de datos nuevos e interactúan con los usuarios de formas que pueden producir resultados inesperados. Esto significa que las consideraciones éticas no son algo que se compruebe una vez, sino que requieren una atención continua.
Recordad, el objetivo no es sólo construir una solución de IA que funcione hoy, sino construir una que siga funcionando de forma justa, segura y beneficiosa por siempre y jamás.
Tú y tu equipo siempre debéis preguntaros: «¿Qué podemos hacer ahora para que nuestro producto sea aún más responsable?».Vuestros valores o el contexto pueden cambiar con el tiempo, por lo que debéis reflexionar sobre ellos continuamente.
Tened en cuenta estos consejos:
- Seguid aprendiendo: mejorad vuestras habilidades, haced preguntas y pensad en cómo hacer que vuestro producto sea más responsable.
- Buscad siempre hacer el bien: no se trata solo de evitar hacer el mal, sino de tener la misión deliberada de ayudar a vuestra comunidad de una manera amable y justa.
- Incorpóradlo al plan: dedicad tiempo y energía a la ética, igual que lo haríais para diseñar el aspecto de vuestro producto o escribir el código.
- Asignad un líder IIR del equipo: alguien que os recuerde a todas el ser responsables, especialmente cuando todas estáis ocupadas y entusiasmadas con nuevas ideas.
- Busca apoyo: No tengas miedo de pedir ayuda a tus compañeras, mentoras y mentores, usuarios o profesionales si tienes dudas sobre si algo relacionado con tu negocio es ético.
ACTIVIDAD 1
Su Plan Continuo de Acción Ética para la IA
Tiempo estimado: 30 minutos
Construir de forma ética es un viaje continuo. Utilizad las preguntas de la hoja de ejercicios para reflexionar sobre cómo gestionaréis las cuestiones éticas en vuestro proyecto.
Recordad que debéis mantener la curiosidad. El mundo de la IA siempre está cambiando, y ser una gran innovadora significa ser siempre una aprendiz. Ahora os estáis preparado no solo para construir algo increíble, sino también para guiarlo éticamente hacia el futuro.
Recursos adicionales
En esta charla, el profesor Stuart Russel profundiza en la ética de la IA y subraya la importancia de un diseño responsable, la supervisión y la consideración del impacto social.
