- Explora por qué la ética de la IA es esencial para una innovación responsable.
- Comprender los retos éticos más comunes, como la parcialidad, la privacidad, la transparencia, etc.
- Comprender el marco de Investigación e Innovación Responsables (RRI) y cómo se puede integrar en el plan ético de su proyecto.
- Aprende las formas de garantizar que los sistemas de IA sigan siendo justos, precisos y responsables.
- Reflexiona sobre cómo incorporar el pensamiento ético a tu propio proyecto de IA desde el principio y considéralo un proceso continuo.
Ética en la IA
A medida que la IA se vuelve más poderosa, debemos comprender el alcance de las herramientas que tenemos y pensar en el impacto más amplio de lo que creamos. La IA puede ser injusta, cometer errores y, si se utiliza incorrectamente, causar daños. Por eso, como desarrolladores y emprendedores, debemos abordar nuestro trabajo con prudencia.
Cuando escuchamos la palabra «ética», puede sonar un poco formal o complicada, pero en realidad se trata de hacer preguntas.
“¿Es justo esto? ¿A quién podría ayudar y a quién podría perjudicar?»
En resumen: la IA es una tecnología creada por los seres humanos, junto con nuestros prejuicios sobre qué acciones deben priorizarse, de qué datos debe aprender y qué se define como éxito. Incluso con las mejores intenciones, la IA es intrínsecamente imperfecta. La clave está en reconocer dónde puede fallar y utilizarla de forma responsable.
La ética de la IA en tu proyecto
Aunque te encuentres en las primeras fases de tu proyecto, no es demasiado pronto para empezar a pensar en cómo influirá la ética en su solución final. A continuación, te ofrecemos algunos principios que puedes utilizar como guía para reflexionar en profundidad y de forma específica sobre la ética de los proyectos de IA, y de tu proyecto en particular. Lee y reflexiona sobre las preguntas en relación con su proyecto.
No hacer daño
Simple pero poderosa. Aunque la mayoría de los creadores nunca pretenden causar daño, el impacto de la IA suele ir más allá de lo esperado. Un sistema puede tomar decisiones o hacer recomendaciones que parezcan útiles a primera vista, pero que, cuando se amplían, pueden perjudicar o engañar involuntariamente a las personas.
"No hacer daño" significa preguntarse continuamente cómo puede ir mal la tecnología, a quién puede afectar y qué sistemas existen para minimizar el riesgo.
Ejemplo: Una aplicación de seguridad comunitaria que salió mal
❌ El problema
Un equipo desarrolla una aplicación de seguridad comunitaria basada en inteligencia artificial que alerta a los usuarios de "situaciones potencialmente inseguras" en las inmediaciones, utilizando datos de las redes sociales e informes locales. El objetivo es hacer más seguros los barrios ayudando a la gente a estar alerta y evitar riesgos.
Pero los usuarios y los grupos comunitarios observan una tendencia preocupante: la aplicación envía más alertas a los barrios con mayor población marginada, incluso cuando no se produce ningún incidente. Entrenada con datos históricos sesgados y patrones lingüísticos, la IA aprendió a asociar determinadas zonas y palabras con el peligro.
Aunque los desarrolladores no pretendían reforzar los estereotipos, el daño ya estaba hecho: la aplicación estigmatizaba a las comunidades y alimentaba la división social y la desconfianza.
✅ Mejor enfoque
Este equipo implicó a miembros de la comunidad de diversos barrios en el proceso de diseño, no solo a científicos de datos. Pusieron a prueba su modelo en distintas áreas demográficas y midieron los sesgos.
En lugar de basarse en el sentimiento de las redes sociales, utilizaron fuentes de datos transparentes, como informes policiales oficiales. Cada alerta incluía una explicación (por ejemplo, "Alerta basada en: 3 robos denunciados esta semana") y una función para que los usuarios señalaran las alertas falsas o sesgadas.
Como resultado, la aplicación mejoró la concienciación de la comunidad SIN estigmatizar a los barrios. Cuando se detectaban sesgos (alertas concentradas en determinadas zonas), se investigaban y corregían los datos y se actualizaba el modelo.
- ¿Qué sistemas específicos e integrados existen para detectar rápidamente estos fallos y minimizar el riesgo resultante?
Sesgo y equidad
La IA es, en última instancia, una creación humana y puede reflejar las suposiciones y prioridades de sus creadores. Si los datos utilizados para entrenar la IA se recopilan desde una perspectiva sesgada, pueden reforzar suposiciones incorrectas y los resultados pueden sesgarse de formas difíciles de prever.
Ejemplo: Prejuicios en la contratación laboral
En este estudio, se descubrió que las herramientas de IA destinadas a facilitar el procesamiento de las solicitudes de empleo tenían sesgos relacionados con la raza y el sexo percibidos. Las herramientas de IA favorecían en gran medida los nombres asociados a hombres caucásicos. Con la inmensa adopción de la IA en el proceso de contratación, este descubrimiento pone en tela de juicio la imparcialidad de estas herramientas.
Para abordar los sesgos es necesario ser consciente, reflexionar y actuar de forma intencionada. Los usuarios deben ser críticos y escépticos con respecto a lo que produce la IA. Los desarrolladores deben examinar los datos que utilizan, cuestionar las suposiciones en las que se basan sus modelos y comprobar que los resultados son justos para los diferentes grupos. A veces, esto significa incorporar perspectivas diversas durante el diseño, auditar los modelos en busca de resultados dispares o ajustar los algoritmos para corregir los desequilibrios.
- ¿Qué medidas concretas se tomarán durante la fase de recogida de datos y etiquetado?
- ¿Cómo se asegurará de que las diversas perspectivas se integran de forma significativa en las fases de diseño, prueba y auditoría del modelo de IA?
Privacidad y datos
La IA depende a menudo de grandes cantidades de datos personales para funcionar eficazmente. Aunque estos datos ayudan a la IA a ofrecer recomendaciones o servicios útiles, también plantean importantes cuestiones éticas sobre la privacidad.
Por ejemplo, una aplicación que rastrea la actividad del usuario para sugerir servicios locales podría exponer inadvertidamente detalles sensibles sobre las rutinas, preferencias o creencias de una persona. Estos datos podrían utilizarse indebidamente si caen en las manos equivocadas, o incluso influir sutilmente en la forma en que el usuario es tratado por algoritmos en otros lugares.
-
Recoge sólo lo que necesites
Limite la recopilación de datos a la información necesaria para el funcionamiento de su aplicación.
-
Obtener un consentimiento claro
Asegúrese de que los usuarios entienden qué datos se recopilan y por qué, y ofrézcales la opción de aceptarlos o rechazarlos.
-
Anonimizar los datos cuando sea posible
Elimine la información personal identificable para reducir el riesgo en caso de que los datos queden expuestos.
-
Almacenar datos de forma segura
Utiliza cifrado, servidores seguros y controles de acceso estrictos para proteger la información de los usuarios.
-
Se transparente
Comunica claramente qué datos se recopilan, cómo se utilizan y quién puede acceder a ellos.
-
Dar el control a los usuarios
Permitir a los usuarios revisar, editar o eliminar sus datos.
-
Considerar las consecuencias derivadas
Piensa en cómo podrían utilizarse los datos recopilados más allá de su aplicación y en las posibles repercusiones.
- ¿Cómo diseñará la interfaz de usuario y el proceso de consentimiento para garantizar que los usuarios den su consentimiento con conocimiento de causa?
- ¿Qué medidas de seguridad por niveles aplicará para proteger los datos?
Precisión y supervisión humana
La IA puede ser increíblemente potente, pero incluso los modelos más sofisticados pueden cometer errores. Un ejemplo son las «alucinaciones de la IA», en las que el sistema genera con total seguridad información que es completamente falsa o inventada.
Estos errores pueden producirse porque la IA se entrena con datos incompletos, se basa en suposiciones erróneas o tiene un sesgo hacia la generación de resultados que satisfacen al usuario, aunque sean incorrectos. Por eso es esencial la supervisión humana. Los resultados de la IA deben abordarse con una mentalidad crítica: evaluando, cuestionando y contextualizando lo que produce el sistema.
En lugar de tratar a la IA como una autoridad infalible, debería tratarse como una herramienta que mejora el juicio, proporcionando información y dejando la responsabilidad final en manos humanas. Por ejemplo, imaginemos un sistema de IA que genera resúmenes de artículos médicos para una aplicación de salud. Si la IA inventa detalles que no se encuentran en el material original, los usuarios podrían tomar decisiones basadas en información falsa. Un revisor humano que detecte y corrija estos errores puede evitar daños graves antes de que afecten a personas reales.
- ¿Quién comprobará los resultados?
- ¿Cómo se detectarán y corregirán los errores?
Transparencia y explicabilidad
Tanto las personas que lo crean como las que lo utilizan deben ser capaces de comprender cómo la IA ha llegado a una recomendación o decisión concreta: la lógica de los algoritmos, cómo se ha entrenado a la IA, cómo se han procesado y etiquetado los datos y cómo se evalúa el rendimiento del modelo.
Dado que la IA se utiliza cada vez más para tomar decisiones de alto riesgo (como contrataciones, diagnósticos médicos, aprobaciones de préstamos o recomendaciones de inversión), los resultados inexactos o sesgados pueden tener graves consecuencias que afecten a la carrera profesional, las finanzas o incluso la salud y la seguridad.
Puede utilizar visualizaciones sencillas, explicaciones breves en forma de texto o demostraciones interactivas para mostrar cómo funciona su sistema. La clave es proporcionar a los usuarios suficiente información para que puedan tomar decisiones informadas, hacer preguntas y comprender el razonamiento que hay detrás de los resultados de su IA.
- ¿Cómo puedes hacer que las decisiones de tu IA sean claras y comprensibles para tus usuarios?
Accesibilidad e inclusión
La IA debe funcionar para todos, incluidas las personas con discapacidad, las que no hablan inglés, las que carecen de Internet de alta velocidad y las que no están familiarizadas con la tecnología.
- ¿Habrá interfaces visuales que puedan excluir a los usuarios ciegos?
- ¿Qué pasa con la entrada de audio que podría excluir a los usuarios sordos?
- ¿Tienen los usuarios los conocimientos técnicos necesarios para navegar fácilmente y utilizar tu producto con eficacia?
- ¿Tomarás en cuenta a los usuarios de tu aplicación que no hablen inglés?
Impacto medioambiental
Aunque la IA es asombrosa y puede transformar la vida de las personas, también tiene un coste. Entrenar modelos de IA requiere una potencia de cálculo considerable, lo que afecta al medio ambiente. Aunque su proyecto inicial no afecte de forma significativa al medio ambiente, debe tener en cuenta que este problema podría pasar a primer plano a medida que su proyecto se amplíe.
945 TWh en 2030
Se prevé que, para 2030, los centros de datos que alimentan la inteligencia artificial consumirán alrededor de 945 teravatios-hora de electricidad, una cifra superior al consumo anual total de Japón. Según la Agencia Internacional de la Energía, el 60 % de esa energía seguirá procediendo de combustibles fósiles.
- ¿Cómo podrías utilizar modelos de aprendizaje automático existentes en lugar de entrenar los tuyos propios?
- ¿Cómo podrías optimizar tu modelo y utilizar menos datos?
Impacto laboral
La IA automatiza muchas tareas que antes realizaban los humanos. Tu proyecto podría causar daños no deseados al hacer que la gente pierda su trabajo y sus ingresos.
- ¿Sustituye a los puestos de trabajo humanos y, en caso afirmativo, qué ocurrirá con esos trabajadores?
- ¿Quién se beneficiará económicamente y quién podría verse perjudicado por ello?
Normativa que debes conocer
El diseño ético va más allá de lo que es técnicamente legal para garantizar que su producto es justo y digno de confianza. Sin embargo, hay normativas y leyes que debes cumplir cuando lanzas nuevas tecnologías.
Si tu IA maneja datos personales:
- GDPR (Europa): normas estrictas sobre privacidad y protección de datos
- CCPA (California): derecho a la intimidad del consumidor
- COPPA (EE.UU.): protección de datos de menores
- HIPAA (EE.UU.): protección de datos sanitarios
Si tu proyecto utiliza IA:
- Ley de IA de la UE (2024): Clasifica los sistemas de IA según su riesgo (bajo, alto, inaceptable). Los sistemas de alto riesgo -utilizados en contratación, educación, sanidad- deben cumplir estrictas normas de transparencia, pruebas y documentación.y
- Declaración de derechos de la IA en Estados Unidos: Aún no es ley, pero esboza principios como la protección frente a los sesgos algorítmicos, la privacidad de los datos y las alternativas humanas para las decisiones críticas.
- Otros marcos: La Ley de IA y Datos de Canadá, el Marco Modelo de Gobernanza de la IA de Singapur y los Principios de IA de la OCDE hacen hincapié en la responsabilidad, la equidad y la explicabilidad.
- Propiedad intelectual (PI): Tenga cuidado con la IA generativa que pueda producir contenidos protegidos por derechos de autor. Evite utilizar materiales protegidos por derechos de autor en conjuntos de datos de entrenamiento para sus propios modelos.
Ser un creador ético es un viaje
La IA es potente, pero nunca es perfecta. Los modelos evolucionan, aprenden de nuevos datos e interactúan con los usuarios de formas que pueden producir resultados inesperados. Esto significa que las consideraciones éticas no son una lista de comprobación única, sino que requieren una atención continua.
Recuerda, el objetivo no es sólo construir una solución de IA que funcione hoy, sino construir una que siga funcionando de forma justa, segura y beneficiosa mañana y en el futuro.
Tú y tu equipo siempre deberán preguntarse: «¿Qué podemos hacer ahora para que nuestro producto sea aún más responsable?». Sus valores o el contexto pueden cambiar con el tiempo, asi que es necesario reflexionarlo constantemente.
Ten en cuenta estos consejos:
- Sigue aprendiendo: mejora tus habilidades, haz preguntas y piensa en cómo hacer que tu producto sea más responsable.
- Busca siempre hacer el bien: no se trata solo de evitar hacer el mal, sino de tener la misión deliberada de ayudar a tu comunidad de una manera amable y justa.
- Incorpóralo al plan: dedica tiempo y energía a la ética, igual que lo harías para diseñar el aspecto de tu producto o escribir el código.
- Contar con un líder del equipo RRI: alguien que recuerde a todos que deben pensar en ser responsables, especialmente cuando todos están ocupados y entusiasmados con nuevas ideas.
- Busca apoyo: no tengas miedo de pedir ayuda a tus compañeros, mentores, usuarios o profesionales si tienes dudas sobre si algo relacionado con tu negocio es ético.
ACTIVIDAD 1
Tu plan de acción ética de IA continua
Tiempo estimado: 30 minutos
Construir de forma ética es un viaje continuo. Utiliza las preguntas de la hoja de trabajo para reflexionar sobre cómo gestionarás las cuestiones éticas en tu proyecto.
Recuerda mantener la curiosidad. El mundo de la IA siempre está cambiando, y ser un gran innovador significa ser siempre un aprendiz. Ahora estás preparado no solo para construir algo increíble, sino también para guiarlo éticamente hacia el futuro.
Recursos adicionales
En esta charla, el profesor Stuart Russel profundiza en la ética de la IA y subraya la importancia del diseño responsable , la supervisión y la consideración de las repercusiones sociales.
