María Dapena, embajadora de WAI Spain: “La ética solo estará en la práctica cuando se mida, audite y tenga consecuencias”

Tras una extensa carrera internacional en protección internacional como funcionaria de la UE y en el ámbito nacional, Maria Dapena trabaja como consultora internacional del sector público y en los aspectos éticos y legales de los sistemas de IA.  Es CEO y fundadora de Llevantia, desde donde asesora a empresas e instituciones sobre el uso de sistemas de IA confiables. Además de ser evaluadora certificada por IEEE en criterios éticos de Sistemas Inteligentes Autónomos (AIS). Recientemente, ha creado y conduce el podcast “Betatesters” en el que analiza la IA utilizando un criterio propio y pensamiento crítico, y aborda el impacto social y ético de la IA.

María es licenciada en Derecho por la Universidad de Navarra, y en Humanidades por la Universidad de Santiago de Compostela, posee un B.A in Philosophy por la University of Hull, así como Master en Políticas y Política Europea por la Bath University (UK).  Como voluntaria y embajadora en España de Women in AI, está comprometida en la creación de oportunidades y en promover la participación equitativa de mujeres y niñas en el ecosistema de IA en España. 

-Un año después, ¿hemos avanzado hacia una IA ética, diversa e inclusiva o la ética sigue más presente en el discurso que en la práctica?

Se ve cierto avance, pero no al ritmo que nos impone la tecnología.  Según The 2026 AI Index Report | Stanford HAI la IA responsable no está a la altura de la capacidad de la IA, ya que los estándares de seguridad van por detrás y los incidentes aumentan considerablemente.

Es cierto que el Ómnibus Digital amplía el plazo del cumplimiento de obligaciones de sistemas de alto riesgo hasta diciembre del 2027, pero empresas y administraciones necesitan tiempo para cumplirlas y formar a su personal. La ética ya está en la conversación, pero solo estará en la práctica cuando se mida, se audite y tenga consecuencias.

-¿Qué nuevos dilemas éticos plantea delegar decisiones en agentes autónomos y dónde deberíamos poner los límites?

Mas que dilemas éticos, me gustaría hablar de riesgos, los agentes plantean riesgos específicos y adicionales. Para mí el más inquietante es el alineamiento fingido o  que los sistemas pueden no comportarse igual cuando detectan que son evaluados, descubierto por Anthropic y Redwood Research. O los fallos en cascada cuando varios agentes trabajan juntos: un error o una manipulación en uno se propaga a los demás, que señala OWASP. O el de los permisos excesivos, el error más típico de quien crea un agente sin formación.

También la asignación de responsabilidad, porque cuando un agente tiene un comportamiento no deseado o imprevisible, ¿quién responde? La empresa que desarrolló el modelo?, ¿quién creó el agente? o ¿quién lo usa en su ámbito profesional?.

Otro importante es el del consentimiento y la privacidad, puesto que un agente accede a correos con datos de terceros, agendas, datos y cuentas para ser útil.  En cuanto a los límites, creo que ninguna decisión que afecte a derechos fundamentales debería quedar en manos de un sistema autónomo. A mayor impacto, deberíamos exigir sistemas más transparentes, explicables. En resumen, menos autonomía artificial y más autonomía humana.

-¿Qué aporta una mayor presencia de mujeres en el diseño, desarrollo y, especialmente, en la toma de decisiones sobre IA?

Los equipos homogéneos no detectan errores que no les afectan directamente, de modo que la diversidad funciona como un control de calidad que anticipa fallos antes de que lleguen a la ciudadanía, como el de los sesgos.

Los sistemas se entrenan con datos que reflejan estereotipos que entendíamos superados y los traen a la mesa. Pero insisto, el impacto decisivo no está solo en programar, sino en subir la escalera y alcanzar la paridad en los consejos de administración, en los organismos reguladores y en los comités que deciden qué sistemas se utilizan en la ciudadanía.

-¿En qué punto está España en cuanto a mujeres liderando proyectos y empresas de IA y cuáles son las principales barreras?

 

Según la base Mujeres en Cifras del Ministerio de Igualdad, en los últimos 30 años la proporción de hombres matriculados en Informática pasó del 70% al 85%, y la de mujeres bajó del 30% al 15%, duplicando la brecha de género. En los estudios en matemáticas, el saldo es también negativo, en 1990 las mujeres eran mayoría 51%, y en 2022 solo alcanzamos el 36% del total.

En cuanto a la producción científica, llama la atención que solo el 13,8 % de los artículos sobre IA tienen autoría femenina.

Y el futuro no resulta muy alentador, la OCDE nos informa de que solo el 1,5 % de las chicas quiere dedicarse a profesiones TIC, frente al 10 % de los chicos. Las barreras que se nos presentan es un alejamiento de las niñas de las carreras tecnológicas y la falta de referentes visibles. En el ámbito profesional nos encontramos ante un ecosistema muy masculinizado; y la conciliación, que penaliza las carreras en un sector que exige actualización constante.

-¿Qué principios deberían ser irrenunciables para que el avance tecnológico no relegue el criterio, la creatividad y la decisión humana?

Fundamentalmente, emplear nuestro pensamiento crítico al usar la IA. La IA es un motor probabilístico, no sirve para todo, ante nuevos escenarios o en el caso de grupos sociales minoritarios no es precisa, no deberíamos utilizarla.

Para ello necesitamos la alfabetización general en IA, porque solo una ciudadanía que entiende cómo funcionan estos sistemas puede usarlos con intención. Como principio hablaría de la autonomía y supervisión humana efectiva, de forma que cuestionemos y exijamos comprender y poder revertir una decisión automatizada o detenerlo. La transparencia, y la explicabilidad son fundamentales para saber cuándo interactúas con una IA, cuándo tus datos se usan para perfilarte como un tipo de consumidor u otro y cuándo una decisión ha sido tomada por un sistema.

El tercero es la rendición de cuentas, porque la tecnología no puede convertirse en un escudo para diluir responsabilidades. Por supuesto, la equidad, que no estemos expuestos a resultados discriminatorios en el acceso al empleo, a préstamos, seguros de salud o servicios básicos, etc, protegiendo a los sectores más vulnerables, la infancia o la tercera edad, que no puede ser tratada como un usuario más.

-¿Qué cambios concretos harían falta para que las mujeres no solo participen en la revolución de la IA, sino que decidan cómo debe ser?

Yo priorizaría la presencia paritaria en los órganos que gobiernan la IA, desde las autoridades de supervisión y los comités de expertos hasta los consejos de administración de las empresas tecnológicas y que este indicador se tenga en cuenta en la contratación pública de sistemas.

En segundo lugar, integrar la IA y el pensamiento crítico en el sistema educativo desde edades tempranas, con un enfoque que haga atractiva la tecnología para las niñas mostrando su impacto social. Y, por último, visibilidad y redes de apoyo, que es precisamente lo que hacemos desde Women in AI: conectar a tecnólogas con otras mujeres que buscan trabajar en el ecosistema, para que ninguna mujer tenga que abrirse camino sola.

-¿Qué balance hace de la primera edición del WAI Valencia Talk y qué expectativas tiene para la segunda?

Muy positivo, porque conseguimos reunir en València a representantes públicos, de la UNESCO, organizaciones como Maldita, EU DisinfoLab, e investigadoras europeas especializadas en inteligencia artificial y desinformación. Y pusimos sobre la mesa datos que no pueden ignorarse, como que el 99 % de las víctimas de deepfakes son mujeres o niñas.

Estamos encantadas de que las aplicaciones que permiten generar y propagar esas imágenes se hayan prohibido. Para esta segunda edición, mi expectativa es dar un paso más, abordar con rigor el reto de los agentes autónomos desde la perspectiva de los derechos y del liderazgo femenino.