Ofelia Santiago es vicepresidenta de AECTA y CEO de Santiago Consultores. Ha centrado su dilatada experiencia como estratega, coach política y ejecutiva y experta en transformación y liderazgo de empresas, universidades y gobiernos, además de consultora internacional. Ofelia Santiago es también escritora y speaker internacional y vicepresidenta ejecutiva y directora académica del Instituto Europeo Ecofin de Liderazgo. Además de CEO de LATIN INSIGHTS EUROPE. Socia EJECON. CEO para Europa de Empresas + Felices. Socia-fundadora del Cluster Madrid Capital Fintech y miembro del Board del Women Economic Forum. Ofelia Santiago moderará en este congreso la mesa de debate “Guardianes del mañana: IA Ética y Sostenible en la encrucijada del futuro”.
Usted moderará la mesa de debate bajo el título «Guardianes del Mañana: IA Ética y Sostenibilidad en la Encrucijada del Futuro», ¿qué aspectos o líneas básicas quieren debatir en ella?
Cuando aún resuena en nuestra retina la imagen provocada el pasado 11 de octubre por Elon Musk descendiendo de su Cybercab para dar comienzo a la convención tecnológica denominada “We Robot”, donde entre otras primicias acaparó la atención la presentación de Optimus, ese robot humanoide o cobot con los últimos avances en IA, totalmente autónomo y que será nuestra sombra en cada función cotidiana, me viene igualmente a la mente el manifiesto firmado por el mismo Musk unos meses antes, junto al fundador de Apple o el de Skype y junto a un millar de personalidades, donde pedían que se parara el desarrollo de las IAS más poderosas para poder estudiar lo que definieron como Impactos irreversibles de la IA en esta disrupción tecnológica con carácter exponencial. Y que, según manifestaron, no tiene un verdadero control sobre los diversos impactos que van a generar en todas y cada una de las dimensiones de nuestra vida. En la mesa de debate “Guardianes del Mañana”, pretendemos crear ese tan necesario marco de reflexión y debate donde exploraremos cómo la inteligencia artificial (IA), especialmente la IA generativa, además de regularse, como proponen nuestras administraciones europeas, debe integrarse de manera ética y sostenible en nuestra sociedad. Para ello abordaremos algunos de los principales aspectos que consideramos prioritarios.
Ética en la IA: Un eje central será cómo asegurar que la IA respete los derechos universales como la libertad entre muchos otros o valores fundamentales como la transparencia o la equidad. Queremos evitar que los sistemas de IA perpetúen sesgos o discriminen. O generen una economía y países, de distintas velocidades. Donde irremediablemente, si no lo evitamos, muchos quedarán atrás. Discutiremos por otra parte, la necesidad de algoritmos responsables que sean auditables y justos en la toma de decisiones automatizadas.
Sostenibilidad ambiental y social: Otro punto clave es cómo la IA puede contribuir a la sostenibilidad. Por ejemplo, cómo puede optimizar el uso de recursos, ahorrar energía y reducir el desperdicio en los procesos industriales. Sin embargo, todo ello supone en nuestro país un verdadero reto que requiere respuestas enérgicas desde el ámbito político y tecnológico. ¿Cuál va a ser el modelo que sustente el reparto y distribución de la energía? ¿Cómo se van a articular las políticas que articulen los centros de datos que requieren esta disrupción tecnológica y los centros de tratamiento de información?¿En qué manos estará nuestro futuro? ¿Está preparado nuestro modelo de red eléctrica para los ingentes consumos eléctricos en formato verde de los nodos que van a surgir y ¿Cumple todo el proceso con los principios básicos de la sostenibilidad?
Igualmente dirigiremos nuestra mirada a las consecuencias que todo este proceso generará como impacto social. La IA debe ser una herramienta que promueva la equidad social, brindando oportunidades a comunidades vulnerables y evitando la exclusión. Analizaremos cómo la IA puede mejorar el acceso a servicios esenciales, como la educación y la salud, y cómo puede ayudar a cerrar las brechas socioeconómicas. Sin olvidar el urgente análisis que se debe realizar sobre la desaparición de multitud de profesiones y empleos actuales, requisitos de evolución, adaptación para cada colectivo y la reestructuración de nuestro sistema económico y social para que todo ello sea posible.
Intersección entre ética y sostenibilidad: Este será un aspecto crucial. Queremos explorar cómo podemos diseñar soluciones tecnológicas que sean no sólo innovadoras, sino también sostenibles y responsables. Discutiremos cómo estas soluciones pueden integrarse en los modelos de negocio sin sacrificar los principios éticos ni el bienestar ambiental y social.
Regulación y gobernanza: Finalmente, abordaremos la necesidad de crear marcos regulatorios que equilibren la innovación tecnológica con la protección de derechos humanos y el desarrollo sostenible. Debatiremos sobre la importancia de una gobernanza inclusiva, donde la sociedad civil, las empresas y los gobiernos trabajen juntos para establecer las reglas que guiarán el uso de la IA en el futuro y marquen las directrices de nuestro presente.
El objetivo de este debate es generar una conversación crítica sobre cómo asegurar que la IA del mañana esté alineada con los derechos universales y valores como la equidad, transparencia y sostenibilidad, protegiendo tanto a las personas como al planeta.
¿Cuál es su visión sobre el papel que la Inteligencia Artificial debe desempeñar para equilibrar el progreso tecnológico con la sostenibilidad ambiental y social?
Mi visión es que la IA debe ser un catalizador del progreso tecnológico, pero no a costa de la sostenibilidad ambiental ni social. Para lograr este equilibrio, considero que la IA debe ser desarrollada y utilizada de manera responsable y ética, poniendo en el centro a la persona, donde será la tecnología la que sirva y mejore nuestra existencia, pues lo contrario, supondría ni más ni menos que la mayor amenaza para lo que significa ser humano y nuestra condición de humanidad.
En resumen, mi visión es que la IA debe ser una herramienta que impulse un desarrollo inclusivo, sostenible y ético, ayudando a resolver los problemas más urgentes de nuestra sociedad y del planeta.
El lema de este congreso es “Inteligencia artificial para un futuro responsable”, ¿cómo imagina el futuro con la IA, teniendo en cuenta la ética y la sostenibilidad?
Imagino un futuro en el que la IA esté profundamente integrada en nuestras vidas, pero bajo un marco ético sólido y orientado hacia la sostenibilidad. En este futuro, la IA será una pieza clave para enfrentar los grandes desafíos globales, desde la crisis climática hasta la desigualdad social, siempre con una base en la equidad y la justicia social.
En resumen, si logramos que la ética y la sostenibilidad sean los pilares fundamentales del desarrollo de la IA, podremos construir un futuro en el que la tecnología transforme nuestras vidas mejorando nuestro bienestar, respetando la dignidad humana y protegiendo el planeta.
Como CEO de Santiago Consultores, ¿qué rol juegan los líderes empresariales en la creación de políticas y estrategias que promuevan una IA responsable y sostenible?
Como CEO de Santiago Consultores, considero que los líderes empresariales desempeñan un papel crucial en la creación de políticas y estrategias que promuevan una inteligencia artificial (IA) responsable y sostenible. En Santiago Consultores, nos enfocamos en preparar a las empresas desde su propia estructura y sistemas, hasta la organización y el desarrollo de su transformación integral. Esto incluye la gestión de los cambios necesarios para asegurar que la IA no solo potencie el crecimiento, sino que lo haga de manera ética y en armonía con los valores de la sostenibilidad.
Los líderes no solo deben impulsar la innovación tecnológica, sino también asumir la responsabilidad de que la IA refleje un conjunto de valores fundamentales, como la justicia, la equidad y la transparencia. En Santiago Consultores, creemos firmemente que la transformación comienza desde el propio mindset del líder y de todos y cada uno de las personas que integran la organización y los stakeholders en los que impacta la actividad. Promoviendo el autoliderazgo y la autotransformación como punto de partida para cualquier cambio significativo. Esto se traduce en la creación de una nueva visión, con Propósito revelado que contemple una dimension ética para la IA, donde los principios de no discriminación y la protección de la privacidad sean pilares fundamentales. Los líderes, por tanto, deben asegurar que las políticas internas de sus organizaciones promuevan una IA que respete los derechos humanos y contribuya al bienestar colectivo. Atendiendo a los aspectos emocionales que implican los nuevos modelos y puestos de trabajo, técnicas utilizadas, la gestión del cambio y las distintas fases que implica su integración
En definitiva, los líderes empresariales tienen la misión de guiar a sus organizaciones hacia un uso de la IA que no solo maximice el aumento de productividad, eficiencia y el crecimiento, sino que también genere un impacto positivo tanto en la sociedad como en el medio ambiente. En Santiago Consultores, nos comprometemos a acompañar a las empresas en este proceso de transformación, asegurando que cada paso hacia la innovación sea también un paso hacia un futuro más responsable y sostenible.
¿Cuáles son los principales desafíos a los que se enfrenta la implementación de una IA ética en el entorno empresarial actual?
La implementación de una inteligencia artificial (IA) ética en el entorno empresarial enfrenta varios desafíos significativos que requieren atención y compromiso por parte de las organizaciones. Uno de los principales obstáculos es la falta de una regulación clara y uniforme. Junto con los retos anteriores ya mencionados. Actualmente, las empresas se encuentran con marcos regulatorios fragmentados y en muchos casos ambiguos, lo que genera incertidumbre sobre cómo garantizar que sus sistemas de IA cumplan con principios éticos y legales. Esta falta de homogeneidad en las normativas y ausencia de un modelo que lo sustente, crea una barrera para el avance de una IA responsable, ya que las empresas deben navegar entre diferentes requisitos legales en función de su ubicación o sector.
Otro desafío relevante es el costo elevado que implica desarrollar e implementar IA de manera ética. Para garantizar que los sistemas de IA sean responsables, es necesario invertir en tecnología avanzada, infraestructura adecuada y formación especializada. Este tipo de inversión puede ser inalcanzable para muchas pequeñas y medianas empresas, lo que limita su capacidad para adoptar IA de manera responsable y, a su vez, genera una brecha en la competitividad.
La privacidad y la protección de datos es otro reto importante en la adopción de IA ética. Los sistemas de IA suelen manejar grandes volúmenes de datos personales, y asegurar que estos se utilicen de manera ética y segura es una preocupación constante para las organizaciones. La responsabilidad de proteger la privacidad de los usuarios y de garantizar que los datos no sean mal utilizados se ha convertido en un desafío crucial en el entorno empresarial actual.
Además, los sesgos en los algoritmos representan un riesgo significativo. Los modelos de IA dependen en gran medida de los datos con los que son entrenados, y si estos datos contienen sesgos, los resultados pueden ser discriminatorios. Las empresas deben comprometerse a invertir en sistemas que sean capaces de identificar y corregir estos sesgos para asegurar que las decisiones automatizadas sean justas y equitativas.
Finalmente, la brecha digital constituye un desafío clave para lograr una implementación equitativa de la IA. No todas las personas ni todas las empresas tienen el mismo acceso a las tecnologías avanzadas, lo que genera una desigualdad en el aprovechamiento de los beneficios de la IA. Las organizaciones deben ser conscientes de esta realidad y trabajar activamente para reducir esta brecha, promoviendo el acceso inclusivo a las tecnologías de IA.
¿Cómo puede la sociedad participar activamente en la creación y promoción de una IA que sea ética y sostenible, y qué responsabilidades tienen las empresas y los gobiernos para garantizar su implementación inclusiva?
La sociedad tiene un papel fundamental en la creación y promoción de una inteligencia artificial (IA) que sea ética y sostenible. Para asegurar que el desarrollo de la IA beneficie a todos de manera equitativa, la participación activa de los ciudadanos es clave. Uno de los pilares esenciales para lograrlo es la educación y la alfabetización digital. Es necesario que las personas estén informadas sobre el impacto de la IA en sus vidas y comprendan las implicaciones éticas que conlleva su uso. Esto incluye, por ejemplo, entender cómo se utilizan sus datos, cuáles son sus derechos en relación con la privacidad y qué pueden hacer para influir en las políticas que regulan estas tecnologías. En Santiago Consultores, trabajamos con empresas y líderes para que estas iniciativas de educación y capacitación no solo se implementen a nivel organizacional, sino que también contribuyan a generar un entorno más consciente y responsable respecto al uso de la IA.
La participación de la sociedad en los debates públicos es otro elemento crucial. Los ciudadanos deben estar presentes en las discusiones sobre el uso de la IA, ya que sus voces pueden influir en la toma de decisiones tanto políticas como empresariales. La sociedad civil puede participar en foros, conferencias y grupos de trabajo donde se analicen los riesgos y beneficios de la IA, aportando perspectivas que promuevan un uso más justo y equitativo de estas tecnologías. En Santiago Consultores, fomentamos estos espacios de diálogo para que la implementación de la IA esté alineada con los valores éticos y sostenibles que promovemos, asegurando que todos los sectores sociales sean escuchados y tomados en cuenta.
Asimismo, es esencial que la sociedad exija transparencia y responsabilidad a las empresas y a los gobiernos. Y los gobiernos juegan un rol indispensable en la creación de marcos regulatorios que protejan a los ciudadanos y fomenten una IA inclusiva. En Santiago Consultores, creemos que la colaboración entre el sector privado, el público y la sociedad civil es esencial para asegurar una disrupción tecnológica que no deje a nadie atrás y que contribuya a la construcción de una nueva economía y modelo social más justo y sostenible.
