Entrevista exclusiva para la Festibity

Karina Gibert es catedrática de la Universitat Politècnica de Catalunya-Barcelona Tech (UPC) desde 2018 y docente de la UPC desde 1990 impartiendo diversas asignaturas sobre estadística, análisis multivariante, minería de datos, ciencia de los datos, inteligencia artificial y sistemas inteligentes de soporte.

Licenciada en Informática por la FIB, en las especialidades en Estadística Computacional e Inteligencia Artificial, tiene un doctorado en Informática y un postgrado en Docencia Universitaria. Es un miembro de la junta de FIB Alumni, cofundadora y directora del centro de investigación “Intelligent Data Science and Artificial Intelligence (IDEAI)” y miembro experta de la estrategia catalana de Inteligencia Artificial Catalonia AI, además de vicedecana en ética e igualdad en el Colegio Oficial de Ingeniería de Catalunya.

—

Las TIC han ido evolucionando y a día de hoy uno de los temas de actualidad es el de la inteligencia artificial. Juega un papel en la vida de millones de personas y transforma nuestra sociedad. ¿Qué desafíos plantea?

En efecto la Inteligencia Artificial es una disciplina que se viene desarrollando desde 1956 pero que recientemente ha hecho un salto al tejido productivo y estamos rodeados de aplicaciones reales que la utilizan e interactúan con nosotros cada día, como el GPS, o la roomba, y tantas y tantas aplicaciones que trabajan con datos personales o sistémicas para hacer modelos predictivos de todo tipo, desde el marketing digital hasta la evaluación de nuestras solicitudes de crédito. El principal reto es que es invisible. Difícilmente un ciudadano de pie será consciente que hay una IA actuante que le recomienda qué por el-licules de Netflix le gustará ver por ejemplo. Y que si esto pasa para elegir la película que vemos un domingo por la tarde en casa en familia, el impacto no tiene nada que ver con el de una IA que determina que no tenemos ningún tumor (o si) sobre una tomografía, o que determina que no nos tienen que dar un crédito o hacer un seguro por el coche porque “damos el perfil de riesgo de no poder cumplir las cuotas”.

Con lo que os describo ya se hace evidente que el segundo desafío es que la implantación de la IA sea ÉTICA y respetuosa con los derechos humanos y sobre todo no incremente las desigualdades sociales ni actúe con sesgos.

¿Estás colaborando con la Comisión Europea en cuestión de ética e IA? ¿Necesitamos políticas y marcos normativos internacionales y nacionales?

No solo con la CE, también con el gobierno de Cataluña a diferentes niveles y también he colaborado con intitucions de cariz estatal, como el Senado o el Consejo General de Colegios de Ingeniería Informática de España. Estamos en la era de la transformación digital, todo parece que se digitaliza, y la IA juega un papel fundamental en esta transformación. Si, en efecto, necesitamos un marco que dé cobertura a qué usos de la IA consideramos aceptables y cuáles no. Actualmente se está gestando la ley Europea de la IA sobre un documento de bases, ya famoso, la AI ACT, donde Europa toma un posicionamiento claro respeto esta voluntad de hacer que la IA sea un motor de desarrollo integral del territorio, pero basado en tres principios fundamentalmente divergentes de la visión americana o la china: una IA centrada en las personas, una IA por el bien común, una IA ética y segura. El marco actual europeo se basa en la RGPD del 2016 y al 2018 salieron las recomendaciones por una IA ética segura y confiable con un modelo basado en 8 ejes (transparencia, robustez y seguridad, carencia de sesgos, sostenibilidad, etc), que sirven de marco de referencia pero no tienen valor legal en realidad.

“Estamos en la era de la transformación digital, todo parcece que se digitaliza, y la IA juega un papel fundamental en esta transformación. Necesitamos un marco que dé cobertura a qué usos de la IA consideramos aceptables y cuáles no.”

¿Qué se hace en Cataluña, más en concreto?

En Cataluña, a tenor de la estrategia catalana de IA se creó ya hace un tiempo el Observatorio de Ética de la IA de Cataluña, que hace muy pocos días, a finales de junio, presentó un primer sello ético que las compañías, los proyectos y las aplicaciones de IA se pueden poner y que va cambiando de colores de más verde a más rojo según el nivel de más o menos madurez en cada uno de estos ejes éticos que propone Europa.

De momento todo es muy voluntario, pero yo personalmente, que formo parte del Consejo Asesor del OEIAC y siempre apoyo mucho la idea de crear sellos, encuentro que es muy interesante que las entidades, proyectos y aplicaciones que cumplan muchos ejes éticos se cuelguen el sello porque esto permite a los usuarios de conocer cuando se adopta esta visión más ética y permite, sin duda, hacer una elige más selectiva entre aplicaciones que usen IA y quizás hacen cosas parecidas. Espero que con el tiempo, seamos un público formado, responsable y crítico con predilección por aplicaciones con sello OEIAC e más verde posible por ejemplo.

Ya sabemos que las regulaciones y la legislación siempre van a remolque y no siempre aparecen cuando las necesitamos. Pero estrategias como la del sello OEIAC son alternativas a medio camino que pueden orientar el mercado hacia la busca de distintivos de calidad ético que ayuden la ciudadanía a saber que utilizan y fomenten la creación de aplicaciones éticas que se puedan utilizar de forma segura.

Has participado en la redacción del Plan estratégico para la IA del gobierno catalán. 

Pues, mira, liga muy bien con el que decía a la pregunta anterior. La IA está en todas partes, y no la sabemos ver muchas veces porque es todavía una grande desconocida por muchos de nosotros. Desde la estrategia se fomentan acciones que nos ayuden a identificarla, por ejemplo, como el sello OEIAC, entre otros muchas acciones. Pero formar la ciudadanía en los principios más básicos para entender cuando interactuamos con una IA e imaginar sobre qué mecanismos actúa nos permite desarrollar el espíritu crítico para decidir qué utilizamos y que no, o como lo utilizamos, o qué derechos tenemos en los diferentes casos y como los ejercemos, de forma que podamos aprovechar todos los beneficios de la IA y no tengamos de sufrir los riesgos.

“La IA está en todas partes, y no la sabemos ver muchas veces porque es todavía una grande desconocida para muchos de nosotros.”

¿Por qué un proyecto de formación de IA como de la CiudtanIA?

CiudatanIA, pues, es un curso que hemos diseñado desde el equipo de expertos en IA de IDEAI, el centro de investigación que yo dirijo a la UPC, y que tiene 70 especialistas en las diferentes ramas de la IA, por ejemplo, la visión artificial, o el reconocimiento de la voz, la robótica, el razonamiento automático o el aprendizaje automático, entre tantos otros. Cómo decía, ciudadanía lo hemos diseñado desde el conocimiento más especializado, pero con una fuerte vocación divulgativa e inclusiva.

“Ha sido un reto abrir la complejidad que hay al detrás de la IA en un relato.”

El curso es interactivo y gratuito y está pensado por el gran público. Las personas interesadas se pueden registrar desde el web ciutadania.cat e irlo haciendo libremente, a ratos, en familia, en grupos de amigos, o como quieran. Aprenderán un poco de historia de la IA en las diferentes vertientes, y el montón de aplicaciones inteligentes que los rodean casi cada día y con los que ya están interactuando, y sabrán qué se cuece por dentro de los algoritmos que hacen recomendaciones, encuentran rutas, determinan enfermedades o riesgo de morosidad, etc. Ha sido un reto abrir la complejidad que hay al detrás de la IA en un relato, casi medio literario en algunos puntos, donde la persona de la calle, sin conocimientos técnicos puede ir penetrante en esta nueva realidad de forma amable y divertida y acabar el curso con criterios por saber cómo actuar ante estas aplicaciones inteligentes, perder el miedo y garantizar que no cedemos datos a quienes tiene que hacer usos controvertidos, por ejemplo.

El curso hace mucho de énfasis en la parte ética y aprovecha también para visibilizar el ecosistema catalán de IA, que es muy potente, a través de muchos ejemplos basados en aplicaciones reales que se hacen en casa nuestra. Tiene una protagonista niña, que nos guía por todo el curso, la Icàtia, que además esperamos que sirva de inspiración por reguir la rendija de género al sector.

Estamos muy contentos, en escasamente un mes ya hay más de 500 personas haciendo el curso y Enseñanza lo reconoce como una formación que aporta puntos a los profesores que lo cursen, lo cual nos llena de satisfacción, porque ayuda a que la capa docente de la sociedad se aproxime a esta nueva realidad y pueda hablar a los escolares también.

¿Cómo estamos en relación a otros países?

Cataluña es un polo muy desarrollado en Inteligencia Artificial, con un gran potencial para convertirse en el Hub de IA del sur de Europa. El ecosistema es muy potente y Barcelona sale muy calificada en todos los ránquines internacionales en cuanto a la tecnología, la innovación y la IA, y esto favorece la atracción de talento e inversión internacional, que nos tiene que ayudar a acabar de crecer. La estrategia del gobierno es un impulsor importando para vertebrar el ecosistema, que ya tenía una comunidad científica muy solvente enjarje al ACIA (la asociación Catalana de IA de más de 30 años de antigüedad, y con primeras figuras a nivel internacional) y una flota de start ups de alto nivel innovador que ya era de primer nivel. Lo único que nos lastra uno por él, es que los niveles de inversión son minsos en relación con lo que pasa fuera, pero aquí hay mucho ingenio y a pesar de todo somos punteros.

En Cataluña nos hemos alineado con la visión europea de la IA, que es mucho diferente a la China (donde el control lo tiene el gobierno y la surveillance plana por el horizonte todo el rato) o la americana (donde el control lo tiene el propietario del software que recoge los datos y puede hacer el que quiera, incluyendo todo tipo de bussiness vendiéndolas o utilizándolas para perfilar los usuarios y manipularlos a través de marketing agresivo). En noviembre del 2021 la UNESCO publicó sus recomendaciones éticas de la IA en línea con Europa y por primera vez un organismo internacional interpela estas grandes potencias hacia una visión centrada con las personas y respetuosa con la privacidad y los derechos de las personas.

¿Hacia dónde crees que avanzará la IA en los próximos años?

Todo se dibuja ahora. Pero yo creo que hemos entendido el valor estratégico de los datos y que esto no tendrá marcha atrás. Que iremos encontrando las buenas formas de inyectar los datos en los procesos de decisión para hacer mejores políticas, mejores estrategias, y mejores recomendaciones, dentro de un marco ético, y que también encontraremos el espacio de convivencia justo entre personas y máquinas (móviles o no, como los robots) donde la IA nos incremente el potencial como personas sin pasarnos por sobre. Es el gran reto y es para el que muchos de nosotros estamos trabajando cada día, no solo desde la vertiente científica, sino también haciendo estrategia y ayudante a nuestros gobiernos a implantar bien los progresos tecnológicos.

Fuiste una de las fundadoras de la comisión de género mujeres COEINF y un vicedecanato de presidencia en igualdad y ética. ¿Habéis notado un incremento de las vocaciones femeninas en el ámbito de la tecnología?

Este es otro reto que me preocupa muchísimo. Las mujeres somos el 51% de la sociedad y tenemos una mirada y unas necesidades que son complementarias a las de nuestros compañeros hombres. Que el futuro tecnológico que se está construyendo sea obra y gracia de equipos mayoritariamente masculinos tiene un sesgo intrínseca que no nos podemos permitir. Hagamos todo el que podamos y a base de divulgar mucho el rol central de la tecnología en el futuro más inmediato y el interés de estas profesiones hemos podido ver como en los últimos años la Facultad de Informática de Barcelona por ejemplo está empezando a remontar y ha subido de un 7% a un 14% en los últimos 4 años. También estamos muy contentos de constatar que en el nuevo grado oficial de inteligencia artificial de la FIB hay un 45% de chicas a la primera promoción, después de haber trabajado un relato con perspectiva de género en los primeros videos de promoción de la titulación.

¿Cómo están las vocaciones femeninas en el ámbito IA? ¿La IA tiende a ampliar o reducir las diferencias de género?

¡Ah! Mira, pues esto mismo te decía. Nosotros hemos impulsado, a raíz de la estrategia catalana de IA que cuenta con un eje específico de talento, que la FIB pudiera tener el primer grado oficial en IA de Cataluña, y se puso en marcha el septiembre del 2021. Estamos muy contentos porque hicimos un esfuerzo muy grande desde la FIB para poder explicar el interés de los estudios desde el impacto social de las profesiones que un especialista en IA puede llegar a ejercer, ¡y hemos podido captar el interés de las chicas hasta el extremo de tener una primera promoción casi paritaria!

Estamos convencidos que visibilizar el valor de la IA en la mejora del bienestar la salud de las personas o el medioambiente es un gran ejercicio de evidenciar el interés de estas profesiones para construir un futuro mejor por todo el mundo.

Como docente a la UPC, ¿qué mensaje darías a quién quiere ser profesional IA?

Que no dude. Que se matricule del grado, del máster o del doctorado que hacemos en la UPC, liderados desde la FIB, cuentan todos con un profesorado de primer nivel y econtrarán buenos trabajos sin duda, muy probablemente incluso antes de acabar los estudios.

La IA es un sector en crecimiento, con una carencia de talento importante actualmente y que el sector está importando talento internacional porque con el que generamos en casa no es suficiente y que por lo tanto entrar en este ámbito promete una inserción laboral excelente, llena de posibilidades alentadoras, en todos los ámbitos imaginables, desde el sector salud a la automoción pasando por la calidad del aire, del agua, el negocio electrónico, el marketing, la agricultura, el turismo, la industria 4.0, y tantos otros. La FIB es una facultad muy prestigiosa y sus profesionales son reconocidos entre los mejores, aquí y afuera.

Yo disfruto cada día de esta profesión y he podido trabajar con médicos, químicos, políticos, trabajadores sociales, filósofos, siempre viendo como resolvía problemas que permitían llevar bienestar a pacientes o empresarios. Se un ámbito muy apasionante.