Entrevista exclusiva per a la Festibity

Karina Gibert és catedràtica de la Universitat Politècnica de Catalunya-Barcelona Tech (UPC) des de 2018 i docent de la UPC, des de 1990 impartint diverses assignatures sobre estadística, anàlisi multivariant, mineria de dades, ciència de les dades, intel·ligència artificial i sistemes intel·ligents de suports.

Llicenciada en Informàtica per la FIB, en les especialitats en Estadística Computacional i Intel·ligència Artificial, té un doctorat en Informàtica i un postgrau en Docència Universitària. És membre de la junta de FIB Alumni, cofundadora i directora del centre d’investigació “Intelligent Data Science and Artificial Intelligence (IDEAI)” i membre experta de l’estratègia catalana d’Intel·ligència Artificial Catalonia AI, a més de vicedegana en ètica i igualtat al Col·legi Oficial d’Enginyeria Informàtica de Catalunya.

—

Les TIC han anat evolucionant i a dia d’avui un dels temes d’actualitat és el de la intel·ligència artificial. Juga un paper en la vida de milions de persones i transforma la nostra societat. Quins desafiaments planteja?

En efecte la Intel·ligència Artificial és una disciplina que ve desenvolupant-se des de 1956, però que recentment ha fet un salt al teixit productiu i estem envoltats d’aplicacions reals que la utilitzen i interactuen amb nosaltres cada dia, com el GPS, o la roomba i tantes i tantes aplicacions que treballen amb dades personals o sistèmiques per fer models predictius de tota mena, des del màrqueting digital fins a l’avaluació de les nostres sol·licituds de crèdit. El principal repte és que és invisible. Difícilment un ciutadà de peu serà conscient que hi ha una IA actuant que li recomana quines pel·lícules de Netflix li agradarà veure per exemple. I que si això passa per triar la pel·lícula que veiem un diumenge a la tarda a casa en família, l’impacte no té res a veure amb el d’una IA que determina que no tenim cap tumor (o que si) sobre una tomografia, o que determina que no ens han de donar un crèdit o fer una assegurança pel cotxe perquè “donem el perfil de risc de no poder complir les quotes”.

Amb el que us descric ja es fa evident que el segon desafiament és que la implantació de la IA sigui ÈTICA i respectuosa amb els drets humans i sobretot no incrementi les desigualtats socials ni actuï amb biaixos.

Estàs col·laborant amb la Comissió Europea en qüestions d’ètica i IA. Necessitem polítiques i marcs normatius internacionals i nacionals?

No només amb la CE, molt amb el govern de Catalunya a diferents nivells i també he col·laborat amb institucions de caire estatal, com el Senat o el Consejo General de Colegios de Ingeniería Informática de España. Estem a l’era de la transformació digital, tot sembla que es digitalitza, i la IA juga un paper fonamental en aquesta transformació. Si, en efecte, necessitem un marc que doni cobertura a quins usos de la IA considerem acceptables i quins no. Actualment, s’està gestant la llei Europea de la IA sobre un document de bases, ja famós, l’AI ACT, on Europa pren un posicionament clar respecte aquesta voluntat de fer que la IA sigui un motor de desenvolupmanet integral del territori, però basat en tres principis fonamentalment divergents de la visió americana o la xinesa: una IA centrada en les persones, una IA pel bé comú, una IA ètica i segura. El marc actual europeu es basa en la RGPD del 2016 i al 2018 van sortir les recomanacions per una IA ètica segura i confiable amb un model basat en 8 eixos (transparència, robustesa i seguretat, manca de biaixos, sostenibilitat, etc) que serveixen de marc de referència, però no tenen valor legal en realitat.

“Estem en l’era de la transformació digital, tot sembla que es digitalitza, i la IA juga un paper fonamental en aquesta transformació. Necessitem un marc que doni cobertura a quins usos de la IA considerem acceptables i quins no.”

Què es fa a Catalunya, més en concret?

A Catalunya, d’acord amb l’estratègia catalana d’IA es va crear ja fa un temps l’Observatori d’Ètica de la IA de Catalunya, que fa molt pocs dies, a finals de juny, va presentar un primer segell ètic que les companyies, els projectes i les aplicacions de IA es poden posar i que va canviant de colors de més verd a més vermell segons el nivell de més o menys maduresa en cadascun d’aquests eixos ètics que proposa Europa.

De moment tot és molt voluntari, però jo personalment, que formo part del Consell Assessor de l’OEIAC i sempre dono soport a la idea de crear segells, trobo que és molt interessant que les entitats, projectes i aplicacions que compleixin molts eixos ètics es pengin el segell perquè això permet als usuaris de conèixer quan s’adopta aquesta visió més ètica i permet, sens dubte, fer una tria més selectiva entre aplicacions que usen IA i potser fan coses semblants. Espero que amb el temps, siguem un públic format, responsable i crític amb predilecció per aplicacions amb segell OEIAC el més verd possible per exemple.

Ja sabem que les regulacions i la legislació sempre van a remolc i no sempre apareixen quan les necessitem. Però estratègies com la del segell OEIAC són alternatives a mig camí que poden orientar el mercat cap a la cerca de distintius de qualitat ètic que ajudin la ciutadanIA a saber què utilitzen i fomentin la creació d’aplicacions ètiques que es puguin utilitzar de forma segura.

Has participat en la redacció del Pla estratègic per la IA del govern català.

Doncs, mira, lliga molt bé amb el que deia a la pregunta anterior. La IA és a tot arreu, i no la sabem veure molts cops perquè és encara una gran desconeguda per a molts de nosaltres. Des de l’estratègia es fomenten accions que ens ajudin a identificar-la, per exemple, com el segell OEIAC, entre d’altres moltes accions. Però formar la ciutadanIA en els principis més bàsics per entendre quan interactuem amb una IA i imaginar sobre quins mecanismes actua ens permet desenvolupar l’esperit crític per decidir què utilitzem i què no, o com ho utilitzem, o quins drets tenim en els diferents casos i com els exercim, de manera que ens puguem aprofitar de tots els beneficis de la IA i no n’hàgim de patir els riscos.

“La IA és a tot arreu, i no la sabem veure molts cops perquè és encara una gran desconeguda per a molts de nosaltres.”

Per què un projecte de formació en IA com el de CiutadanIA?

CiudatanIA, doncs, és un curs que hem dissenyat des de l’equip d’experts en IA de IDEAI, el centre de recerca que jo dirigeixo a la UPC, i que té 70 especialistes en les diferents branques de la IA, per exemple la visió artificial, o el reconeixement de la veu, la robòtica, el raonament automàtic o l’aprenentatge automàtic, entre tants d’altres. Com deia, ciutadanIA l’hem dissenyat des del coneixement més especialitzat, però amb una forta vocació divulgativa i inclusiva.

“Ha estat un repte descloure la complexitat que hi ha al darrere de la IA en un relat.”

El curs és interactiu, gratuït i està pensat pel gran públic. Les persones interessades es poden registrar des del web ciutadanIA.cat i anar-lo fent lliurement, a estones, en família, en grups d’amics, o com vulguin. Aprendran una mica d’història de la IA en les diferents vessants, i el munt d’aplicacions intel·ligents que els envolten gairebé cada dia i amb els que ja estan interactuant, i sabran què s’hi cou per dins dels algorismes que fan recomanacions, troben rutes, determinen malalties o risc de morositat, etc. Ha estat un repte descloure la complexitat que hi ha al darrere de la IA en un relat, gairebé mig literari en alguns punts, on la persona del carrer, sense coneixements tècnics pot anar penetrant en aquesta nova realitat de forma amable i divertida i acabar el curs amb criteris per saber com actuar davant d’aquestes aplicacions intel·ligents, perdre la por i garantir que no cedim dades a qui n’ha de fer usos controvertits per exemple.

El curs fa molt d’èmfasi en la part ètica i aprofita també per visibilitzar l’ecosistema català d’IA, que és molt potent, a través de molts exemples basats en aplicacions reals que es fan a casa nostra. Té una protagonista nena, que ens guia per tot el curs, la Icàtia, que a més esperem que serveixi d’inspiració per regir l’escletxa de gènere al sector.

Estem molt contents, en escassament un mes ja hi ha més de 500 persones fent el curs i ensenyant el reconeixement com una formació que aporta punts als professors que el cursin, la qual cosa ens omple de satisfacció, perquè ajuda a fer que la capa docent de la societat s’aproximi a aquesta nova realitat i en pugui parlar als escolars també.

Com estem en relació amb altres països?

Catalunya és un pol molt desenvolupat en Intel·ligència Artificial, amb un gran potencial per convertir-se en el Hub d’IA del sud d’Europa. L’ecosistema és molt potent i Barcelona surt ben qualificada en tots els rànquings internacionals pel que fa a la tecnologia, la innovació i la IA, i això afavoreix l’atracció de talent i inversió internacional, que ens ha d’ajudar a acabar de créixer. L’estratègia del govern és un impulsor important per vertebrar l’ecosistema, que ja tenia una comunitat científica molt solvent lligada a l’ACIA (l’associació Catalana d’IA de més de 30 anys d’antiguitat, i amb primeres figures a nivell internacional) i una flota d’start-ups d’alt nivell innovador que ja era de primeríssim nivell. L’única cosa que ens llastra un pel, és que els nivells d’inversió són minsos en relació amb el que passa fora, però aquí hi ha molt enginy i malgrat tot som punters.

A Catalunya ens hem alineat amb la visió europea de la IA, que és molt diferent de la Xinesa (on el control el té el govern i la surveillance plana per l’horitzó tota l’estona) o l’americana (on el control el te el propietari del software que recull les dades i en pot fer el que vulgui, incloent-hi tota mena de bussiness venent-les o utilitzant-les per perfilar els usuaris i manipular-los a través de màrqueting agressiu). El novembre del 2021 la UNESCO va publicar les seves recomanacions ètiques de la IA en línia amb Europa i per primer cop un organisme internacional interpel·la aquestes grans potències cap a una visió centrada en les persones i respectuosa amb la privacitat i els drets de les persones.

Cap on creus que avançarà la IA en els propers anys?

Tot es dibuixa ara… fa de mal dir què passarà. Però jo crec que hem entès el valor estratègic de les dades i que això no tindrà marxa enrere. Que anirem trobant les bones formes d’injectar les dades en els processos de decisió per fer millors polítiques, millors estratègies, i millors recomanacions, dins un marc ètic, i que també trobarem l’espai de convivència just entre persones i màquines (mòbils o no, com els robots) on la IA ens incrementi el potencial com a persones sense passar-nos per sobre. És el gran repte i és per al que molts de nosaltres estem treballant cada dia, no només des de la vessant científica, sinó també fent estratègia i ajudant als nostres governs a implantar bé els progressos tecnològics.

Vas ser una de les fundadores de la comissió de gènere dones COEINF i un vicedeganat de presidència en igualtat i ètica. Heu notat un increment de les vocacions femenines en l’àmbit de la tecnologia?

Aquest és un altre repte que em preocupa moltíssim. Les dones som el 51% de la societat i tenim una mirada i unes necessitats que són complementàries a les dels nostres companys homes. Que el futur tecnològic que s’està construint sigui obra i gràcia d’equips majoritàriament masculins té un biaix intrínsec que no ens podem permetre. Fem tot el que podem i a base de divulgar molt el rol central de la tecnologia en el futur més immediat i l’interès d’aquestes professions hem pogut veure com en els darrers anys la Facultat d’Informàtica de Barcelona per exemple està començant a remuntar i ha pujat d’un 7% a un 14% en els darrers 4 anys. També estem molt contents de constatar que al nou grau oficial d’intel·ligència artificial de la FIB hi ha un 45% de noies a la primera promoció, després d’haver treballat un relat amb perspectiva de gènere en els primers vídeos de promoció de la titulació.

Com estan les vocacions femenines en l’àmbit IA? La IA tendeix a ampliar o reduir les diferències de gènere?

Ah! Mira, doncs això mateix et deia. Nosaltres hem impulsat, a l’empar de l’estratègia catalana d’IA que compta amb un eix específic de talent, que la FIB pogués tenir el primer grau oficial en IA de Catalunya, i es va posar en marxa el setembre del 2021. Estem molt contents perquè vam fer un esforç molt gran des de la FIB per poder explicar l’interès dels estudis des de l’impacte social de les professions que un especialista en IA per arribar a exercir, i hem pogut captar l’interès de les noies fins a l’extrem de tenir una primera promoció gairebé paritària!

Estem convençuts que visibilitzar el valor de la IA en la millora del benestar la salut de les persones o el medi ambient és un gran exercici d’evidenciar l’interès d’aquestes professions per construir un futur millor per tothom.

Com a docent a la UPC, quin missatge donaries a qui vol ser professional IA?

Que no dubti. Que es matriculi del grau, del màster o del doctorat que fem a la UPC, que es lideren des de la FIB de fet, que compten tots amb un professorat de primeríssim nivell i trobaran bones feines sens dubte, molt probablement fins i tot abans d’acabar els estudis.

Que la IA és un sector en creixement, amb una manca de talent important actualment i que el sector està important talent internacional perquè amb el que generem a casa no en fem prou i que, per tant, entrar en aquest àmbit promet una inserció laboral excel·lent, plena de possibilitats engrescadores, en tots els àmbits imaginables, des del sector salut a l’automoció passant per la qualitat de l’aire, de l’aigua, el negoci electrònic, el màrqueting, l’agricultura, el turisme, la indústria 4.0, i tants altres. La FIB és una facultat molt prestigiosa i els seus professionals són reconeguts entre els millors, aquí i a fora.

Jo gaudeixo cada dia d’aquesta professió i he pogut treballar amb metges, químics, polítics, treballadors socials, filòsofs, sempre veient com resolia problemes que permetien portar benestar a pacients o empresaris. És un àmbit molt apassionant.