“Catalunya està preparada per afrontar amb èxit el repte que suposa el desenvolupament i desplegament de la intel·ligència artificial d’una manera ètica, responsable i confiable que, alhora, sigui plenament compatible amb l’impuls de la innovació en aquest àmbit”. Així ho assegura la secretària de Polítiques Digitals del Govern de la Generalitat de Catalunya, Gina Tost i Faus, amb motiu de la publicació, avui, de la nova Llei europea sobre la IA (AI Act) al Diari Oficial de la Unió Europea (DOUE). Es tracta d’una llei innovadora que promou una IA més responsable i sostenible i que té l'objectiu d'harmonitzar les normes sobre IA en el conjunt de la UE. Es considera la primera norma d’aquest tipus al món i, per tant, un estàndard global per a la regulació de la IA.

La nova llei AI Act, que el Consell de la Unió Europea (UE) va aprovar el passat mes de maig, entrarà en vigor d’aquí a 20 dies naturals, el pròxim 1 d’agost. A partir de llavors, les diferents empreses i organitzacions que desenvolupen, generen o utilitzen sistemes d’IA hauran d’adaptar-se a la normativa. Això vol dir que 6 mesos després de la seva entrada en vigor, s’aplicaran les prohibicions sobre els usos d’IA de “risc inacceptable”, com els que inclouen sistemes d'IA que manipulen les decisions de les persones o exploten les seves vulnerabilitats; o sistemes que prediuen el risc d'una persona de cometre un delicte, entre d’altres.

Tal com recorda la secretària Tost, “el Govern fa anys que treballa per posicionar Catalunya com a capdavantera en l'ús i desenvolupament de tecnologies d'IA als sectors públic i privat i, al mateix temps, generar confiança en aquestes tecnologies i prevenir conseqüències no desitjades que podrien danyar persones o comunitats”. Ho fa mitjançant l’Estratègia d’Intel·ligència Artificial de Catalunya, Catalonia.AI, que té entre els seus pilars fonamentals l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC). Es tracta d’un organisme promogut conjuntament amb la Universitat de Girona (UdG) per estudiar les conseqüències ètiques, socials i legals i els riscos i oportunitats de la implantació de la IA en la vida diària a Catalunya, i des d’una òptica plenament transversal.

Tost recorda que “la innovació i la regulació no són dos pols oposats, sinó un marc compatible per traçar un camí segur”. En aquest sentit, assegura que “la defensa dels drets digitals de les persones és una prioritat per al Govern, i per això impulsem projectes i facilitem eines a l’ecosistema, com ara el nou Model PIO d’avaluació de riscos associats a la IA o els recursos generats pel Projecte Aina, segurs, transparents i totalment alineats amb l’AI Act”.

El Model PIO, una eina d’avaluació de riscos associats a la IA com a servei públic

El nou Model PIO (Principis, Indicadors i Observables) desenvolupat per l’OEIAC és una eina pionera tant per la seva concepció com pel seu caràcter de servei públic i d’accés lliure. Conté recomanacions ètiques però també obligacions legals, i afavoreix el compliment de la normativa i regulació actual sobre la IA a través d’un procés de verificació exhaustiu. Des de fa una setmana, està disponible en obert i per a tothom.

La nova eina d’avaluació es fonamenta en una versió anterior del model que proporcionava recomanacions en base a 7 principis ètics fonamentals: transparència, justícia, responsabilitat, seguretat, privacitat, autonomia i sostenibilitat. En aquest cas, però, el nou Model PIO va un pas més enllà perquè està harmonitzat amb els requisits legislatius de l’AI Act i d’altres legislacions sobre dades i drets.

Així, permet identificar accions adequades o inadequades i dona eines a la quàdruple hèlix (administració, acadèmia, empresa i ciutadania) per fomentar usos ètics i responsables de les dades i sistemes d’IA. A més, juntament amb la verificació, incorpora altres recursos, com ara les clàusules de recomanació ètica per a la compra i adquisició de sistemes d’IA, que serveixen com a pauta perquè les organitzacions públiques i privades les incorporin en els seus processos de contractació.

Catalonia.AI, una estratègia alineada amb els principis i obligacions de l’AI Act

Partint del convenciment que l’Administració ha de ser exemplar en el desplegament de la IA, totes les iniciatives i projectes que es desenvolupen en el marc de l’estratègia Catalonia.AI s’alineen amb els principis ètics i obligacions legals que recull l’AI Act.

Un exemple d’això és el Projecte Aina, impulsat per la Generalitat de Catalunya en col·laboració amb el Barcelona Supercomputing Center (BSC). Té per objectiu generar corpus i models informàtics de la llengua catalana perquè les empreses que creen aplicacions basades en IA, com ara assistents de veu, cercadors d’Internet, traductors i correctors automàtics o agents conversacionals, puguin fer-ho fàcilment en català. Els recursos treballats amb el Projecte Aina són de gran qualitat, segurs i transparents pel que fa a les dades i els processos d’entrenament; es poden avaluar i explicar i, a més, són oberts, amb llicències permissives, i disponibles per a tothom a través de l’Aina Kit.

Un altre principi fundacional de l’estratègia Catalonia.AI, que coincideix plenament amb la llei AI Act, és que la regulació no ha de suposar un fre per a la innovació, sinó contribuir a generar confiança en la recerca i el desenvolupament de la IA. En aquest sentit, l’estratègia catalana d’IA, a banda de l’OEIAC, té tres pilars fonamentals més per promoure una IA responsable. Aquests són el Centre d'Innovació en Dades i Intel·ligència Artificial (CIDAI), que té per objectiu accelerar la innovació fomentant la col·laboració entre organitzacions privades i públiques; l’Aliança de Recerca en IA (AIRA), que treballa activament per impulsar el desenvolupament científic i el talent en matèria d'IA; i la comunitat d’IA de la Digital Catalonia Alliance (DCA-IA), que dinamitza l’ecosistema d'empreses, pimes i empreses emergents d’aquest àmbit que ofereixen solucions tecnològiques al mercat.