- La Generalitat de Catalunya fa un pas decisiu cap a la transparència i l’ètica tecnològica amb el llançament del Registre de sistemes d’intel·ligència artificial (IA) i altres algorismes
- El registre es pot consultar via web i ja compta amb 31 sistemes publicats amb fitxes que detallen el seu funcionament, impacte i estat de desenvolupament
- Aquesta iniciativa, liderada per la Secretaria de Telecomunicacions i Transformació Digital, busca garantir un ús responsable i ètic d’aquestes tecnologies en l’àmbit de l’Administració pública
- El projecte s’emmarca dins de l’estratègia de reforma de l’Administració i la millora de la prestació dels serveis públics
L'eina inclou tant sistemes d’IA com algorismes deterministes que tinguin un impacte significatiu en les decisions de l’Administració i en els drets de la ciutadania. Els sistemes poden ser desenvolupats internament, adquirits o subministrats per entitats externes. La informació detallada de cada sistema, com ara la seva finalitat, funcionament, dades utilitzades i riscos potencials, està disponible per consulta pública.
La ciutadania pot accedir al registre a través d'aquest enllaç, i la informació també es pot consultar al portal de Dades Obertes de la Generalitat. El registre és un procés viu, amb actualitzacions constants per incorporar nous sistemes i mantenir la informació al dia.
Un projecte de l’estratègia de reforma de l’Administració
El nou registre d’intel·ligència artificial és un projecte emmarcat dins de l’estratègia de reforma de l’Administració, que té la vocació de fer l’Administració pública catalana més eficient, transparent i pròxima a la ciutadania. En aquest context, el registre és un pas decisiu pel que fa a la transparència i reforça la voluntat de la Generalitat de fer una administració centrada en la ciutadania.
Per garantir que el registre compleix els estàndards internacionals, la Generalitat s'ha inspirat en exemples de referència com els registres d’Amsterdam, Hèlsinki i els Països Baixos, així com en informes acadèmics. Amb aquest nou sistema, Catalunya es posiciona com a capdavantera en la implementació d’instruments que promouen la transparència en l’ús de la intel·ligència artificial. A més, el registre compleix amb les exigències del Reglament europeu d’intel·ligència artificial (RIA) per als sistemes d’alt risc i va més enllà, incloent-hi sistemes de risc limitat i algorismes deterministes.
Quina informació s'hi pot trobar?
Cada sistema publicat al registre disposa d’una fitxa completa que permet entendre què fa, com funciona i quin impacte pot tenir. Aquesta fitxa indica si el sistema està actiu, en proves o en desenvolupament, i inclou una descripció general i tres blocs principals.
El primer bloc és el de Funcionament, on s’explica l’objectiu del sistema i l’àmbit en què s’aplica, el tipus de dades que utilitza i d’on provenen, el procés tècnic que segueix per operar (incloent-hi si fa servir algorismes, intel·ligència artificial o validació humana) i la freqüència amb què s’utilitza, ja sigui en temps real, de manera periòdica o puntual.
El segon bloc és el d’Efectes i resultats, que detalla l’impacte del sistema en drets fonamentals com la privacitat, la transparència o la no discriminació. També identifica els riscos que pot comportar, com errors o biaixos, i les mesures que s’han previst per mitigar-los, com ara protocols de validació humana o anonimització de dades. Finalment, aquest apartat recull els beneficis esperats, com la millora de processos, la reducció de temps o l’increment de la seguretat.
El tercer bloc és el de Desenvolupament, que informa sobre l’estat actual del sistema (si està actiu, en proves o en desenvolupament), la cronologia amb les dates d’alta i actualitzacions i l’entitat responsable que el gestiona.
Aquest nivell de detall garanteix transparència i comprensió, perquè la ciutadania pugui saber quines dades s’utilitzen, com es prenen les decisions i quines garanties hi ha per protegir els seus drets.
El registre ja té 31 sistemes publicats
Actualment, el registre ja té un total de 31 sistemes publicats, cadascun amb funcions clau que reforcen l’eficiència en diversos àmbits de l'Administració pública. Entre els destacats hi ha un anonimitzador de documents per a tota la Generalitat, que permet fer anònimes les dades a partir d’intel·ligència artificial; el bot de conversa del Consorci AOC, que permet facilitar respostes immediates a la ciutadania sobre els serveis digitals de l’ens i que té una taxa d’encert del 91,33%, o el generador de resums de normes en llenguatge planer, que resumeix de forma automàtica la normativa publicada al Portal Jurídic de la Generalitat.
Així mateix, el sistema RISCANVI dona suport als professionals en la intervenció, la classificació i la concessió de permisos penitenciaris, amb valoracions basades en evidències científiques per orientar programes de tractament individualitzat. També destaca el predictor del volum de trucades d'emergències, que anticipa la volumetria de trucades al 112 basant-se en dades històriques, i el detector de l'ús del cinturó o del mòbil durant la conducció, que utilitza algorismes per identificar infraccions i després se’n fa una supervisió humana, exemplifiquen l’aposta de la Generalitat per un ús innovador de la intel·ligència artificial.
Un altre dels sistemes registrats és el dedicat al monitoratge de cultius, que utilitza dades geoespacials i declaracions agràries (DUN) per identificar el tipus de cultiu, el sistema de reg (secà/regadiu) i l’evolució històrica de les parcel·les. Aquesta informació és essencial per planificar polítiques agràries, avaluar l’impacte de fenòmens com pedregades o plagues, millorar la gestió dels ajuts i fer seguiment de la sostenibilitat i la seguretat alimentària.
