- Així ho ha anunciat avui la secretària de Polítiques Digitals, Maria Galindo, després de mantenir una reunió estratègica amb la Universitat de Girona (UdG) per tractar els nous reptes que ha d’abordar l’OEIAC en el marc de l’Estratègia d’Intel·ligència Artificial de Catalunya
- L’OEIAC és l’artífex d’iniciatives capdavanteres en l’àmbit de l’ètica aplicada a la IA, com ara una eina pionera d’avaluació de riscos associats a aquesta tecnologia que afavoreix el compliment de la normativa vigent
- La presentació de l’adaptació d’aquesta eina d’avaluació per donar resposta a les necessitats específiques del sector de la salut ha inaugurat avui la cinquena edició del Cicle de Seminaris de l’OEIAC
L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) comptarà aquest any amb una subvenció de gairebé 400.000 de la Secretaria de Polítiques Digitals del Departament d’Empresa i Treball, per afrontar els nous reptes ètics i legals que planteja el desenvolupament i l’adopció de la IA a Catalunya. Així ho ha explicat avui la secretària de Polítiques Digitals, Maria Galindo, des de Girona, on ha mantingut una reunió estratègica de seguiment de l’OEIAC amb el vicerector de Projectes Estratègics i Internacionalització de la Universitat de Girona (UdG), Josep Calbó.
“Aquesta xifra, que triplica la dotació dels exercicis anteriors, és una mostra més de l’aposta ferma del Govern pel desenvolupament i implementació d’una IA ètica i fiable en el teixit productiu català, amb l’objectiu prioritari de fer més competitives les empreses, especialment les pimes, tot facilitant-los eines i recursos perquè l’ús i l’adopció de la IA es faci de forma ètica, seguint la normativa i en base als valors democràtics”, ha assegurat la secretària Galindo.
“L’OEIAC, que impulsem juntament amb la UdG, s’ha destacat com a instrument fonamental per contribuir al lideratge de Catalunya en aquesta aposta, amb iniciatives pioneres a escala internacional en l’àmbit de l’ètica aplicada a la IA, com ara el Model PIO d’autoavaluació de riscos associats a aquesta tecnologia, una eina d’accés lliure oberta a tothom i d’especial interès per a les empreses que volen desenvolupar o adoptar la IA amb garanties d’ètica i fiabilitat”, ha afegit.
En aquest mateix sentit s’ha pronunciat el vicerector Calbó, que ha agraït l’aposta del Govern per l’OEIAC i ha posat en valor el Model PIO aplicat a l’àmbit de la salut que s’ha presentat avui: “Estem molt orgullosos perquè avui es presenta el resultat d'una feina molt alineada amb la visió de la UdG de col·laborar amb l'ecosistema i amb caràcter interdisciplinari”. En aquest sentit, el vicerector ha destacat que es tracta “d’una visió que encaixa amb la del Pla estratègic de la UdG que aposta per la suma d'intel·ligències i també amb la de l’Estratègia d’Intel·ligència Artificial que impulsa la Generalitat de Catalunya, de la qual l’OEIAC n’és un pilar fonamental”.
Eines pioneres al servei de l’ecosistema
Promogut conjuntament per la Secretaria de Polítiques Digitals i la UdG per estudiar les conseqüències ètiques, socials i legals i els riscos i oportunitats de la implantació de la IA Catalunya, l’OEIAC és un dels pilars fonamental de l’Estratègia d’Intel·ligència Artificial de Catalunya. A través seu, s’impulsen projectes i es faciliten eines a l’ecosistema com el nou Model PIO (Principis, Indicadors i Observables) d’avaluació de riscos associats a la IA, una eina pionera tant per la seva concepció com pel seu caràcter de servei públic i d’accés lliure.
El model, disponible en obert i per a tothom, conté recomanacions ètiques en base a 7 principis fonamentals (transparència, justícia, responsabilitat, seguretat, privacitat, autonomia i sostenibilitat), però també obligacions legals, i afavoreix el compliment de la normativa i regulació vigent sobre la IA a través d’un procés de verificació exhaustiu.
Així, permet identificar accions adequades o inadequades i dona eines per fomentar usos ètics i responsables de les dades i sistemes d’IA, com ara exemples d’aplicació pràctica i un catàleg que conté tota la documentació i normes jurídiques en què s’ha basat el model d’avaluació.
A partir d’aquest model i seguint el mateix format i metodologia, l’OEIAC està desenvolupant els Models PIO sectorials, adaptacions que s’elaboren amb diferents professionals i persones usuàries per donar resposta a les necessitats específiques d’àmbits o sectors concrets com la salut o l’educació.
El Model PIO adaptat a les necessitats de l’àmbit de la salut
Així sorgeix el Model PIO Salut, el model d’autoavaluació per al compliment dels estàndards ètics i normatius aplicables als sistemes d’IA en l’àmbit de la salut, que l’OEIAC ha desenvolupat en col·laboració amb del Sistema de Salut de Catalunya a través de la Fundació TIC Salut Social, i de l’empresa Pickle Tech. Es tracta del primer dels models sectorials desenvolupats per l’OEIAC i s’ha presentat avui a Girona en la sessió inaugural de la cinquena edició del Cicle de Seminaris de l’OEIAC, presidida per la secretària Galindo i el vicerector Calbó.
L’àmbit de la salut està experimentant una de les acceleracions més significatives en l’ús de dades i sistemes d’IA: les aplicacions d’IA s’utilitzen àmpliament com a eines de diagnòstic clínic, per dur a terme tractaments o per fer el seguiment de pacients en temps real. Malgrat que la integració de la IA promet una precisió millorada, intervencions més ràpides i una atenció més personalitzada, d’aquesta nova realitat també sorgeixen riscos particulars que requereixen d’un abordament especialitzat. Per això, el Model PIO Salut promou una revisió a través d’una interrogació detallada i continuada d’aspectes diversos, de possibles errors i de resultats inesperats o de risc potencial, abans i durant el desplegament d’un sistema d'IA.
Així, el Model PIO Salut té com a objectiu principal sensibilitzar sobre l’ús ètic dels sistemes d’IA a tots els agents involucrats dins del cicle de vida dels sistemes aplicats en salut en cadascuna de les fases del seu cicle de vida: des del disseny, la modelització i la validació, al desplegament i el monitoratge un cop el sistema d'IA és operatiu. El model també té com a objectiu identificar accions adequades i inadequades que es donen durant tot aquest cicle a través del sistema d’autoavaluació que proposa i que permet valoritzar, recomanar i avançar en l'ús ètic de dades i sistemes d’IA.
La presentació del Model PIO Salut ha anat a càrrec del director de l’OEIAC, Albert Sabater; la tècnica jurista especialista en IA i salut de l’OEIAC, Alexandra Lillo; la secretària del Programa per a la promoció i desenvolupament de la IA al Sistema de Salut de Catalunya de la Fundació TIC Salut Social, Susanna Aussó; i del fundador i director de Pickle Tech i director d'Innovació a ABCDx, Juan González, especialista en IA per a dispositius mèdics.
