About | HeinOnline Law Journal Library | HeinOnline Law Journal Library | HeinOnline

LOG IN
LOG IN


71 Rev. Catalana Dret Pub. 1 (2025)

handle is hein.journals/revcatdp71 and id is 1 raw text is: INTRODUCCIÓ A LA SECCIÓ MONOGRÁFICA L'IMPACTE DEL REGLAMENT EUROPEU D'INTEL-LIGENCIA ARTIFICIAL AL SECTOR PÚBLIC Josep Cañabate Pérez* 1 Els reptes de la intel-ligéncia artificial al sector públic El mes d'agost passat es va celebrar el primer aniversari de l'entrada en vigor -amb una aplicació esglaonada- del Reglament d'intel-ligéncia artificial (RIA) en un context polític, econòmic i social radicalment diferent al que hi havia durant la seva ¡larga elaboració. Les noves tensions geopolítiques, l'acceleració sense precedents deis models fundacionals, els moviments desreguladors, fins i tot dins de la Unió Europea, han convertit en un repte encara més elevat l'exigéncia de traduir aquest nou marc legal en instruments jurídics, procediments, normes técniques i capacitats operatives reals. En aquest escenari, l'ús de la intel-ligéncia artificial en l'ámbit públic avança a bon ritme, encara que persisteixen dubtes i predomina la prudéncia. Tal com s'ha debatut extensament, s'está produint un canvi estructural que afecta la manera d'ordenar jurídicament la realitat. No s'está davant un canvi tecnològic que impacta en l'ámbit legal, sinó d'un nou paradigma jurídic en qué la tecnologia condiciona el dret. El desplegament de la IA genera tensions i obliga a repensar l'aplicació deis principis de dret constitucional i administratiu que regeixen l'actuació pública. En aquesta conjuntura, el disseny i el control de sistemes d'IA esdevenen elements essencials per garantir-ne el compliment. S'ha de mantenir l'equilibri entre, d'una banda, l'eficiéncia administrativa i la millora del servei públic i, de l'altra, la preservació de garanties básiques com el dret a ser escoltat, la motivació de les resolucions, la transparéncia material i la possibilitat d'impugnació efectiva, la no discriminació, etc. La introducció de sistemes algorítmics en procediments amb marge d'apreciació pot desplaçar la discrecionalitat humana cap a una discrecionalitat técnica opaca que reconfiguri l'equilibri entre legalitat, proporcionalitat i igualtat de tracte. El risc d'asimetries informatives -entre proveidors tecnològics i administracions, però també entre administracions i ciutadania- accentua la necessitat de justificacions comprensibles, i d'una auditabilitat i una traçabilitat robustes, especialment quan les sortides del sistema operen com a prova, indici o fonament decisiu. A més, la qualitat i la governança de les dades es converteixen en condició d'efectivitat deis drets: biaixos històrics o cobertures incompletes poden traduir-se en discriminacions indirectes o en la consolidació de desigualtats preexistents, i afectar de manera desproporcionada col-lectius vulnerables i ampliar la bretxa digital. El desplegament d'IA en serveis essencials -sanitat, serveis socials, ocupació, habitatge- intensifica l'exigéncia d'avaluacions d'impacte sobre drets fonamentals, de supervisió humana significativa i de mecanismes que permetin al ciutadá comprendre, discutir i revertir decisions automatitzades. La * Josep Cañabate Pérez, professor agregat del Departament de Dret Públic i Ciéncies Historicojurídiques i codirector del màster d'Intel-ligéncia Artificial i Dret Digital de la Facultat de Dret, Universitat Autónoma de Barcelona, i coordinador académic de la secció monogràfica. íosep.canabate@uab.cat . 0003-3594-0919 Generalitat de Catalunya O Escola d'Administració Pública de Catalunya