La utilització de la IA, sobretot a partir de l’aparició del ChatGPT el novembre de 2022, s’ha generalitzat ja entre molta gent que sovint no en sap gaire del funcionament d’aquestes tecnologies ni de l’impacte que tenen en nosaltres i en la societat a curt, mitjà i llarg termini. Perquè, més enllà dels aspectes purament tecnològics, què significa per als éssers humans i per a la nostra societat l’arribada de la IA?
Les referències als sistemes d’intel·ligència artificial (IA) —entesos com «un sistema basat en una màquina que està dissenyat per funcionar amb distints nivells d’autonomia i que pot mostrar capacitat d’adaptació després del desplegament, i que, per a objectius explícits o implícits, infereix de la informació d’entrada que rep la manera de generar informació de sortida, com prediccions, continguts, recomanacions o decisions, que poden influir en entorns físics o virtuals», d’acord amb la definició que dona l’article 3 del Reglament de la UE sobre intel·ligència artificial, publicat el juliol de 2024— es troben pertot arreu avui en dia (la IA és ubiqua en xarxes socials, en mitjans de comunicació, en el cinema, la literatura…), i la IA és emprada tant pel sector privat com pel sector públic.
La utilització de la IA, sobretot a partir de l’aparició del ChatGPT el novembre de 2022, s’ha generalitzat ja entre molta gent que sovint no en sap gaire del funcionament d’aquestes tecnologies ni de l’impacte que tenen en nosaltres i en la societat a curt, mitjà i llarg termini. Perquè, més enllà dels aspectes purament tecnològics, què significa per als éssers humans i per a la nostra societat l’arribada de la IA?
Mentre que per a alguns la IA és un bàlsam màgic que curarà tots els mals de la humanitat —la qual cosa s’exposa de vegades de maneres que freguen el ridícul—, d’altres consideren que pot arribar a destruir la humanitat o, sense arribar a aquests extrems, que tindrà impactes molt negatius respecte a la destrucció de llocs de treball dels humans o bé que acabarà amb la democràcia, a causa de les manipulacions degudes a la generació de perfils mitjançant l’accés a enormes quantitats de dades de tots nosaltres (com mostra el cas de l’empresa privada Cambridge Analytica i la incidència que té en la campanya electoral de Trump per a les eleccions estatunidenques de 2016 i en el Brexit); per l’ús d’ingents quantitats de bots maliciosos (més del 70 % del total de trànsit a internet el 2023), amb l’objectiu de difondre faules i desinformar, o fins i tot pel possible ús de l’AI generativa amb ultrafalsificacions (deepfakes) que poden afectar greument les campanyes electorals.
Aquesta exposició no assumeix ni un tecnooptimisme ni un tecnopessimisme, sinó que intenta contribuir a un tecnorealisme. L’ús de la IA presenta, efectivament, riscos de destrucció d’ocupacions, especialment dels llocs de treball consistents en funcions rutinàries, tant en el sector públic com en el privat, però també pot generar noves ocupacions associades a aquest ús. Pot causar greus problemes a la humanitat, però també pot contribuir a lluitar contra alguns dels que ja ens preocupen, com, per exemple, el canvi climàtic, tot i que cal no oblidar que la IA genera, al seu torn, un consum elevat de recursos, amb el cost ambiental consegüent. Per exemple, entrenar un model de processament natural del llenguatge equival a tantes emissions com les que expulsaran cinc cotxes de gasolina durant tota la seva vida; entrenar GPT3, el model en el qual es basa el ChatGPT, hauria generat unes cinc-centes tones de carboni, l’equivalent a anar i tornar a la Lluna amb cotxe —i cal tenir en compte que el model s’ha de reentrenar periòdicament per incorporar dades actualitzades—, mentre que l’ús d’electricitat el gener de 2023 a OpenAI, l’empresa responsable del ChatGPT, ha estat l’equivalent al consum anual d’unes 175.000 famílies daneses.
Des de la perspectiva específica del nostre model social i democràtic de dret (article 1 de la nostra Constitució i Estatut d’autonomia de Catalunya), la IA pot amenaçar la democràcia, però també li pot obrir nous camins, mitjançant la possibilitat de la participació ciutadana en les decisions administratives amb sistemes d’IA i la consideració més atenta de les aportacions que presenta la ciutadania, per exemple. Des del punt de vista de l’Estat social, hi pot incidir negativament, per exemple, mitjançant denegacions massives —amb errors i no motivades— de prestacions vitals, com veurem a casa nostra amb el cas judicial BOSCO, però també pot contribuir a accelerar-ne la concessió, mitjançant la personalització i proactivitat administrativa, de manera que s’evita l’anomenat efecte de «bretxa de cobertura» (o non take-up), que implica el desaprofitament de drets perquè aquelles persones que compleixen els criteris d’elegibilitat no utilitzen prestacions, serveis públics o programes socials a causa que desconeixen aquestes ajudes o per la complexitat burocràtica per sol·licitar-les.
Finalment, des de la perspectiva de l’Estat de dret, la IA pot suposar una amenaça per als drets fonamentals —entre aquests, per exemple, el d’igualtat—, a causa dels seus biaixos, com veurem, però també es pot constituir com una eina eficaç per realitzar-los d’una manera plena i un instrument per millorar la gestió administrativa, de manera que contribueix al dret a una bona administració.
En les diferents contribucions d’aquesta exposició veurem l’impacte de la IA en el nostre Estat social i democràtic de dret. Ens hi guiaran diversos professors especialistes de la Facultat de Dret, que, des de perspectives jurídiques, de gestió privada i pública i de polítiques públiques, consideraran tots aquests riscos i oportunitats.
