5 de juny de 2025. La Comissió Assessora en Ètica (CAE) de l’Oficina Antifrau de Catalunya ha obert el Cicle de converses integritat i actualitat amb una sessió dedicada a la intel·ligència artificial (IA).

La sessió ha comptat amb la participació de la doctora Karina Gibert, professora i directora del Centre de Recerca en Ciència de Dades Intel·ligent i Intel·ligència Artificial (IDEAI-UPC), que ha compartit una anàlisi crítica sobre els riscos que la IA pot suposar per a la integritat pública.

Gibert ha destacat que “la IA generativa ha trencat barreres d’accés i ha facilitat la vida a tothom”, però ha advertit que “la seva aplicació sense supervisió humana pot generar desigualtats i decisions injustes”. Com a exemple, ha citat el cas de Països Baixos, on un algoritme va acusar erròniament 26.000 famílies de frau. Després de deu anys el dany als afectats no ha estat reparats.

També ha alertat sobre la manipulació de dades personals, com en el cas de Cambridge Analytica, i ha defensat la necessitat d’explorar nous models de governança de dades que permetin una cessió voluntària i segura de la informació per part de la ciutadania. “Amb les dades públiques no es pot fer el que es vulgui. La regulació europea ha estat molt estricta, però calen mecanismes de control i transparència”, ha afirmat Gibert.

A més, ha insistit en la importància de la supervisió humana: “Sempre ha d’haver-hi un humà que revisi el que fa la IA. És fonamental per garantir la responsabilitat i evitar biaixos”. També ha remarcat que “el debat sobre la IA no és només tecnològic, sinó de política pública i de valors”.

Pel que fa a la regulació, ha assenyalat que ha d’anar acompanyada d’una cultura de responsabilitat social: “Els tempos de la tecnologia i de la legislació són molt diferents. Per això, l’ètica és clau per guiar l’ús de la IA mentre no hi hagi un marc normatiu complet”.

Per acabar, Gibert ha volgut transmetre un missatge de tranquil·litat: “La IA són màquines, i quan ens emprenyen, les podem apagar. El que ens ha de preocupar és en mans de qui està la IA. Si està en mans de persones amb seny, no hi ha problema; si està en mans de gent sonada, això sí que és preocupant”.

Un cicle per reflexionar sobre integritat i actualitat

La CAE de l’Oficina Antifrau de Catalunya, ha posat en marxa aquest cicle de converses amb l’objectiu de reflexionar sobre els principals desafiaments que afecten la integritat pública en un context de transformació digital i social accelerada.