5 de junio de 2025. La Comisión Asesora en Ética (CAE) de la Oficina Antifraude de Catalunya ha abierto el Ciclo de conversaciones integridad y actualidad con una sesión dedicada a la inteligencia artificial (IA).

La sesión ha contado con la participación de la doctora Karina Gibert, profesora y directora del Centro de Investigación en Ciencia de Datos Inteligente e Inteligencia Artificial (IDEAI-UPC), quien ha compartido un análisis crítico sobre los riesgos que la IA puede suponer para la integridad pública.

Gibert ha destacado que "la IA generativa ha roto barreras de acceso y ha facilitado la vida a todo el mundo", pero ha advertido que "su aplicación sin supervisión humana puede generar desigualdades y decisiones injustas". Como ejemplo, citó el caso de Países Bajos, donde un algoritmo acusó erróneamente a 26.000 familias de fraude. Después de diez años el daño a los afectados no fue reparado.

También ha alertado sobre la manipulación de datos personales, como en el caso de Cambridge Analytica, y ha defendido la necesidad de explorar nuevos modelos de gobernanza de datos que permitan una cesión voluntaria y segura de la información por parte de la ciudadanía. "Con los datos públicos no se puede hacer lo que se quiera. La regulación europea ha sido muy estricta, pero son necesarios mecanismos de control y transparencia", ha afirmado Gibert.

Además, ha insistido en la importancia de la supervisión humana: "Siempre debe haber un humano que revise lo que hace la IA. Es fundamental para garantizar la responsabilidad y evitar sesgos". También ha remarcado que "el debate sobre la IA no es sólo tecnológico, sino de política pública y de valores".

En cuanto a la regulación, ha señalado que debe ir acompañada de una cultura de responsabilidad social: "Los tempos de la tecnología y de la legislación son muy diferentes. Por eso, la ética es clave para guiar el uso de la IA mientras no haya un marco normativo completo".

Por último, Gibert ha querido transmitir un mensaje de tranquilidad: "La IA son máquinas, y cuando nos cabrean, las podemos apagar. Lo que nos tiene que preocupar es en manos de quien está la IA. Si está en manos de personas con sensatez, no hay problema; si está en manos de locos, eso sí es preocupante".

Un ciclo para reflexionar sobre integridad y actualidad

La CAE de la Oficina Antifraude de Catalunya, ha puesto en marcha este ciclo de conversaciones con el objetivo de reflexionar sobre los principales desafíos que afectan a la integridad pública en un contexto de transformación digital y social acelerada.