La introducción de herramientas digitales en la Administración Pública condiciona y modifica el modo en que se conforma este entorno. Su mediación determina y modifica ese contexto, lo que conlleva una adaptación de todos los agentes implicados (empleados, cargos públicos, ciudadanía). Esta revolución digital de la administración y los servicios públicos va a permitir procesos más rápidos y eficientes, mediante la identificación y predicción de tendencias y correlaciones. Precisamente, el fundamento de esta digitalización es el manejo de grandes cantidades de datos (big data) mediante algoritmos de Inteligencia Artificial, donde un algoritmo es una lista más o menos larga de instrucciones, un conjunto ordenado y finito de pasos que puede emplearse para hacer cálculos, resolver problemas y alcanzar decisiones.
“Inteligencia Artificial” es un término polisémico, y quizá excesivo, que el proyecto de reglamento europeo (Artificial Intelligence Act) define extensivamente como el software que se desarrolla, en este momento, empleando varias técnicas (aprendizaje automático, lógica e inferencia simbólica, estrategias estadísticas) y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.
La así llamada “Inteligencia Artificial” constituye un sistema de decisión delegada que, con respecto a las políticas públicas, contribuye a modelos decisionales menos especulativos, a reducir riesgos e incertidumbres. En combinación con las estrategias de datos abiertos, contribuye a la transparencia y la rendición de cuentas de las administraciones, favoreciendo la participación y el compromiso ciudadano con las políticas públicas. En general, la transformación digital puede cambiar nuestros modos de ver y hacer las cosas y generar nuevos modelos de emprendimiento, como la innovación a través de la cooperación (inteligencia colectiva y experimentación abierta) y nuevas oportunidades de activismo social. La Administración Pública está implantando el uso de dispositivos tecnológicos en las relaciones internas y externas (Administración Electrónica), planteándose nuevos retos en cuanto a cómo gestionar los datos y la información en poder de la Administración Pública para mejorar su calidad y servicio a la ciudadanía.
Sin embargo, existe un enorme desconocimiento social sobre la cadena de valor, las posibilidades y oportunidades, los potenciales beneficios y también riesgos, del uso de datos masivos mediante Inteligencia Artificial. Este desconocimiento se traduce en una percepción distorsionada de la ciencia de datos y los algoritmos, produciendo miedo excesivo ante la gestión pública de los mismos y, a la vez, tranquilidad infundada hacia situaciones que plantean un peligro genuino, como es la cesión inconsciente de enormes cantidades de datos personales a grandes corporaciones tecnológicas privadas.
Esta revolución digital mediante el desarrollo de sistemas capaces de realizar tareas y procesos que hasta ahora solo realizaban los humanos va a transformar profundamente la Administración Pública y, en general, la organización social humana como ahora la conocemos. Por ello se dice que es una tecnología disruptiva, que está cambiando radicalmente nuestro mundo, nuestros hábitos y relaciones. En la medida en que delegamos funciones en artefactos y programas artificiales, este nuevo ecosistema tiene el potencial de cambiar nuestra vida, los derechos y libertades fundamentales, y la democracia, creando conflictos éticos en múltiples fases de su desarrollo. Y de ahí la importancia de definir un marco ético para este proceso.
Existen declaraciones éticas internacionales sobre Inteligencia Artificial, como los Principios de Asilomar, la Declaración de Montreal para una Inteligencia Artificial responsable, los principios definidos por el IEEE (Institute of Electrical and Electronics Engineers) o las propuestas desarrolladas por el Grupo de Expertos de Alto Nivel sobre la Inteligencia Artificial de la Comisión Europea. En todas ellas cabe distinguir 5 principios éticos fundamentales con relación a la Inteligencia Artificial:
- No dañar, lo que incluye seguridad (y ciberseguridad) así como la prevención de los sesgos, tanto en la recopilación de los datos, como en su manejo y en el entrenamiento de algoritmos, poniendo especial cuidado en no reproducir o incrementar los sesgos y desigualdades sociales ya existentes (injusticia algorítmica).
- Promover el bienestar, el bien común y los Objetivos de Desarrollo Sostenible, contemplando asimismo la protección del medio ambiente y de las generaciones futuras.
- Preservar el poder de las personas de decidir en última instancia qué decisiones tomar y cuáles delegar en sistemas de datos e Inteligencia Artificial, protegiendo su identidad, privacidad y autonomía.
- Inclusividad, esto es, reconocer y tener en cuenta a todos los interesados en los procesos (la diversidad de agentes y valores), buscando la accesibilidad (equidad) y evitando las brechas de desigualdad.
- Explicabilidad, interpretada como la comprensión del funcionamiento de estos sistemas digitales (inteligibilidad) y como la identificación del proceso de decisión, las personas implicadas y las consecuencias que se deriven (rendición de cuentas). Este principio es especialmente relevante desde el punto de vista de la gestión pública, dado el carácter sensible de los asuntos que aborda (acceso a prestaciones, derechos y deberes, crédito, seguros…). Por ello se han de evitar los sistemas opacos, de “caja negra”, que resultan arbitrarios, y se ha de actuar proactivamente para ofrecer información a la ciudadanía (deber de publicidad activa con respecto a los algoritmos).
Estos principios se pueden resumir en dos buenas prácticas:
- Valorar previamente la necesidad y conveniencia de desarrollar una aplicación basada en datos e Inteligencia Artificial para el objetivo propuesto, evitando la “tecnología banal”. Se establecerá un análisis coste-beneficio que incluya la posibilidad de alternativas por medios tradicionales y la conveniencia o no de delegar un determinado proceso o actividad en un sistema de Inteligencia Artificial, en función de su especial relación con derechos fundamentales de la persona.
- Definir canales para la consulta y la retroalimentación del sistema por parte del conjunto de los empleados de la Administración y de la ciudadanía en general (supervisión), estableciendo un registro público de algoritmos de la administración. Los resultados arrojados por el algoritmo deben poder ser siempre cuestionables y reclamables por las personas y colectivos afectados, así como por el propio personal de la Administración, de manera rápida y fácilmente accesible.
En definitiva, el derecho a una buena administración exige sin duda una digitalización ética, sostenible y centrada en las personas. Nos jugamos mucho en ello.
