AAPP | Noticias | 04 FEB 2019

Requisitos para el uso de IA en sector público

Precisión, transparencia, control del sesgo y estabilidad son algunos de los factores a tener en cuenta entre las administraciones gubernamentales al trabajar con inteligencia artificial.
inteligencia artificial
Redacción

La inteligencia artificial se está popularizando de forma generalizada, aplicándose a través de sus diversas ramas en distintos verticales y sectores. Según un estudio de la firma Deloitte, las industrias manifiestan diferencias en el retorno en la inversión, con sectores como el de tecnología, medios de comunicación, entretenimiento y telecos registrando un ROI de un 20% de media en sus iniciativas de IA. En conjunto, la perspectiva es positiva: así lo indican el 82% de organizaciones que ya tienen en marcha iniciativas con esta herramienta.

Sobre su aplicación en el sector público, la inteligencia artificial está ganando adeptos entre agencias gubernamentales para su empleo en tareas de control o para mejora de decisiones, como identificar patrones de evasión fiscal o ayudar a detectar casos sensibles en temas de servicios sociales. Además de la mejora para las responsabilidades del gobierno con la ciudadanía, el empleo de herramientas de IA ayudaría a conseguir mayor efectividad y a reducir los costes.

Sin embargo, para que su empleo por parte de la administración no termine teniendo un trasfondo problemático, la compañía de análisis McKinsey explica que se deben de vigilar con espectial precaución una serie de factores. El empleo de algoritmos debe exigir un alto grado de precisión, en el cual se compruebe que no existen sesgos involuntarios que distorsionen las conclusiones que se extraigan de la aplicación de inteligencia artificial. Aquí, la firma de análisis defiende el uso de ramas de la IA como 'machine learning' para mejorar de forma significativa el grado de exactitud y de eficiencia en procesos tradicionales de toma de decisión.

Por la parte de reducir el sesgo, hay una serie de mecanismos que pueden ayudar a evitar la introducción de factores involuntarios, como el empleo de un enfoque de "ceguera deliberada", que trata por igual los individuos de una muestra independientemente de las diferencias entre los mismos por su pertenencia a distintos géneros, razas o grupos con diferente nivel socioeconómico.

Otro de los requisitos a tener en cuenta al trabajar con algoritmos de IA es que su uso debe ser transparente y perfectamente explicable. Su aplicación, defienden desde McKinsey, debe realizarse para apoyar la toma de decisiones, no para sustituírla; y en ese contexto, las personas a las que involucra deben ser capaces de comprender los mercanismos que llevan a la herramienta a realizar esa recomendación. Además, su empleo debe realizarse en base a criterios de estabilidad, en los que los usuarios y ciudadanos tengan una percepción clara de cuándo es necesario realizar cambios en el sistema y de cómo el desempeño de los algoritmos puede variar. Debe además controlarse el efecto que estos tienen en el sistema.

Por último, es importante mantener control en la fase de adopción. Los encargados del despliegue suelen tener menos capacidad operativa y autoridad que sus homólogos en el sector privado, al tratarse de un proceso público. El despliegue debe realizarse con especial vigilancia y cuidado, atendiendo a todos los demás factores implicados. Aunque el trabajo con IA conlleva una serie de riesgos y limitaciones, concluye la firma, estos pueden ser comprendidos, gestionados y mitigados si se tienen en cuenta los factores que involucra su empleo.



Comentar
Para comentar, es necesario iniciar sesión
Se muestran 0 comentarios