Irlanda desaconseja el uso de plataformas gratuitas de IA generativa en el sector público

Dublín/El Gobierno irlandés desaconseja el uso de plataformas gratuitas de IA generativa (GenAI, en inglés), como ChatGPT o DeepSeek, en la administración pública, según nuevas directrices publicadas este jueves para reforzar las salvaguardas y la supervisión humana.

"Las herramientas gratuitas de GenAI son muy accesibles, pero debido a que carecen de gestión y supervisión adecuadas plantean riesgos significativos para su uso en el sector público irlandés", señaló el Ejecutivo de Dublín en el documento.

El conjunto de recomendaciones advierte de que "cualquier información proporcionada" a estos modelos de IA "podría utilizarse para entrenarlos", por lo que se desaconseja su uso.

Transparencia

La nuevas pautas establecen que los sistemas deben fundamentarse sobre "políticas sólidas" para proteger los datos personales, al tiempo que destacan la necesidad de que la administración actúe con transparencia cuando utilice modelos de IA.

"Esto incluye notificar a los usuarios del servicio cuando interactúan con un sistema de IA (por ejemplo, un chatbot) o cuando un sistema de IA ha generado un resultado".

Asimismo, abogan por que las plataformas elegidas eviten "sesgos injustos" que "podrían perjudicar a las personas, las comunidades y la sociedad", para lo que será necesario "realizar una detección exhaustiva e implementar estrategias de mitigación cuando sea necesario".

"La IA ofrece inmensas posibilidades para mejorar la provisión de los servicios públicos", aseguró el ministro de Gasto Público, Infraestructura, Reforma Pública y Digitalización, Jack Chambers. A su juicio, estas directrices ayudarán a los organismos de la administración pública a llevar a cabo "innovaciones responsables de una manera práctica, útil y fácil de seguir".

Chambers recordó que un hospital de Dublín, por ejemplo, explora ya el potencial de la IA para efectuar ecografías cardíacas y reducir las listas de espera de los pacientes, mientras que la agencia tributaria trabaja en modelos lingüísticos para dirigir las consultas del contribuyente.

También el Ministerio de Agricultura, Pesca y Alimentación, agregó, desarrolla soluciones generadas por IA para detectar errores en las solicitudes de subvenciones y reducir los tiempos de procesamiento.