- La inteligencia artificial generativa puede producir contenido inexacto o sesgado que parece creíble, lo que puede afectar las decisiones, los servicios y las comunicaciones de los gobiernos, así como debilitar la confianza de la ciudadanía.
- En el sector público, la verificación, la transparencia, la identificación de sesgos y el juicio humano son prácticas esenciales para una adopción efectiva de la IA.
- Estos temas se analizan en una publicación reciente del BID, que busca ayudar a los gobiernos a desarrollar políticas de IA sólidas.
Una respuesta puede sonar convincente, estar bien escrita y aun así contener errores.
Ese es uno de los desafíos más importantes que la inteligencia artificial (IA) generativa plantea para los gobiernos y organizaciones públicas.
Un funcionario prepara un informe. Una comunicadora redacta un borrador para una campaña institucional. Un ciudadano consulta información sobre un trámite público. Cada vez más, detrás de estas tareas cotidianas hay herramientas capaces de producir textos, imágenes y resúmenes en cuestión de segundos.
Esta capacidad ofrece importantes oportunidades para mejorar la productividad, optimizar procesos y fortalecer los servicios que se prestan a la ciudadanía, una agenda que el Banco Interamericano de Desarrollo (BID) apoya activamente. Para aprovechar estas oportunidades, cada vez más gobiernos de América Latina y el Caribe están incorporando herramientas de IA generativa para fortalecer la gestión pública y apoyar la toma de decisiones.
Sin embargo, estas tecnologías también plantean nuevos desafíos. A diferencia de otras herramientas digitales, la IA generativa puede inventar datos, omitir información relevante o reproducir sesgos mientras presenta resultados que parecen plausibles y confiables.
El desafío ya no consiste únicamente en aprovechar los beneficios de la IA generativa, sino en garantizar que sus resultados sean confiables y cuenten con la supervisión necesaria.
Cuando una respuesta convincente contiene un error
Uno de los desafíos más particulares de la IA generativa es que sus errores suelen presentarse con apariencia de credibilidad. Las respuestas pueden estar bien redactadas, sonar convincentes e incluso imitar el formato de informes, documentos técnicos o comunicaciones institucionales. Como resultado, detectar una afirmación errónea puede ser más difícil que identificar una falla tecnológica tradicional.
Un caso ampliamente difundido ocurrió en 2023 en Estados Unidos, cuando abogados utilizaron una herramienta de IA para apoyar la elaboración de un escrito judicial. El documento incluía referencias a decisiones judiciales que nunca habían existido. Las citas parecían auténticas y seguían el formato esperado, pero habían sido generadas por el sistema sin respaldo en la realidad.
Las limitaciones de estas herramientas no se restringen a casos aislados. Investigaciones recientes han encontrado que modelos generativos pueden producir referencias bibliográficas inexistentes, omitir información relevante o presentar afirmaciones falsas con altos niveles de confianza. Estas situaciones son especialmente relevantes para gobiernos y entidades que producen conocimiento, elaboran documentos técnicos o utilizan evidencia para informar decisiones públicas.
Los desafíos tampoco se limitan al contenido escrito. Las herramientas generativas pueden producir imágenes aparentemente realistas que contienen errores, omisiones o representaciones estereotipadas de determinados grupos sociales. La UNESCO ha documentado cómo algunos sistemas pueden reproducir sesgos presentes en los datos utilizados para entrenarlos, incluyendo estereotipos de género y otras formas de discriminación.
Estas limitaciones no eliminan el valor de la tecnología, pero recuerdan la importancia de revisar críticamente sus resultados antes de incorporarlos a procesos de gobierno.
Los ciudadanos interactúan con instituciones, no con algoritmos.
Por qué estos errores importan para las instituciones públicas
Cuando una respuesta contiene errores, una comunicación transmite información inexacta o una decisión parece injusta, la credibilidad institucional puede verse afectada independientemente de la tecnología utilizada para generarla.
Las decisiones siguen siendo responsabilidad de las organizaciones y de las personas que las toman. Por ello, el uso de estas herramientas no es únicamente una cuestión tecnológica; también influye en la calidad de los servicios públicos y en la confianza que los ciudadanos depositan en ellos.
Cuatro prácticas para un uso confiable de la IA generativa en el sector público
A medida que estas herramientas se incorporan al trabajo cotidiano de los gobiernos, existen algunas prácticas que pueden ayudar a mejorar la calidad y confiabilidad de los resultados.
1. Verificar la información
Generar contenido es cada vez más fácil, pero validar datos, contrastar fuentes y revisar evidencia sigue siendo indispensable.
Cuando una respuesta parece convincente, la verificación deja de ser un paso opcional.
2. Identificar posibles sesgos
Los sistemas de IA aprenden de grandes volúmenes de información existente. Revisar críticamente los resultados implica preguntarse quién podría estar ausente de la respuesta, qué perspectivas no fueron consideradas y si el contenido reproduce estereotipos o generalizaciones que podrían afectar una decisión o comunicación pública.
3. Actuar con transparencia
Las personas necesitan saber cuándo una organización utiliza herramientas de IA para apoyar procesos o servicios. La transparencia también implica explicar cómo se supervisan los resultados y quién mantiene la responsabilidad final sobre las decisiones que se toman.
Los Principios de IA de la OCDE destacan la importancia de que las personas comprendan cuándo interactúan con sistemas de inteligencia artificial y cuenten con mecanismos adecuados de supervisión y rendición de cuentas.
4. Aplicar juicio humano y contextual
Una respuesta puede ser técnicamente correcta y aun así resultar insuficiente para una política pública, una comunicación institucional o una interacción con la ciudadanía.
El criterio humano sigue siendo indispensable para interpretar contextos, evaluar riesgos y tomar decisiones.
La IA también requiere capacidades públicas
La inteligencia artificial generativa ofrece oportunidades significativas para mejorar la gestión pública. Sin embargo, su impacto dependerá menos de la capacidad de generar contenido y más de la capacidad de los gobiernos para utilizar estas herramientas con criterio, transparencia y supervisión adecuada.
Aprovechar el potencial de la IA en el sector público requiere algo más que acceso a tecnología. También exige capacidades para verificar información, identificar riesgos, supervisar resultados y asegurar que las decisiones continúen respondiendo al interés público.
En esa línea, el Modelo de referencia para políticas de IA en el sector público de América Latina y el Caribe, desarrollado por el BID, destaca la importancia de complementar la adopción tecnológica con mecanismos de gobernanza, gestión de riesgos y desarrollo de capacidades.
Estas capacidades no se construyen de forma automática. Requieren aprendizaje continuo, intercambio de experiencias y acceso a herramientas prácticas que permitan a los servidores públicos comprender tanto el potencial como las limitaciones de estas tecnologías.
La confianza no surge de la tecnología por sí sola; se construye a partir de cómo las instituciones la utilizan.
Desde el Banco Interamericano de Desarrollo apoyamos a los gobiernos de América Latina y el Caribe en la adopción responsable de la inteligencia artificial mediante el desarrollo de conocimiento, herramientas prácticas y fortalecimiento de capacidades.
Por ello, el BID impulsa ImplementaLAC, el hub regional pionero donde los servidores públicos de América Latina y el Caribe convierten sus ideas en políticas que generan resultados. Esta plataforma del BID ofrece acceso gratuito a cursos, herramientas y recursos en implementación de políticas, gobierno digital e inteligencia artificial, y mejora regulatoria para el sector público.
Si quieres fortalecer tus capacidades para utilizar IA generativa de forma crítica, responsable y orientada al interés público, únete a ImplementaLAC.