- A inteligência artificial generativa pode produzir conteúdos imprecisos ou enviesados que parecem confiáveis, podendo influenciar decisões governamentais, serviços públicos e comunicações, além de comprometer a confiança da população.
- No setor público, a verificação de informações, a transparência, a identificação de vieses e o julgamento humano são práticas essenciais para a adoção eficaz da IA.
- Esses temas são analisados em uma publicação recente do BID, que busca apoiar os governos no desenvolvimento de políticas de IA sólidas e responsáveis.
Uma resposta pode parecer convincente, estar bem redigida e, mesmo assim, conter erros. Esse é um dos desafios mais importantes que a inteligência artificial (IA) generativa apresenta para governos e organizações públicas.
Um funcionário elabora um relatório. Uma assessora de comunicação redige um rascunho para uma campanha institucional. Um cidadão consulta informações sobre um trâmite público. Cada vez mais, por trás dessas tarefas cotidianas, há ferramentas capazes de produzir textos, imagens e resumos em questão de segundos.
Esta capacidade oferece grandes oportunidades para aumentar a produtividade, otimizar processos e melhorar os serviços prestados aos cidadãos, uma agenda que o Banco Interamericano de Desenvolvimento (BID) apoia ativamente. Para aproveitar essas oportunidades, diversos governos da América Latina e do Caribe vêm incorporando cada vez mais ferramentas de IA generativa para fortalecer a gestão pública e apoiar a tomada de decisões.
No entanto, essas tecnologias também trazem novos desafios. Ao contrário de outras ferramentas digitais, a IA generativa pode inventar dados, omitir informações relevantes ou reproduzir preconceitos, ao mesmo tempo em que apresenta resultados que parecem plausíveis e confiáveis.
O desafio não consiste mais apenas em aproveitar os benefícios da IA generativa, mas em garantir que seus resultados sejam confiáveis e contem com a supervisão necessária.
Quando uma resposta convincente contém um erro
Um dos desafios mais peculiares da IA generativa é que seus erros costumam se apresentar com aparência de credibilidade. As respostas podem ser bem redigidas, soar convincentes e até mesmo imitar o formato de relatórios, documentos técnicos ou comunicações institucionais. Como resultado, detectar uma afirmação errônea pode ser mais difícil do que identificar uma falha tecnológica tradicional.
Um caso amplamente divulgado ocorreu em 2023 nos Estados Unidos, quando advogados utilizaram uma ferramenta de IA para auxiliar na elaboração de uma petição judicial. O documento incluía referências a decisões judiciais que nunca haviam existido. As citações pareciam autênticas e seguiam o formato esperado, mas haviam sido geradas pelo sistema sem qualquer fundamento na realidade.
As limitações dessas ferramentas não se restringem a casos isolados. Pesquisas recentes descobriram que modelos generativos podem produzir referências bibliográficas inexistentes, omitir informações relevantes ou apresentar afirmações falsas com altos níveis de confiança. Essas situações são especialmente relevantes para governos e entidades que produzem conhecimento, elaboram documentos técnicos ou utilizam evidências para fundamentar decisões públicas.
Os desafios também não se limitam ao conteúdo escrito. As ferramentas generativas podem produzir imagens aparentemente realistas que contêm erros, omissões ou representações estereotipadas de determinados grupos sociais. A UNESCO documentou como alguns sistemas podem reproduzir preconceitos presentes nos dados utilizados para treiná-los, incluindo estereótipos de gênero e outras formas de discriminação.
Essas limitações não anulam o valor da tecnologia, mas relembram a importância de analisar criticamente seus resultados antes de incorporá-los aos processos de governança.
Os cidadãos interagem com instituições, não com algoritmos.
Por que esses erros são importantes para as instituições públicas
Quando uma resposta contém erros, uma comunicação transmite informações imprecisas ou uma decisão parece injusta, a credibilidade institucional pode ser afetada, independentemente da tecnologia utilizada para gerá-la.
As decisões continuam sendo de responsabilidade das organizações e das pessoas que as tomam. Por isso, o uso dessas ferramentas não é apenas uma questão tecnológica; ele também influencia a qualidade dos serviços públicos e a confiança que os cidadãos depositam neles.
Quatro práticas para o uso confiável da IA generativa no setor público
À medida que essas ferramentas são incorporadas ao trabalho cotidiano dos governos, existem algumas práticas que podem ajudar a melhorar a qualidade e a confiabilidade dos resultados.
1. Verificar as informações. Gerar conteúdo está cada vez mais fácil, mas validar dados, comparar fontes e revisar evidências continua sendo indispensável.
Quando uma resposta parece convincente, a verificação deixa de ser uma etapa opcional.
2. Identificar possíveis vieses. Os sistemas de IA aprendem com grandes volumes de informações existentes. Analisar criticamente os resultados implica questionar quem poderia estar ausente da resposta, quais perspectivas não foram consideradas e se o conteúdo reproduz estereótipos ou generalizações que poderiam afetar uma decisão ou comunicação pública.
3. Agir com transparência. As pessoas precisam saber quando uma organização utiliza ferramentas de IA para apoiar processos ou serviços. A transparência também implica explicar como os resultados são supervisionados e quem detém a responsabilidade final pelas decisões tomadas.
Os Princípios de IA da OCDE destacam a importância de que as pessoas compreendam quando interagem com sistemas de inteligência artificial e disponham de mecanismos adequados de supervisão e prestação de contas.
4. Aplicar o julgamento humano e contextual. Uma resposta pode ser tecnicamente correta e, mesmo assim, revelar-se insuficiente para uma política pública, uma comunicação institucional ou uma interação com a cidadania.
O critério humano continua sendo indispensável para interpretar contextos, avaliar riscos e tomar decisões.
A IA também requer capacidades públicas
A inteligência artificial generativa oferece oportunidades significativas para melhorar a gestão pública. No entanto, seu impacto dependerá menos da capacidade de gerar conteúdo e mais da capacidade dos governos de utilizar essas ferramentas com critério, transparência e supervisão adequada.
Aproveitar o potencial da IA no setor público requer mais do que apenas acesso à tecnologia. Exige também capacidades para verificar informações, identificar riscos, supervisionar resultados e garantir que as decisões continuem atendendo ao interesse público.
Nesse sentido, o Modelo de Referência para Políticas de IA no Setor Público da América Latina e do Caribe (disponível em espanhol), desenvolvido pelo BID, destaca a importância de complementar a adoção tecnológica com mecanismos de governança, gestão de riscos e capacitação.
Essas capacidades não se desenvolvem automaticamente. Elas exigem aprendizado contínuo, troca de experiências e acesso a ferramentas práticas que permitam aos servidores públicos compreender tanto o potencial quanto as limitações dessas tecnologias.
A confiança não surge da tecnologia por si só; ela é construída a partir da forma como as instituições a utilizam.
Do conhecimento à ação
No BID, apoiamos os governos da América Latina e do Caribe na adoção responsável da inteligência artificial por meio do desenvolvimento de conhecimento, ferramentas práticas e fortalecimento de capacidades.
Por isso, o BID promove o ImplementaLAC, o hub regional pioneiro onde os servidores públicos da América Latina e do Caribe transformam suas ideias em políticas que geram resultados. Essa plataforma do BID oferece acesso gratuito a cursos, ferramentas e recursos sobre implementação de políticas, governo digital e inteligência artificial, além de melhorias regulatórias para o setor público.
Se você deseja fortalecer suas capacidades para utilizar a IA generativa de forma crítica, responsável e voltada para o interesse público, junte-se ao ImplementaLAC.