Explorando aplicações de IA no governo municipal: a promessa e os riscos

Escrito em colaboração com Kate Stoll e Danielle Gray-Stewart do AAAS Center for Scientific Evidence in Public Issues.

A inteligência artificial (IA) está a mudar o panorama do trabalho e os governos locais não estão de forma alguma isentos. Cidades, vilas e vilarejos podem aproveitar o poder da IA ​​para elaborar resoluções, criar conteúdo de mídia social, resumir informações para os constituintes, melhorar a tomada de decisões baseada em dados e muito mais. No entanto, nem todas as aplicações municipais são adequadas para IA, e nem todas as tecnologias de IA são adequadas para uso governamental.

Para discutir as oportunidades e riscos da IA ​​para os líderes locais, a Liga Nacional das Cidades e a Associação Americana para o Avanço da Ciência Centro para Evidências Científicas em Questões Públicas co-organizaram um evento virtual em 10 de agosto: “Introdução à IA no Governo Municipal .”

Embora a conversa tenha sido apenas a ponta do iceberg quando se trata de aplicações e políticas de IA por parte dos governos municipais, várias conclusões importantes podem ser obtidas do evento:

A inteligência artificial não é uma solução mágica . Ouvimos o professor Hoda Heidari, colíder da Iniciativa de IA Responsável da Universidade Carnegie Mellon, sobre como a IA utiliza processos estatísticos projetados para encontrar padrões em dados. Esta pode ser uma ferramenta valiosa para os líderes locais. No entanto, tal como as decisões tomadas pelo homem, os sistemas de IA têm potencial para preconceitos e discriminação, dependendo da sua formação, dos dados que utilizam e da sua aplicação final. Deve-se ter cuidado extra quando a IA é usada para informar decisões importantes ou para fornecer avaliações de riscos que impactam a vida das pessoas.

Existem muitostipos de IA . A IA generativa, como ChatGPT ou Google Bard, é apenas um tipo de tecnologia. A IA generativa para texto funciona prevendo a próxima palavra em uma frase, e a próxima frase em um parágrafo e assim por diante, com base no que é mais provável de acontecer de acordo com o texto extraído de muitas fontes, incluindo a Internet. A IA generativa geralmente não testa a precisão – os humanos deveriam verificar os fatos de seus resultados.

Experimente, mas verifique! As Diretrizes Provisórias para o Uso de IA Generativa da cidade de Boston, MA, destacam como as ferramentas de IA têm um potencial significativo para beneficiar o trabalho dos funcionários municipais. Este potencial, no entanto, não elimina a responsabilidade do pessoal pelos seus resultados, razão pela qual a verificação e a responsabilização são essenciais. O Diretor de Informação de Boston, Santiago Garces, enfatizou três princípios orientadores:

1) Verificação de factos e revisão de todos os resultados generativos da IA: Os seres humanos são, em última análise, responsáveis ​​por quaisquer produtos ou resultados que publiquem, independentemente de a IA ser utilizada.

2) Divulgar quando a IA generativa foi utilizada: Os constituintes esperam transparência do seu governo local.

3) Não compartilhe informações confidenciais ou privadas: A entrada de informações em prompts generativos de IA não é inerentemente privada e, portanto, pode ser vulnerável a ameaças à segurança ou pode ser usada pela empresa que fornece o modelo para treinar ainda mais sua tecnologia.

A IA não é apenas para grandes cidades. Enquanto outras tecnologias emergentes exigem frequentemente formação técnica e recursos humanos significativos, as ferramentas de IA generativas baseadas em dados de linguagem natural permitem que cidades de todas as dimensões beneficiem do seu valor. A cidade de Wentzville, MO, está testando ferramentas generativas de IA para automatizar certos aspectos da comunicação da cidade, o que cria mais tempo e espaço para o pensamento criativo e estratégico por parte dos funcionários da cidade. Wentzville oferece treinamento presencial e exige treinamento virtual para funcionários sobre o uso de IA generativa.

O evento de Agosto apenas arranhou a superfície das muitas questões levantadas sobre a promessa e o perigo das aplicações de IA no governo local. Que dúvidas você tem sobre o uso de IA em sua cidade? Que aplicações criativas de IA podem impulsionar a sua cidade para o futuro digital? Quais proteções devem ser implementadas para garantir o uso seguro da IA ​​em sua cidade?