Os governos locais estão usando a inteligência artificial para enviar crianças para escolas de magnetismo ou definir fiança para condenados – e nem mesmo estão tentando regulamentá-la

Governos locais estão usando inteligência artificial para enviar crianças a escolas de magnetismo e definir fiança para condenados, sem tentar regulamentá-la.

Os legisladores estão buscando maneiras de proteger os eleitores contra discriminação e outros danos, ao mesmo tempo em que não prejudicam os avanços de ponta na medicina, ciência, negócios, educação e outros setores.

“Estamos começando pelo governo. Estamos tentando dar um bom exemplo”, disse o senador estadual de Connecticut, James Maroney, durante um debate em maio.

Connecticut planeja fazer um inventário de todos os seus sistemas governamentais usando inteligência artificial até o final de 2023, postando as informações online. E a partir do próximo ano, os funcionários do estado devem revisar regularmente esses sistemas para garantir que eles não levem a discriminação ilegal.

Maroney, um democrata que se tornou uma autoridade em IA na Assembleia Geral, disse que os legisladores de Connecticut provavelmente se concentrarão na indústria privada no próximo ano. Ele planeja trabalhar neste outono em uma legislação modelo de IA com legisladores do Colorado, Nova York, Virgínia, Minnesota e outros que inclui “diretrizes amplas” e se concentra em questões como responsabilidade do produto e exigência de avaliações de impacto dos sistemas de IA.

• Você pode ser enterrado em rosa choque com Barbie forrando seu caix...
• Dados de preço de imóveis Estes 10 mercados imobiliários estão subi...
• A presidente do Fed, Bowman, diz que mais aumentos ‘provavelm...

“Está mudando rapidamente e há uma adoção rápida de pessoas que o usam. Então, precisamos estar à frente disso”, disse ele em uma entrevista posterior. “Na verdade, já estamos atrasados, mas não podemos esperar muito mais para estabelecer alguma forma de responsabilidade.”

No geral, pelo menos 25 estados, Porto Rico e o Distrito de Columbia apresentaram projetos de lei sobre inteligência artificial este ano. Até o final de julho, 14 estados e Porto Rico haviam adotado resoluções ou promulgado legislação, de acordo com a Conferência Nacional de Legislaturas Estaduais. A lista não inclui projetos de lei focados em tecnologias específicas de IA, como reconhecimento facial ou carros autônomos, algo que a NCSL está acompanhando separadamente.

As legislaturas do Texas, Dakota do Norte, Virgínia Ocidental e Porto Rico criaram órgãos consultivos para estudar e monitorar os sistemas de IA usados pelas respectivas agências estaduais, enquanto Louisiana formou um novo comitê de tecnologia e segurança cibernética para estudar o impacto da IA nas operações, compras e políticas estaduais. Outros estados adotaram uma abordagem semelhante no ano passado.

Os legisladores querem saber “quem está usando isso? Como você está usando isso? Apenas coletando esses dados para descobrir o que está lá, quem está fazendo o quê”, disse Heather Morton, analista legislativa da NCSL, que acompanha inteligência artificial, cibersegurança, privacidade e questões da internet nas legislaturas estaduais. “Isso é algo que os estados estão tentando descobrir dentro de suas próprias fronteiras estaduais.”

A nova lei de Connecticut, que exige que os sistemas de IA usados pelas agências estaduais sejam regularmente examinados quanto à possível discriminação ilegal, vem após uma investigação da Clínica de Acesso à Liberdade de Mídia e Informação da Faculdade de Direito de Yale, que determinou que a IA já está sendo usada para designar estudantes para escolas magnéticas, estabelecer fianças e distribuir benefícios assistenciais, entre outras tarefas. No entanto, os detalhes dos algoritmos são em sua maioria desconhecidos pelo público.

A tecnologia de IA, disse o grupo, “se espalhou rapidamente e em grande parte sem controle pelo governo de Connecticut, um desenvolvimento que não é exclusivo deste estado”.

Richard Eppink, diretor jurídico da União Americana pelas Liberdades Civis de Idaho, prestou depoimento perante o Congresso em maio sobre a descoberta, por meio de um processo judicial, dos “algoritmos secretos informatizados” que Idaho estava usando para avaliar pessoas com deficiências de desenvolvimento para serviços de saúde financiados pelo governo federal. O sistema automatizado, disse ele em seu depoimento escrito, incluía dados corrompidos que dependiam de entradas que o estado não havia validado.

IA pode ser uma abreviação para muitas tecnologias diferentes, desde algoritmos recomendando o que assistir a seguir na Netflix até sistemas de IA generativa, como o ChatGPT, que podem ajudar na escrita ou criar novas imagens ou outros meios de comunicação. O aumento do investimento comercial em ferramentas de IA generativa gerou fascinação pública e preocupações quanto à sua capacidade de enganar as pessoas e espalhar desinformação, entre outros perigos.

Alguns estados ainda não tentaram abordar a questão. No Havaí, o senador estadual Chris Lee, um democrata, disse que os legisladores não aprovaram nenhuma legislação este ano que regulamentasse a IA “simplesmente porque, na época, não sabíamos o que fazer”.

Em vez disso, a Câmara e o Senado do Havaí aprovaram uma resolução proposta por Lee que insta o Congresso a adotar diretrizes de segurança para o uso de inteligência artificial e limitar sua aplicação no uso da força pela polícia e pelo militar.

Lee, vice-presidente do Comitê de Trabalho e Tecnologia do Senado, disse esperar apresentar um projeto de lei na sessão do próximo ano semelhante à nova lei de Connecticut. Lee também quer criar um grupo de trabalho ou departamento permanente para lidar com questões de IA com a expertise adequada, algo que ele admite ser difícil de encontrar.

“Atualmente, não há muitas pessoas trabalhando nos governos estaduais ou instituições tradicionais que tenham esse tipo de experiência”, disse ele.

A União Europeia está liderando o mundo na construção de barreiras em torno da IA. Houve discussão de legislação bipartidária sobre IA no Congresso, que o líder da maioria no Senado, Chuck Schumer, disse em junho que maximizaria os benefícios da tecnologia e mitigaria riscos significativos.

No entanto, o senador de Nova York não se comprometeu com detalhes específicos. Em julho, o presidente Joe Biden anunciou que sua administração havia obtido compromissos voluntários de sete empresas americanas para garantir que seus produtos de IA sejam seguros antes de serem lançados.

Maroney disse que, idealmente, o governo federal lideraria a regulamentação da IA. Mas, ele disse que o governo federal não pode agir na mesma velocidade que uma legislatura estadual.

“E, como vimos com a privacidade de dados, é realmente necessário que isso venha dos estados”, disse Maroney.

Alguns projetos de lei em nível estadual propostos este ano foram especificamente elaborados para abordar preocupações específicas relacionadas à IA. Propostas em Massachusetts imporiam limitações aos provedores de saúde mental que usam IA e impediriam “ambientes de trabalho distópicos” onde os trabalhadores não têm controle sobre seus dados pessoais. Uma proposta em Nova York imporia restrições aos empregadores que usam IA como uma “ferramenta de decisão de emprego automatizada” para filtrar candidatos a emprego.

Dakota do Norte aprovou uma lei definindo o que é uma pessoa, deixando claro que o termo não inclui inteligência artificial. O governador republicano Doug Burgum, um candidato presidencial improvável, disse que essas barreiras são necessárias para a IA, mas a tecnologia ainda deve ser adotada para tornar o governo estadual menos redundante e mais responsivo aos cidadãos.

No Arizona, a governadora democrata Katie Hobbs vetou uma legislação que proibiria máquinas de votação de ter qualquer software de inteligência artificial. Em sua carta de veto, Hobbs disse que o projeto de lei “tenta resolver desafios que atualmente não enfrentamos em nosso estado”.

Em Washington, a senadora democrata Lisa Wellman, ex-analista de sistemas e programadora, disse que os legisladores estaduais precisam se preparar para um mundo em que os sistemas de máquinas se tornem cada vez mais prevalentes em nossa vida diária.

Ela planeja apresentar uma legislação no próximo ano que exigiria que os alunos cursassem ciência da computação para se formar no ensino médio.

“IA e ciência da computação são agora, em minha opinião, uma parte fundamental da educação”, disse Wellman. “E precisamos entender como incorporá-la realmente.”

___

Os jornalistas da Associated Press Audrey McAvoy em Honolulu, Ed Komenda em Seattle e Matt O’Brien em Providence, Rhode Island, contribuíram para este relatório.