Muitas pessoas não estão felizes com o novo Ato de IA da Europa.
Nem todo mundo está dando pulos de alegria com o novo Ato de IA da Europa.
Ainda é preciso obter mais detalhes e o texto final ainda precisa ser aprovado formalmente pelo Parlamento Europeu e pelos governos nacionais do bloco, mas agora sabemos mais ou menos quais regras esperar quando a lei entrar em vigor daqui a alguns anos. (Um “Pacto de IA” voluntário vai preencher a lacuna entre agora e então.)
Os modelos de base (como GPT-4) e os sistemas de propósito geral construídos com base neles (como o ChatGPT) deverão vir com documentação técnica e resumos detalhados do conteúdo com o qual foram treinados. Aqueles considerados apresentarem riscos sistêmicos terão que se submeter a “testes adversariais” e seguir regras de cibersegurança e eficiência energética. O acordo prevê “ambientes regulatórios” patrocinados pelo estado, para que startups e pequenas empresas possam desenvolver e treinar novos sistemas de IA e testá-los em condições do mundo real antes de lançá-los – o Parlamento afirmou que isso protegerá os jogadores menores de “pressão indevida de gigantes da indústria que controlam a cadeia de valor”. Importante ressaltar que modelos totalmente de código aberto serão menos regulamentados do que modelos proprietários.
Sistemas de IA de alto risco em áreas como seguros e bancos, bem como aqueles que poderiam afetar o comportamento dos eleitores, terão que passar por avaliações de impacto, e os europeus poderão exigir explicações sobre como foram tomadas decisões que poderiam ter um impacto sobre eles. Algumas coisas serão proibidas, como pontuação social, sistemas de reconhecimento de emoções no local de trabalho, sistemas de IA que exploram os vulneráveis e sistemas de categorização biométrica que usam características como raça e orientação sexual.
Obviamente, algumas pessoas estão felizes com o resultado, especialmente os negociadores, que conseguiram concluir isso exatamente a tempo – se fosse empurrado para o próximo ano, poderia ter se tornado vítima do caos antes das iminentes eleições europeias. “Foi longo e intenso, mas o esforço valeu a pena”, soltou Brando Benifei, um dos coordenadores do Parlamento nas negociações, em um comunicado. “A União Europeia tem feito contribuições impressionantes para o mundo; o Ato de IA é mais uma que impactará significativamente nosso futuro digital”, concordou Dragos Tudorache, outro legislador-chave.
- O Bitcoin cai abaixo de $42.000 em meio a ‘uma onda de realiz...
- Força Aérea está oferecendo bônus de retenção de até $600.000 para ...
- O Ethereum enfrenta um momento de verdade com último rali das cript...
Mas os lobistas de tecnologia e os ativistas dos direitos estão bastante insatisfeitos. Vamos dar a primeira palavra aqui a Daniel Castro, vice-presidente da Fundação de Tecnologia da Informação e Inovação (ITIF) financiada pela Microsoft/Amazon/Meta/Google/Apple: “Dado o rápido desenvolvimento da IA, os legisladores da UE deveriam ter suspenso qualquer legislação até entenderem melhor o que exatamente estão regulamentando… Agir rapidamente pode dar a ilusão de progresso, mas não garante sucesso.”
A Associação da Indústria de Computadores e Comunicações (CCIA), cujos membros também incluem Google, Meta, Amazon e Apple, também afirmou que “a legislação de IA à prova de futuro foi sacrificada por um acordo rápido”. A CCIA recebeu bem o fato de que, ao contrário do projeto original da Comissão Europeia, o compromisso final permite aos desenvolvedores “demonstrar que um sistema não representa um alto risco”, mas afirmou que as “obrigações rigorosas” do Ato irão “desacelerar a inovação na Europa” e “levar à fuga de empresas de IA europeias e talentos que buscam crescimento em outros lugares.” (Contraponto: Jeannette Gorzala, vice-presidente do Fórum Europeu de IA, que representa empreendedores locais de IA, disse ao Sifted que as disposições para jogadores menores “fortalecerão e capacitarão o ecossistema de startups de IA europeias.”)
Agora para os ativistas dos direitos. A Organização Europeia de Consumidores (BEUC) ficou preocupada que a Lei permitirá sistemas de reconhecimento de emoção alimentados por IA fora do local de trabalho e alegou que deixaria coisas como assistentes virtuais “basicamente sem regulamentação”. “Os consumidores se preocupam legitimamente com o poder e alcance da inteligência artificial e como isso pode levar à manipulação e discriminação, mas a Lei de IA não aborda suficientemente essas preocupações”, disse a diretora geral adjunta Ursula Pachl.
E os Direitos Digitais Europeus (EDRi) previram que “o diabo está nos detalhes” dos rascunhos técnicos que aparecerão nas próximas semanas. O EDRi está preocupado que o acordo marque a primeira vez que a UE está legalizando o reconhecimento facial ao vivo em espaços públicos – embora limitado a algumas aplicações, como a busca de suspeitos e a prevenção de ataques terroristas – e contenha “exceções às regras quando as autoridades de aplicação da lei, migração e segurança nacional implantam IA de ‘alto risco'”.
“Nossa luta contra a vigilância biométrica em massa está prestes a continuar”, disse a assessora sênior de políticas do EDRi, Ella Jakubowska, em comunicado. Mais notícias abaixo.
David Meyer
Quer enviar pensamentos ou sugestões para a Data Sheet? Envie uma mensagem aqui.
DESTAQUES
EM NOSSO FEED
“Se o fabricante não levar a segurança a sério, cabe ao governo federal garantir que ele esteja defendendo outros para garantir a segurança.”
-A presidente do Conselho Nacional de Segurança de Transportes, Jennifer Homendy, critica a falta de resposta do Departamento de Transportes aos acidentes relacionados ao Autopilot da Tesla, criando regras aplicáveis sobre onde essa tecnologia pode ou não ser usada.
SE VOCÊ PERDEU
A tecnologia continuará sendo o principal motor de crescimento da economia. O Future 50 da ANBLE ajuda a explicar por quê, por Martin Reeves e Adam Job
A Apple diz que desligou o aplicativo Beeper Mini, que permitia o iMessage no Android, para ‘proteger nossos usuários’, por Bloomberg
FabFitFun, uma startup de assinatura de caixas de $ 1 bilhão, recua desesperadamente depois que um anúncio profano pró-Elon Musk fracassa, por Paige Hagy
Conforme os veículos elétricos da China se tornam globais, as montadoras tradicionais descobrem que reduzir custos “agora é mais importante do que qualquer outra coisa”, por Steve Mollman
ANTES DE PARTIR
Vida após Prigozhin. As malignas operações de influência online da Rússia estão indo muito bem após a morte tão misteriosa do chefe de guerra do Grupo Wagner e insurrecionista Yevgeny Prigozhin, que também comandava a famosa fazenda de trolls Internet Research Agency, os pesquisadores de segurança da Microsoft estabeleceram.
Em um post de blog, os pesquisadores detalharam várias operações cibernéticas russas, com destaque para a ilusão de celebridades americanas em gravar mensagens em vídeo Cameo para alguém chamado Vladimir, alegando ter problemas com abuso de substâncias. E assim, Elijah Wood e Priscilla Presley, entre outros, se encontraram incorporados à propaganda russa, distribuída nas redes sociais para criar a impressão de que estavam falando sobre o presidente ucraniano Volodymyr Zelensky.
