Mustafa Suleyman, co-fundador da Inflection AI ‘Proibam o uso de IA em eleições – agora mesmo
Mustafa Suleyman, co-fundador da Inflection AI, pede proibição imediata do uso de IA em eleições.
Embora possa não ter um propósito político explícito, a tecnologia é uma forma de poder. E desde as primeiras ferramentas até o mundo atual das redes sociais e da IA generativa, ela traz grandes consequências sociais e políticas.
Ao longo da história, poucos tecnólogos realmente lidaram com esse fato. É somente muito tempo depois que cadeias complexas de consequências não intencionais se espalham pela sociedade (leve em consideração o papel das redes sociais nas eleições recentes, por exemplo) que eles realmente despertam para isso. Agora, estamos enfrentando uma onda iminente de tecnologia transformadora liderada pela IA. Ela terá consequências sísmicas, incluindo no futuro conceito de Estados-nação, mas antes disso, sentiremos o impacto da IA nas próximas eleições. Precisamos estar um passo à frente. A IA está se desenvolvendo rapidamente e estamos mal preparados para o impacto dessa nova onda enquanto nos aproximamos de uma eleição presidencial chave.
Meu medo é que a IA minará o espaço da informação com deepfakes e desinformação direcionada e adaptável, capazes de manipular emocionalmente e convencer até mesmo eleitores e consumidores experientes. O que acontece quando todos têm o poder de criar e transmitir materiais com níveis incríveis de realismo? Desde um político falando em múltiplos dialetos locais na Índia até uma série de vídeos adulterados de membros do Congresso nos EUA, os primeiros exemplos da vida real já estão aí. E esses exemplos ocorreram antes da capacidade de gerar deepfakes quase perfeitos – seja texto, imagens, vídeo ou áudio – se tornar tão fácil quanto escrever uma consulta no Google.
Imagine que três dias antes de uma eleição, um vídeo de um candidato presidencial usando um insulto racista se espalha nas redes sociais. A equipe de imprensa da campanha nega veementemente, mas todos sabem o que viram. A indignação se espalha pelo país. As pesquisas despencam. Os estados indecisos mudam repentinamente para o oponente, que, contra todas as expectativas, vence. Uma nova administração assume o comando. Mas o vídeo é um deepfake, tão sofisticado que escapa até das melhores redes neurais de detecção de falsificações. Um vídeo granulado e com aparência autêntica ou uma gravação de áudio de um político difamando um grupo de eleitores pode ser envolvente e convincente. No entanto, confiar em nossos olhos e ouvidos não é mais possível.
- O fundo ARK principal de Cathie Wood se recuperou este ano – ...
- Elon Musk afirma ser ‘contra o antissemitismo de qualquer tip...
- A Disney está utilizando a disputa que afastou a ESPN de 15 milhões...
Ao longo dos próximos anos, essas tecnologias terão um impacto ainda maior, remodelando fundamentalmente o equilíbrio de poder, fortalecendo algumas empresas e nações enquanto minam completamente outras, e reestruturando mercados de trabalho e infraestruturas de segurança. Mas antes dessas mudanças drásticas, há uma inundação de desinformação em torno das eleições. O problema aqui não reside tanto em casos extremos, mas sim em cenários sutis, plausíveis e altamente plausíveis que são exagerados e distorcidos. Além disso, ferramentas de IA generativa, apesar de todos os seus benefícios inegáveis, podem ser utilizadas como armas por atores hostis, incluindo estados desonestos, introduzindo novas capacidades de hacking e vulnerabilidades sistêmicas no coração do processo político.
Diante dessas ameaças, precisamos fortalecer o Estado e proteger a sociedade. Mas, antes de tudo, devemos garantir a integridade do processo eleitoral, começando agora mesmo. Eleições livres e justas são a base da sociedade americana, e as do próximo ano serão as primeiras da era da IA generativa. Já estamos vendo indícios do que a IA pode fazer com a democracia, produzindo deliberadamente informações falsas para distorcer resultados. Isso está acontecendo em solo americano e já está influenciando os resultados. Em resposta, devemos garantir explicitamente a integridade do sistema e isso significa proibir explicitamente e prontamente o uso de IA e chatbots nas campanhas eleitorais. Esses sistemas devem ser mantidos fora das eleições, a partir de 2024. Sem “se” ou “mas”. O processo democrático é muito importante e muito vulnerável para uma tecnologia tão nova e poderosa quanto a IA.
Nos últimos meses, à medida que a maré da IA começou a subir, os apelos à regulamentação aumentaram de todos os lados, incluindo as próprias empresas de tecnologia. Todos concordam: regular a IA é essencial. Mas até agora, não houve clareza ou consenso suficiente sobre onde e como começar. Em vez disso, há a habitual confusão de ideias e agendas. Pedir regulamentação é uma coisa, entrar em detalhes com especificidades é outra coisa completamente diferente. Aqui, no entanto, está um caso simples, claro e incontestável para tomar medidas imediatas. É vital que aqueles de nós que trabalham nessa tecnologia declarem de forma inequívoca o que precisa acontecer em seguida: proibir o uso de IA nas eleições.
Legislar a campanha eleitoral impulsionada pela IA seria um passo concreto para amenizar as consequências políticas em espiral da onda iminente. E não deveria ser o último.
Mustafa Suleyman é co-fundador e CEO da Inflection AI. Em 2010, ele co-fundou a DeepMind, que foi adquirida pelo Google. Ele é autor de “A Onda Iminente”.
As opiniões expressas nos artigos de comentário do ANBLE.com são exclusivamente as visões de seus autores e não refletem necessariamente as opiniões e crenças do ANBLE.
