A Declaração de Bletchley não é uma mudança de jogo, mas é um sólido começo para a luta global pela segurança da IA.

A Declaração de Bletchley um começo sólido na batalha global pela segurança da IA que não é um jogo de mudanças.

A Declaração de Bletchley não é, por si só, nem de longe tão revolucionária quanto o bombe de Turing foi. Não é surpresa que, dado o frenesi de lobby que ocorreu antes do evento, ela sirva principalmente como um retrato razoável do que 28 países (e a União Europeia) atualmente entendem como promessas e riscos da inteligência artificial.

O comunicado fala sobre a importância da “alinhamento com a intenção humana” e aponta que precisamos trabalhar melhor para entender as capacidades completas da IA. Ele observa o potencial de “danos sérios, até mesmo catastróficos, tanto deliberados quanto não intencionais”, mas também reconhece que “a proteção dos direitos humanos, transparência e explicabilidade, justiça, responsabilização, regulamentação, segurança, supervisão humana adequada, ética, mitigação de viés, privacidade e proteção de dados precisam ser abordados” – estas são apenas pinceladas, mas reconhecem as preocupações que muitos têm sobre o impacto imediato da IA, em oposição a medos mais arcanos sobre os potenciais atos ilícitos de uma futura inteligência artificial generalizada e rebelde.

A sociedade civil deve participar trabalhando na segurança da IA, declara o documento, apesar das reclamações de grupos da sociedade civil de que foram excluídos da cúpula. Empresas que desenvolvem sistemas de IA de “fronteira” têm uma responsabilidade especialmente grande em garantir a segurança desses sistemas, através de testes de segurança, avaliações e outras medidas apropriadas.

Não há muitos compromissos firmes e medidas tangíveis aqui, o que é de se esperar de uma declaração que: a) é a primeira do seu tipo; e b) é um compromisso entre amigos e rivais diretos com imperativos e sistemas jurídicos conflitantes, como os EUA, o Reino Unido, a União Europeia e a China.

• Taxas de poupança de 5%+ É hora de mudar
• Os melhores PCs para jogos em 2023
• O executivo de alto escalão e ex-Vice-Primeiro-Ministro do Reino Un...

Comentaristas britânicos observaram a decisão do governo dos EUA de usar a cúpula para anunciar seu próprio Instituto de Segurança de IA, o que eles dizem tirar o brilho do recente anúncio do primeiro-ministro britânico Rishi Sunak de um Instituto de Segurança de IA do Reino Unido como uma forma de “avançar o conhecimento mundial sobre segurança da IA”. Mas eu não tenho tanta certeza – a Casa Branca fez questão de destacar que o instituto dos EUA colaborará com seu equivalente britânico, então realmente não vejo como alguém sair perdendo nesse cenário.

Quanto à China, o governo britânico tem estado interessado em manter a superpotência na sala, mas a uma distância segura – o vice-primeiro-ministro Oliver Dowden elogiou a participação da China, mas também disse que “talvez não seja apropriado para a China participar” de certas sessões “onde temos países com visões semelhantes trabalhando juntos”.

O Financial Times também observa que vários acadêmicos chineses presentes na cúpula assinaram uma declaração pedindo medidas mais rigorosas do que as incluídas na Declaração de Bletchley – ou na ordem executiva do presidente dos EUA, Joe Biden, esta semana – para tratar do “risco existencial da IA para a humanidade”. Isso ainda não representa a posição oficial da China, mas pode indicar o caminho que eles estão seguindo. Certamente, há muito espaço para discordâncias à medida que os EUA e a China correm em busca da chamada supremacia da IA, seja lá o que isso signifique.

Portanto, nem todos estão totalmente alinhados, mas isso nunca seria o caso. Eu diria que este é um começo promissor para a cooperação internacional em um assunto que – não nos esqueçamos – estava em poucas listas de ameaças sérias antes deste ano. Crucialmente, essas cúpulas serão eventos regulares; a próxima ocorrerá na Coreia daqui a seis meses e a seguinte será na França em um ano. Vamos torcer para que esses eventos sejam tão inclusivos quanto a Declaração de Bletchley promete.

Mais notícias abaixo.

David Meyer

Deseja enviar pensamentos ou sugestões para o Data Sheet? Deixe uma mensagem aqui.

DE INTERESSE

DADOS SIGNIFICATIVOS

60%

— A proporção de usuários de X nos EUA que erroneamente pensam que uma marca de seleção azul indica que a conta é autêntica, segundo uma pesquisa da YouGov para a empresa anti-desinformação NewsGuard. A pesquisa também descobriu que 16% pensavam que a “verificação” indica maior credibilidade, quando na verdade indica apenas disposição para pagar pelo símbolo.

SE VOCÊ PERDEU

Steve Ballmer começou como assistente de Bill Gates e agora está prestes a ficar mais rico do que seu antigo chefe na Microsoft, por Christiaan Hetzner

Grupo representando o New York Times e outras 2.200 pessoas publicou um contundente white paper de 77 páginas sobre o ChatGPT e os LLMs serem uma fraude ilegal, por Paige Hagy

Google e o governo concordam que a empresa ocultou sua dominância em IA por anos, só discordam do motivo, por Bloomberg

A Nokia está processando a Amazon em tribunais ao redor do mundo alegando ter investido bilhões em tecnologias patenteadas e que a gigante do varejo está as usando de graça, por Prarthana Prakash

Tesla convence júri de que seu piloto automático não foi culpado no primeiro processo que responsabiliza a tecnologia por uma fatalidade a ir a julgamento, por Bloomberg

Sua atividade cerebral literalmente diminui quando você tem uma reunião no Zoom, descobre pesquisa de cientistas de Yale, por Orianna Rosa Royle

ANTES DE PARTIR

E a palavra do ano é… IA. Isso já era esperado. E agora, segundo o Collins Dictionary, é isso mesmo. A definição do dicionário, a propósito, é: “A modelagem das funções mentais humanas por meio de programas de computador”.

Outras palavras selecionadas incluem “de-influenciamento”, “ganância e inflação” e “bebê nepo”, que são duas palavras. A palavra do ano de 2022 no Collins, caso esteja se perguntando, foi “permacrise”. Espere que outros dicionários divulguem suas palavras do ano nas próximas semanas.