O Dicionário Cambridge nomeou ‘alucinar’ sua palavra do ano – e isso captura o maior desafio da indústria de IA

O Dicionário Cambridge elegeu 'alucinar' como a palavra do ano - o que reflete o maior desafio da indústria de IA

• O Cambridge Dictionary está atualizando a definição da palavra “alucinar” por causa da IA.
• Alucinação é o fenômeno em que a IA gera erros factuais como se fossem verdades convincentes.
• É uma palavra que também captura um dos principais desafios da indústria da IA: a desinformação.

A palavra do ano recém-coroada pelo Cambridge Dictionary é familiar, mas está assumindo um novo significado por causa da IA.

Em 15 de novembro, a organização anunciou que “alucinação” teria uma nova definição além de apenas ver ou ouvir algo que não existe. O verbete da palavra no dicionário será alterado para incluir:

Quando uma inteligência artificial (= um sistema de computador que possui algumas das qualidades do cérebro humano, como a capacidade de produzir linguagem de forma semelhante à humana) alucina, ela produz informações falsas.

Alucinação é um termo amplamente utilizado na indústria da IA e se refere a incidentes em que a IA gera imprecisões convincentemente como se fossem verdades – às vezes com consequências prejudiciais.

• A WestJet perdeu a mala de um passageiro em um voo doméstico no Can...
• A Binance foi multada em $4.3 bilhões por permitir que grupos como ...
• A Índia cancela o processo de licitação para contratar um avaliador...

Veículos de notícias, incluindo Gizmodo , CNET e Microsoft todos se meteram em apuros por erros encontrados em seus artigos escritos por IA. Um advogado contou ao Insider na sexta-feira que foi demitido por usar o ChatGPT para ajudá-lo a aprimorar um recurso, depois que o chatbot inventou processos inexistentes como citações.

Em fevereiro, analistas do Morgan Stanley escreveram que uma das principais deficiências do ChatGPT é como ele ocasionalmente inventa fatos. É um problema que os analistas disseram esperar que persista pelos “próximos anos”. Líderes empresariais e especialistas em desinformação também expressaram preocupações sobre como a IA pode piorar o estado da desinformação online.

“O fato de as IAs poderem ‘alucinar’ nos lembra que os humanos ainda precisam exercitar suas habilidades de pensamento crítico no uso dessas ferramentas”, escreveu Wendalyn Nichols, gerente editorial do Cambridge Dictionary, no anúncio do grupo sobre as alterações no dicionário.

• AI
• artificial intelligence
• Technology