Tecnologia

Google tenta remover repostas bizarras dadas pela IA

Nas últimas semanas, o recurso AI Overview do Google, que traz respostas geradas por inteligência artificial (IA) em seu sistema de busca, gerou muitos memes e risadas pelas bizarrices que ela vem respondendo.

Por conta desses problemas, o Google está tentando correr para desativar, de forma manual, as respostas da IA para pesquisas específicas. Várias delas publicadas em redes sociais já estão sumindo da busca do Google por conta disso.

Leia mais:

IA da busca do Google já está alucinando (Imagem: Rodrigo Mozelli [gerado com IA]/Olhar Digital)

Contudo, conforme o The Verge, o que vem acontecendo é estranho, pois o Google testa visões gerais de IA há um ano, quando o Search Generative Experience foi lançado na versão beta, com o CEO da empresa, Sundar Pichai, afirmou à época que o Google atendeu a mais de um bilhão de consultas nesse período.

Pichai também falou que a gigante das buscas reduziu o custo de entrega de respostas de IA em 80% no mesmo período, “impulsionado por avanços técnicos, de hardware e de engenharia”.

Uma empresa que, antes, era conhecida por estar na vanguarda e enviar produtos de alta qualidade, agora, é conhecida por resultados de baixa qualidade que estão sendo ‘memeados’.

Fundador da IA, que desejou permanecer anônimo, em entrevista ao The Verge

Google e as dores de cabeça “geradas” pela IA na pesquisa

  • O Google aponta que o AI Overview gera, em sua maioria, “informações de alta qualidade” aos usuários;
  • Ao The Verge, Meghann Fansworth, porta-voz do Google, disse que a empresa está “tomando medidas rápidas” para remover as respostas geras pela IA “quando apropriado de acordo com nossas políticas de conteúdo, e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas”;
  • Gary Marcus, especialista em IA e professor emérito de ciências neurais na Universidade de Nova York (EUA), opinou ao portal que muitas empresas que criam IA estão “vendendo sonhos” ao afirmarem que a tecnologia saltará de 80% para 100% de coerência;
  • Para Marcus, enquanto alcançar 80% é relativamente simples, pois envolve aproximar vasta quantidade de dados humanos, os 20% são extremamente desafiadores, chegando a ser a parte mais difícil.

Na verdade, você precisa raciocinar para decidir: isso é plausível? Esta fonte é legítima? Você tem que fazer coisas como um verificador de fatos humano faria, o que, na verdade, pode exigir inteligência artificial geral.

Gary Marcus, especialista em IA e professor emérito de ciências neurais na Universidade de Nova York (EUA), em entrevista ao The Verge

google
Google tenta refinar sua pesquisa com IA (Imagem: Tada Images/Shutterstock)

Quando se fala da futura IA geral, Marcus e o chefe de IA da Meta, Yann LeCun, concordam em ao menos um ponto: que os grandes modelos de linguagem (LLMs, na sigla em inglês) que alimentam os sistemas de IA generativa, tais como o Gemini, do Google, e o GPT-4, da OpenAI, não serão os responsáveis pela nova tecnologia.

Além disso, o especialista em IA rememora que a grande competição acaba acarretando problemas, como em 2022, quando a Meta lançou sua IA, chamada Galactica, mas que foi logo retirada do ar por algumas razões. Entre elas, por dizer para as pessoas comerem vidro. Já lemos histórias parecidas antes, não?

Enquanto o Google sonha alto com sua nova IA no motor de busca – raciocínio em várias etapas para consultas complexas, capacidade de geração de página com resultados organizada pela IA, pesquisa de vídeo no Google Lens –, a pequena parcela recém-apresentada no sistema mostra que a empresa ainda precisa acertar no básico, mas não parece que será algo muito fácil.

“[Esses modelos] são constitucionalmente incapazes de fazer verificações de sanidade em seu próprio trabalho, e é isso que afeta esta indústria”, completou Marcus.

O post Google tenta remover repostas bizarras dadas pela IA apareceu primeiro em Olhar Digital.

Facebook Comments Box

Artigos Relacionados

Botão Voltar ao Topo
Translate »