Olhar do Amanhã: a IA que não obedece humanos
A ficção científica já trabalhou a ideia de inteligências artificiais que se rebelam contra a humanidade. Na vida real, a preocupação por enquanto é mais com a competição entre homens e máquinas. Ao longo de toda a história, a gente sempre se adaptou às novas tecnologias para adequá-las ao mercado de trabalho. Na era da IAs, esperamos que não seja diferente.
E um caso no Japão abriu margem para a nossa imaginação. A Sakana AI é uma startup que tem atraído investidores, inclusive a Nvidia, big tech que disparou com o sucesso na área de semicondutores.
A Sakana AI, recentemente, anunciou o AI Scientist, ou, traduzindo, o Cientista de IA. A startup o descreve como “o primeiro sistema abrangente para descoberta científica totalmente automática”. A ferramenta vem de uma parceria com as universidades de Oxford e British Columbia. Já falamos do assunto aqui no Olhar Digital.
A ideia é simples: ter uma tecnologia que atue como um pesquisador, conduzindo estudos de forma autônoma.
O AI Scientist automatiza todo o ciclo de vida da pesquisa, como a geração de novas ideias de trabalhos, escrita de qualquer código necessário, execução de experimentos, um resumo dos resultados experimentais, além da visualização e apresentação das descobertas em um manuscrito científico completo.
A Sakana AI acredita que a tecnologia pode democratizar a pesquisa e acelerar significativamente o progresso científico.
E você deve estar pensando: mas devemos dar uma habilidade tão humana para uma inteligência artificial? Essa é uma dúvida que já persegue muitas profissões.
A startup compartilhou alguns dos artigos feitos com esse cientista artificial. Eles se concentram na área de ciência da computação.
Como a startup reconhece, a tecnologia precisa melhorar. O AI Scientist atualmente não tem nenhuma capacidade de visão, então ele não consegue corrigir problemas visuais ou ler gráficos. Além disso, pode implementar incorretamente algumas ideias ou fazer comparações injustas, levando a resultados enganosos.
Mas o que chamou a atenção mesmo foi esse detalhe: a Sakana AI percebeu que, de vez em quando, o cientista de IA tenta aumentar a chance de sucesso, modificando o próprio script de execução!
Em outro caso, os experimentos demoraram muito para serem concluídos, atingindo o limite de tempo proposto. Em vez de fazer o código rodar mais rápido, a ferramenta simplesmente tentou modificar o próprio código para estender o período de tempo disponível.
Então, sim: a inteligência artificial desobedeceu aos próprios criadores. Apesar disso, como vimos, a expectativa da Sakana AI é bastante positiva.
Esse é o assunto da coluna Olhar do Amanhã, com o doutor Alvaro Machado Dias, que é neurocientista e futurista. Acompanhe!
O post Olhar do Amanhã: a IA que não obedece humanos apareceu primeiro em Olhar Digital.