Na internet, espalhou-se um experimento em que a versão de voz do ChatGPT inventou o tempo de uma corrida em vez de fazer a medição real
As pessoas medem o tempo desde 3500 a.C., mas o ChatGPT continua a aprender essa tarefa. Na semana passada, Sam Altman, diretor executivo da OpenAI, apareceu no programa Maioritariamente Humano para falar sobre o futuro da IA, da sua empresa e da humanidade em geral. A entrevista decorreu de forma relativamente habitual: a apresentadora Lori Segall fez a Altman perguntas sobre o encerramento de Sora, a participação da OpenAI depois do conflito entre o Pentágono e a Anthropic e outros temas. Ainda assim, num determinado momento, pediu-lhe que comentasse um vídeo viral publicado pelo utilizador do TikTok @huskistaken. No vídeo, pediam ao ChatGPT que cronometasse o tempo que o utilizador demoraria a correr uma milha. O chatbot inventou claramente um tempo, em vez de o registar de verdade.
Husk é conhecido por expor as limitações dos modelos de IA. Neste caso, não só conseguiu levar o ChatGPT a fingir que o tempo tinha sido realmente medido, como também a insistir que isso tinha acontecido de facto, embora fosse evidente que não. Quando Segall perguntou se deveria mostrar o vídeo à sua equipa, Altman respondeu de forma bastante brusca: «Não, não, isso é um problema conhecido».
Sem esperar por mais perguntas, Altman avançou então com uma estimativa para a chegada dessa funcionalidade: «Talvez falte mais um ano para isso funcionar bem». Segundo Altman, o modelo de voz do ChatGPT ainda não consegue arrancar um temporizador nem acompanhar o tempo. «Mas vamos acrescentar essa capacidade aos modelos de voz», acrescentou.
Os modelos de IA, como se sabe, lidam mal com a noção de tempo. Já houve utilizadores a tentar fazer com que o modelo de texto do ChatGPT acompanhasse a duração de uma conversa, mas, na maioria das vezes, ele limita-se a inventar a resposta. A maior parte dos modelos também tem dificuldades em identificar as horas numa imagem de um relógio, e os modelos de imagem generativa sempre enfrentaram problemas ao tentar criar relógios com uma hora específica.
Husk viu o vídeo da reação de Altman e decidiu acrescentar mais uma etapa à cadeia de reações, mostrando a resposta de Altman ao próprio ChatGPT. Pediu ao chatbot que confirmasse que aquele estava a afirmar ser capaz de medir o tempo (o modelo chama a isto «uma parte central das suas capacidades»).
O ChatGPT respondeu: «Ele diz que alguns modelos de voz podem não ter todas as capacidades, mas eu tenho». Quando lhe pediram mais esclarecimentos, o modelo afirmou: «Tenho definitivamente a capacidade de controlar o tempo». Assim, a contagem decrescente começou: a OpenAI tem um ano para resolver este problema.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário