В сети разошёлся эксперимент, в котором голосовая версия ChatGPT выдумала результат пробежки вместо реального измерения времени
As pessoas medem o tempo desde cerca de 3500 a.C., mas o ChatGPT ainda está a aprender a lidar com isso de forma fiável. Na semana passada, o CEO da OpenAI, Sam Altman, passou pelo programa Mostly Human para falar sobre o futuro da IA, a empresa e, em geral, o que vem aí para a humanidade. A conversa seguiu um tom relativamente habitual: a apresentadora Laurie Segall perguntou a Altman sobre o encerramento do Sora, sobre o papel da OpenAI depois do conflito do Pentágono com a Anthropic e outros temas semelhantes. A certa altura, no entanto, ela pediu-lhe que comentasse um vídeo viral publicado no TikTok pelo utilizador @huskistaken.
Nesse vídeo, pediam ao ChatGPT (na versão com voz) para cronometrar o tempo que o utilizador demorava a correr uma milha (cerca de 1,6 km). O problema é que o chatbot aparentemente inventou um tempo em vez de o medir de facto.
O Husk é conhecido por expor limitações dos modelos de IA. Aqui, ele não só fez o ChatGPT “fingir” que tinha medido o tempo, como também o levou a insistir que isso tinha mesmo acontecido - apesar de ser óbvio que não. Quando Segall perguntou se devia mostrar o vídeo à equipa dele, Altman respondeu de forma bastante seca: “Não, não, isso é um problema conhecido”.
Depois, sem que fosse pressionado com mais perguntas, Altman avançou um prazo aproximado para a função ficar bem implementada: “Talvez mais um ano até isto funcionar bem”. Segundo ele, o modelo de voz do ChatGPT ainda não consegue iniciar um temporizador ou acompanhar a passagem do tempo. “Mas vamos adicionar essa capacidade aos modelos de voz”, acrescentou.
Os modelos de IA são conhecidos por lidarem mal com o conceito de tempo. Utilizadores já tentaram fazer com que a versão de texto do ChatGPT acompanhasse a duração de uma conversa, mas, regra geral, ele acaba por inventar uma resposta. A maioria dos modelos também tem dificuldade em dizer as horas a partir de uma imagem de um relógio, e os modelos de geração de imagem sempre tiveram problemas em criar relógios com uma hora específica.
O Husk viu o vídeo com a reação do Altman e decidiu acrescentar mais uma “camada” à cadeia de reações: mostrou ao próprio ChatGPT a resposta de Altman. Depois, pediu ao chatbot que confirmasse que ele (o ChatGPT) estava a afirmar ser capaz de medir tempo - algo que o modelo descreve como “uma parte essencial das suas capacidades”.
O ChatGPT respondeu: “Ele está a dizer que alguns modelos de voz podem não ter todas as capacidades, mas eu tenho”. Quando foi questionado mais a fundo, o modelo afirmou: “Eu tenho definitivamente a capacidade de acompanhar o tempo”. E assim começa a contagem decrescente: a OpenAI tem um ano para resolver este problema.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário