Foto: (reprodução/internet) Em que idioma uma IA fala? Você pode pensar que seria uma série de bipes e boops ou código binário, mas acontece que o ChatGPT criou o seu próprio, e nós, humanos, podemos usá-lo para obter mais do chatbot de IA.
O limite de palavras do ChatGPT pode fazer com que a IA interrompa as conversas no meio da frase com a única opção de iniciar um novo bate-papo e redefinir todo o contexto anterior.
Não há nenhuma palavra oficial sobre qual pode ser o limite rígido de uma conversa ChatGPT, mas 8.000 palavras é o limite geralmente aceito.
Mas os usuários que usam o idioma ChatGPT “Shogtongue” podem manter as conversas aparentemente indefinidamente.
O escritor e autor de IA, Jeremy Nguyen, descobriu esse truque pedindo à IA para comprimir sua conversa “de uma maneira sem perdas, mas que resulta no número mínimo de tokens que podem ser inseridos em um LLM como você e produzir a mesma saída. ” Em essência, ele pediu à IA para criar uma senha que salvasse seu progresso na conversa.
Depois de uma longa conversa, peça ao GPT-4 para compactar tudo em sua própria linguagem estranha.–de onde ele aprendeu essa linguagem?
Nguyen especificou que a codificação não precisava estar em um formato que os humanos pudessem ler, que é onde entra o que foi chamado de “Shogtongue”.
Este é um código de criação do próprio ChatGPT que, quando copiado e colado em um novo chat, permite a IA para continuar de onde parou, com todo o contexto retido.
Nossos próprios esforços tiveram menos sucesso. Apesar de copiar o prompt de Nguyen palavra por palavra, a IA apenas o interpretou como um resumo do que discutimos até agora em termos menores.
Nas ocasiões em que produziu uma resposta codificada, não conseguimos lembrar o contexto ao abrir um novo chat. O próprio Nguyen admitiu que esse método não é totalmente confiável e não funcionará em GPT-3.5 ou na API GPT-4.
Por que o ChatGPT tem um limite de palavras?
Embora pareça cruel apagar a memória de um amigo a cada nova conversa, isso é por um bom motivo.
A maioria das conversas nunca chegará perto do limite de palavras e conversas mais longas com chatbots demonstraram aumentar a probabilidade de “alucinações” de IA, onde eles começam a vomitar informações incorretas ou a se comportar de maneira irregular.
Foi esse tipo de conversa que fez com que o novo Bing com ChatGPT saísse do fundo do poço com a Microsoft relutantemente instalando um limite de giro como resultado.
Assim como as conversas com amigos têm piadas particulares e retornos de chamada, conversas mais longas com o ChatGPT têm cada vez mais contexto para a IA extrair e pode se tornar bastante complexo manter uma conversa sobre vários tópicos por dezenas de ‘turnos’.
À medida que a tecnologia melhora com o tempo, as habilidades de conversação da IA sem dúvida crescerão, a ponto de qualquer limite de palavras ser puramente arbitrário e inacessível, talvez usando métodos de codificação semelhantes aos esforços de Nguyen.
