Para mim, esta é a notícia mais uau. Este modelo tem outras valências que o tornam o melhor a partir de agora, como:

– Melhor capacidade de seguir instruções, algo que antes tirava-me do sério.
– Aprimoramento nas habilidades de programação. Mas calma, debugging será ainda muito necessário e está ainda longe de se dizer que os programadores são indispensáveis, nem acredito que algum dia isso seja verdade. Mas pode ajudar ainda mais na rapidez de desenvolvimento e como assistente de qualquer programador júnior ou sénior.

Mas, estas duas valências podem ser muito subjetivas, sobretudo para utilizadores menos especialistas, pois vai sempre depender da prompt. Um excelente modelo com uma prompt fraca, pode ser superado por um modelo mais fraco com uma prompt excelente. Por isso, a quantidade de tokens que disponibiliza agora, isso é bem palpável e claro, por isso é o mais uau!

Então como era de prever, os tokens limitados são coisa do passado. Para quem não está tão familiarizado com o tema, tokens são pedacinhos de texto (como palavras ou partes delas) que a inteligência artificial usa para entender e responder. Quanto mais tokens, mais informação a IA consegue usar de uma vez só para fornecer uma resposta mais assertiva.

Muitos de nós em tecnologia estivemos limitados aos 128.000 tokens do modelo GPT-4o durante alguns meses (cerca de 150 a 220 páginas de texto para terem uma ideia). Isso limitava bastante a quantidade de dados que podíamos fornecer à IA, especialmente quando usamos a metodologia RAG (Retrieval-Augmented Generation), que permite que o modelo aceda a documentos externos para produzir respostas mais precisas. Agora, com 1.000.000 de tokens disponíveis, os casos de uso para a IA vão aumentar, pois pode ir até 1 300 a 1 700 páginas de contexto para terem uma ideia.

Às vezes, preferia que a evolução da IA fosse mais lenta, mas a realidade é que ela avança rapidamente, e eu tenho de acompanhar para estar sempre a par das últimas grandes novidades.