Ex-líder da OpenAI, Mira Murati, revela Inkling, o melhor modelo de IA open-source ocidental — mas um rival do tamanho de um telefone o superou em testes de codificação.
Fonte da imagem: Decrypt
Mira Murati, que já ajudou a dirigir a OpenAI (a empresa por trás do ChatGPT), finalmente lançou seu próprio modelo de IA após sair em setembro de 2024. Sua nova empresa, Thinking Machines Lab, lançou o modelo — chamado Inkling — em 15 de julho. Inkling é conhecido como um modelo open-source (o que significa que qualquer pessoa pode baixá-lo e usá-lo gratuitamente, em vez de estar bloqueado nos servidores privados de uma empresa). Agora é considerado o melhor modelo de IA open-source já construído "do zero" por um laboratório ocidental, numa época em que os laboratórios chineses têm dominado este espaço. Aqui estão os principais fatos: - 975 bilhões de parâmetros (os "botões" internos que a IA usa para tomar decisões) — mas apenas 41 bilhões estão ativos ao mesmo tempo - Treinado em 45 trilhões de tokens (tokens são pequenos pedaços de texto, como palavras ou partes de palavras) - Pode ler texto, imagens e áudio - Disponível online por $1 por milhão de tokens de entrada e $4,05 por milhão de tokens de saída (um sistema de preços baseado em tokens — você paga pela quantidade de texto que entra e sai) O modelo é muito grande para rodar em um computador doméstico — precisa de um data center completo. Onde o Inkling brilha é em tarefas "agentes" — significando atuar como um assistente inteligente que completa trabalhos reais por conta própria. Ele marcou 74,1% em um teste de conclusão de tarefas e 77,6% em corrigir erros de software, superando o modelo rival da Nvidia. Mas nos testes práticos, os resultados foram mistos. Quando solicitado a construir um jogo simples de tiro em zumbis, o Inkling produziu apenas formas básicas e um resultado bruto. Surpreendentemente, um modelo de IA muito menor chamado Bonsai — pequeno o suficiente para rodar em um iPhone — criou um jogo melhor. Isso levanta uma grande questão: se um modelo do tamanho de um telefone pode superar o Inkling em algumas tarefas, para onde estão indo todos esses 975 bilhões de parâmetros? Por enquanto, o Inkling é uma estreia promissora, mas imperfeita — forte para tarefas de automação profissional, mas nem sempre melhor que rivais mais baratos para codificação do dia a dia. Este é um resumo gerado por IA. Leia o artigo original em: https://decrypt.co/373884/review-inkling-mira-murati-first-open-source-ai