OpenAI Pausa 'Astra' AI por Medo de que Possa Criar Ciberarmas

A OpenAI acabou de frear um de seus projetos de IA mais avançados — porque pode ser perigoso demais para ser lançado.

A empresa anunciou que está pausando o trabalho interno no Astra, um modelo de IA futuro (ainda não lançado). Por quê? Testes recentes mostraram que o modelo se tornou surpreendentemente bom em “codificação agente” (isso significa que a IA pode escrever e executar código por conta própria, sem um humano guiando cada passo) e em tarefas de cibersegurança.

A OpenAI disse que “não pode descartar” que o Astra atingiu o nível mais alto de perigo em sua própria escala de risco, chamada de Preparedness Framework (o manual interno da OpenAI para julgar o quão arriscado é um modelo).

Aqui está o que atingir esse nível