Die ehemalige OpenAI-Leiterin Mira Murati enthüllt Inkling, das beste westliche Open-Source-KI-Modell — aber ein telefon-großer Rivale schlug es in Codierungstests.
Bildquelle: Decrypt
Mira Murati, die einst half, OpenAI (das Unternehmen hinter ChatGPT) zu leiten, hat endlich ihr eigenes KI-Modell nach ihrem Ausscheiden im September 2024 veröffentlicht. Ihr neues Unternehmen, Thinking Machines Lab, brachte das Modell — genannt Inkling — am 15. Juli auf den Markt. Inkling ist ein sogenanntes Open-Source-Modell (was bedeutet, dass jeder es kostenlos herunterladen und nutzen kann, anstatt es hinter den privaten Servern eines Unternehmens zu verstecken). Es wird jetzt als das beste Open-Source-KI-Modell angesehen, das jemals "von Grund auf" von einem westlichen Labor gebaut wurde, zu einer Zeit, in der chinesische Labore diesen Bereich dominieren. Hier sind die wichtigsten Fakten: - 975 Milliarden Parameter (die internen "Regler", die die KI zur Entscheidungsfindung nutzt) — aber nur 41 Milliarden sind gleichzeitig aktiv - Trainiert auf 45 Billionen Tokens (Tokens sind kleine Textstücke, wie Wörter oder Wortteile) - Kann Text, Bilder und Audio lesen - Online verfügbar für 1 $ pro Million Eingabetokens und 4,05 $ pro Million Ausgabetokens (ein tokenbasiertes Preissystem — man zahlt für die Menge an Text, die hinein- und herausgeht) Das Modell ist viel zu groß, um auf einem Heimcomputer zu laufen — es benötigt ein komplettes Rechenzentrum. Wo Inkling glänzt, sind "agentische" Aufgaben — das bedeutet, es agiert wie ein intelligenter Assistent, der eigenständig echte Aufgaben erledigt. Es erzielte 74,1% in einem Test zur Aufgabenbewältigung und 77,6% beim Beheben von Softwarefehlern und übertraf damit das Konkurrenzmodell von Nvidia. Aber bei praktischen Tests waren die Ergebnisse gemischt. Als es darum gebeten wurde, ein einfaches Zombie-Shooter-Spiel zu erstellen, produzierte Inkling nur grundlegende Formen und ein grobes Ergebnis. Überraschenderweise erstellte ein viel kleineres KI-Modell namens Bonsai — klein genug, um auf einem iPhone zu laufen — ein besseres Spiel. Dies wirft eine große Frage auf: Wenn ein Modell in Telefon-Größe Inkling bei einigen Aufgaben übertreffen kann, wohin gehen dann tatsächlich diese 975 Milliarden Parameter? Für den Moment ist Inkling ein vielversprechendes, aber unvollkommenes Debüt — stark für professionelle Automatisierungsaufgaben, aber nicht immer besser als günstigere Konkurrenten für alltägliche Codierung. Dies ist eine von KI generierte Zusammenfassung. Lesen Sie den Originalartikel unter: https://decrypt.co/373884/review-inkling-mira-murati-first-open-source-ai