Zum Inhalt

Aleph Alpha veröffentlicht Kolibri: Offene 78B-Gewichte brauchen Speicher

AI

Kurzfassung

Kolibri erlaubt kommerzielle Nutzung und eigenen Betrieb. Pro Token sind etwa 3.46B Parameter aktiv, die FP8-Gewichte belegen dennoch rund 78GB. Das deutsch-englische Modell erweitert die Auswahl; Einsparungen hängen auch von Speicher, Leerlauf und Korrekturen ab.

Aleph Alpha veröffentlicht Kolibri: Offene 78B-Gewichte brauchen Speicher

Aleph Alpha stellte am 2026-10-03 Kolibri vor und veröffentlichte die Gewichte eines Modells mit insgesamt 78B Parametern. Die Veröffentlichung lässt sich an den Kosten einer abgeschlossenen Aufgabe prüfen: Erfordert der geringere Rechenaufwand mehr Wiederholungen oder menschliche Korrekturen, muss der eigene Betrieb nicht günstiger sein als der bisherige Dienst. Mit herunterladbaren Gewichten lässt sich dieser Vergleich an einem tatsächlich betreibbaren Modell vornehmen.Ankündigung Modellkarte

Dieser Artikel trägt das Datum 4. Oktober in Taipeh; Rechercheschluss ist 09:31 Uhr. Er greift die Veröffentlichung des Vortags auf, die noch innerhalb des 48-Stunden-Fensters liegt. Der Berichtsindex von NewsMinimalist zeigt den 3. Oktober um 08:01 UTC, entsprechend 16:01 Uhr in Taipeh. Das ist der Zeitstempel des Berichtsindex. Die offizielle Ankündigung nennt keine Freischaltzeit; ein Nachrichtenzeitpunkt darf deshalb nicht als Beginn der Verfügbarkeit der Gewichte gelten.Zeitindex

Die Gewichte stehen unter Apache 2.0 und erlauben kommerzielle Nutzung sowie eigenen Betrieb. Der unabhängige dpa-Bericht beschreibt Verwaltung und Industrie als Einsatzfelder; die Modellkarte nennt Deutsch und Englisch als Schwerpunkt. Konkret neu ist der Zugang zu den Gewichten: Teams können bestimmen, wo sie das Modell betreiben und welche Version sie behalten. Ein vollständiger Kostenvergleich aus bereits erfolgten Kundeneinsätzen fehlt im Bericht.Lizenz und Downloads Unabhängiger Bericht

Die Mixture-of-Experts-Architektur aktiviert pro Token ungefähr 3.46B Parameter. Bei einer Berechnung arbeiten also nur ausgewählte Experten mit; Speicherplatz benötigen weiterhin sämtliche 78B Parameter. Laut Modellkarte belegen die FP8-Gewichte etwa 78GB. Eine der Mindestkonfigurationen besteht aus zwei NVIDIA A100 mit jeweils 80GB Speicher; zwei H100 gehören zu den empfohlenen Konfigurationen. Die aktive Parameterzahl erklärt die sparsame Nutzung von Rechenleistung, bestimmt allein aber nicht, wie viele Nutzer ein Server bedienen kann.Architektur und Hardware Technischer Bericht

Lange Dokumente benötigen Speicher über die Gewichte hinaus

Die Modellkarte nennt maximal 1.048.576 Tokens Kontext. Für latenz- oder durchsatzkritische Anwendungen sowie komplexe Aufgaben empfiehlt sie höchstens 262.144 Tokens. Die Angaben beschreiben Kapazität und Nutzungsempfehlung. Daraus folgt keine Zusage gleichbleibender Qualität über eine Million Tokens hinweg. Während der Verarbeitung entsteht außerdem ein KV-Cache, der zusammen mit den Gewichten GPU-Speicher beansprucht. Längere Dokumente und zusätzliche gleichzeitige Anfragen beeinflussen daher die verfügbare Kapazität.Kontext und Betriebsgrenzen Cache-Mechanismus

Das Unternehmen zeigt außerdem interne Tests, die Kundenszenarien etwa aus der Automobilzulieferung und Halbleiterbranche nachbilden. Diese anbietereigenen Bewertungen dokumentieren keine nach einer Einführung tatsächlich erzielten Kosteneinsparungen.Anwendungstests

Ich würde Kolibri deshalb in die Modellauswahl für deutsch-englische Dokumentenprodukte aufnehmen, statt kostenlose Gewichte pauschal für jede Aufgabe vorzuziehen. Eine selbst gespeicherte Modellversion lässt dem Team die Entscheidung über Updates und ermöglicht Anpassungen an bestimmte Dokumente. Allerdings muss der Dienst gewartet werden. Bereits bereitgestellte Hardware verursacht auch dann Kosten, wenn keine Anfragen eingehen. Gleichmäßige Nutzung und eine gelegentliche große Arbeitsmenge können unterschiedliche Formen der Kapazitätsbeschaffung nahelegen.

Angenommen, ein Produkt verarbeitet täglich ähnlich aufgebaute deutsche Dokumente. Dann kann das Team Korrekturzeit und Serverkosten auf fortlaufend abgeschlossene Arbeiten verteilen. Bei gelegentlichen komplexen Fällen, die mehrfach geprüft werden müssen, kann dieselbe Kombination aus Modell und Hardware zu einem anderen Kostenergebnis führen. Das ist ein aus dem Betriebsmechanismus abgeleitetes Beispiel, kein veröffentlichter Kundenfall. Eine kostenlose Lizenz beantwortet nicht, welche Auslastung wirtschaftlich ist.

Der deutsch-englische Schwerpunkt hilft außerdem, den Einsatzbereich abzugrenzen. Für taiwanische Teams, die traditionell chinesische Dokumente verarbeiten, liefern die hier geprüften Quellen keinen ausreichenden Qualitätsvergleich mit lokalen Dokumenten, um ein vorhandenes Modell zu ersetzen. Wer deutsch-englische Bewertungen oder die europäische Herkunft auf chinesische Arbeitsabläufe überträgt, übersieht Unterschiede zwischen Sprachen und Dokumentarten. Offene Gewichte ermöglichen eine eigene Prüfung, nehmen deren Ergebnis aber nicht vorweg.

Die Veröffentlichung ergänzt die Auswahl um ein Modell, das Teams selbst pflegen können. Ob daraus ein Produktvorteil entsteht, zeigt ein Vergleich der Gesamtkosten je abgeschlossener Aufgabe bei derselben Dokumentart und akzeptabler Qualität. Wiederholungen, menschliche Korrekturen und ungenutzte Kapazität gehören dazu. Zehren diese Ausgaben die Einsparungen durch die selektive Berechnung auf, reicht die geringere aktive Parameterzahl als Begründung für einen Dienstwechsel nicht aus.

Das Titelbild verwendet ein vorhandenes Foto dieser Website von einer NVIDIA-Veranstaltung zu europäischer KI-Infrastruktur. Es zeigt weder Aleph Alpha noch die Kolibri-Veröffentlichung. Das offizielle Bild ließ sich wegen fehlgeschlagener Namensauflösung nicht herunterladen.

Quellen:

Mehr zu diesem Thema

Zufälliger Artikel