Was es ist
„Compute“ ist die Rechenleistung, die benötigt wird, um KI-Modelle zu trainieren und auszuführen. Moderne Modelle führen Milliarden einfacher Berechnungen parallel aus, weshalb sie auf Chips laufen, die genau dafür gebaut sind: Grafikprozessoren und spezielle KI-Beschleuniger.
Training und Inferenz
| Training | Inferenz | |
|---|---|---|
| Was passiert | Das Modell lernt aus Daten | Das fertige Modell beantwortet Anfragen |
| Wie oft | Einmal pro Modellversion | Jedes Mal, wenn jemand es verwendet |
| Kostenprofil | Sehr hoch, einmalig | Gering pro Anfrage, insgesamt hoch |
Die Chips
- GPUs (Grafikprozessoren) wurden für Videospiele gebaut und erwiesen sich als geeignet für KI; sie dominieren das Training.
- Spezielle KI-Chips wie Googles TPUs sind ausschließlich für KI-Berechnungen ausgelegt.3
- Speicher nahe am Chip begrenzt, wie groß ein Modell laufen kann, und zwar schnell.
Energie und Rechenzentren
Laut der Internationalen Energieagentur verbrauchten Rechenzentren 2024 etwa 415 Terawattstunden Strom, rund 1,5 % des weltweiten Verbrauchs, und die Nachfrage könnte sich bis 2030 etwa verdoppeln, angetrieben vor allem durch KI.1
Warum es für ein Unternehmen wichtig ist
- Modellpreise folgen den Compute-Kosten; für ältere Modellgenerationen sind sie schnell gefallen.
- Die Verfügbarkeit entscheidet, wie schnell Anbieter neue Modelle anbieten können.
- Open-Modelle im eigenen Haus zu betreiben, erfordert eigene oder gemietete GPUs.
Schlüsselbegriffe
- GPU
- Grafikprozessor; der Standard-Chip für das KI-Training.
- Inferenz
- Ein trainiertes Modell nutzen, um Antworten zu erzeugen.
- FLOP
- Eine Gleitkommaoperation; der Trainings-Rechenaufwand wird in diesen gemessen.2
Neueste Forschung
Neue Papers und Berichte, die diesen Begriff erwähnen, gefunden durch unseren täglichen Quellen-Scan. Eine Zeile pro Quelle, zitiert wie veröffentlicht.
- heise.deAus dem aktualisierten Börsenprospekt geht auch hervor, dass die Firma für die kommenden Jahre bereits Investitionen von 895 Milliarden Dollar für Kapazität in Rechenzentren und den Ausbau von Infrastruktur veranschlagte.2026-11-02
- arxiv.orgZusammenfassung: Disaggregierte LLM-Inferenz trennt die Prefill- und die Decode-Phase über GPU-Pools hinweg und erzeugt dabei massive KV-Cache-Transfers.2026-11-02
- techcrunch.comUS-Rechenzentren verbrauchen jährlich 17 bis 19 Milliarden Gallonen Wasser, um ihre heiß laufenden Chips zu kühlen – und diese Zahl soll sich laut der Water Foundation in den nächsten fünf Jahren verdreifachen.2026-11-02
- heise.deVielmehr handelt es sich um ein separates Programm auf Basis des UI-Frameworks GPUI, das auf dem neuen Hintergrunddienst herdr-core (Kommandozeilenbefehl hc ) aufsetzt.2026-11-02
- theverge.comOpenAI bewirbt Kraftwerke für Rechenzentren als Mittel zum Schutz angrenzender Gebiete.2026-11-02