„Eine einzige Anfrage an ChatGPT verbraucht so viel Strom wie zehn Google-Suchen.“ „Für eine kurze E-Mail verdunstet die KI eine halbe Flasche Wasser.“ Solche Sätze machen seit Monaten die Runde – auf LinkedIn, in Talkshows, in Vorstandssitzungen. Sie sind eingängig, sie sind alarmierend, und sie sind in dieser Form schlicht falsch.

Auf der anderen Seite stehen die Beschwichtiger: „Halb so wild, Rechenzentren machen doch nur anderthalb Prozent des Stroms aus.“ Auch das greift zu kurz. Denn während man streitet, wächst der Verbrauch der KI-Rechenzentren gerade mit rund 50 Prozent pro Jahr.

Die Wahrheit liegt dazwischen – und sie ist für den deutschen Mittelstand deutlich interessanter als jede der beiden Schlagzeilen. Denn wer den Energiehunger der KI wirklich versteht, entdeckt einen seltenen Glücksfall der Digitalisierung: Der Hebel, der KI nachhaltiger macht, ist exakt derselbe, der sie günstiger und unabhängiger macht. Effizienz, Kosten und CO₂ zeigen hier in dieselbe Richtung. Man muss sich nicht zwischen Ökonomie und Ökologie entscheiden.

Dieser Beitrag räumt mit den kursierenden Zahlen auf, benennt ehrlich, wo KI tatsächlich ein Problem ist – und zeigt, warum kleinere, souveräne KI-Modelle für den Mittelstand die klügere Wahl sind. Ohne Alarmismus. Ohne Greenwashing.

Die Zahlen, die stimmen – und die, die nicht stimmen

Fangen wir mit der Größenordnung an. Nach dem maßgeblichen Bericht der Internationalen Energieagentur (IEA, „Energy and AI“, 2025) verbrauchten Rechenzentren weltweit im Jahr 2024 rund 415 Terawattstunden Strom – etwa 1,5 Prozent des globalen Stromverbrauchs. In Deutschland lag der Bedarf laut Bitkom und Borderstep-Institut bei rund 20 Milliarden Kilowattstunden. Das ist relevant, aber noch kein Weltuntergang.

Und die berühmte Einzelanfrage? Die „3 Wattstunden pro ChatGPT-Prompt“, die überall zitiert werden, stammen aus einer groben Schätzung von 2023 und gelten heute als deutlich überhöht. Google hat im August 2025 als erster großer Anbieter belastbare Betriebszahlen offengelegt: Eine durchschnittliche Text-Anfrage an Gemini benötigt 0,24 Wattstunden Strom, 0,03 Gramm CO₂ und 0,26 Milliliter Wasser. Zur Einordnung: Das entspricht etwa neun Sekunden Fernsehen. Die unabhängige Forschungsgruppe Epoch AI kommt für ein typisches GPT-4o-Modell auf einen ähnlichen Wert von rund 0,3 Wattstunden.

Was ist dann mit der „halben Wasserflasche pro E-Mail“? Diese Zahl (rund 519 Milliliter) stammt aus einer viel geteilten Meldung von 2024. Sie steht Googles gemessenen 0,26 Millilitern gegenüber – ein Unterschied um den Faktor 2.000. Der Grund ist keine Lüge, sondern eine unterschiedliche Rechengrenze: Die eine Zahl rechnet den gesamten Lebenszyklus inklusive Stromerzeugung und einer besonders langen Ausgabe ein, die andere misst den effizienten Durchschnittsbetrieb. Merke: Ohne die Angabe, was genau mitgezählt wird, ist jede KI-Verbrauchszahl wertlos.

Warum das trotzdem kein Grund zur Entwarnung ist

Jetzt der ehrliche Teil. Diese schönen kleinen Werte gelten für einfache Text-Anfragen. Sobald ein Modell „nachdenkt“ (Reasoning), als Agent mehrere Schritte plant oder Bilder und Videos erzeugt, steigt der Verbrauch drastisch. Eine Studie der University of Rhode Island schätzt für ein modernes Reasoning-Modell einen Durchschnitt von rund 18 Wattstunden pro Antwort – gegenüber gut 2 Wattstunden bei der Vorgängergeneration.

Zwischen 0,24 Wattstunden für eine einfache Anfrage und rund 18 Wattstunden für eine Reasoning-Antwort liegt der Faktor 60. Und genau hier liegt die entscheidende Erkenntnis für Unternehmen: Nicht ob Sie KI nutzen, bestimmt Ihren Fußabdruck – sondern welche KI Sie für welche Aufgabe einsetzen. Die Modellwahl ist der mit Abstand größte Einzelhebel.

Das eigentliche Schlachtfeld heißt Inferenz

In der öffentlichen Debatte dreht sich fast alles um das Training von KI-Modellen – die spektakulären Zahlen zu den riesigen Rechenclustern der großen Anbieter. Für Ihr Unternehmen ist das aber die falsche Baustelle. Denn ein Modell wird genau einmal trainiert, danach aber millionen- bis milliardenfach abgefragt. Diese laufende Nutzung heißt Inferenz, und sie macht studienübergreifend rund 80 bis 90 Prozent des gesamten Energieverbrauchs über den Lebenszyklus aus.

Ein Bild dazu: Das Training ist der Autokauf. Die Inferenz ist jede einzelne Fahrt. Der Fußabdruck Ihrer Flotte entsteht nicht beim Kauf, sondern beim Fahren – Tag für Tag. Und Sie als Anwender kaufen selten ein Auto; Sie fahren jeden Tag.

Das ist eine gute Nachricht, denn die Inferenz ist genau der Teil, den Sie beeinflussen können. Jede Optimierung dort – ein kleineres Modell, eine effizientere Serving-Technik, cleveres Zwischenspeichern – senkt gleichzeitig Energieverbrauch, CO₂-Ausstoß und Ihre Rechnung. Drei Fliegen, eine Klappe.

Aus der Praxis: Der überdimensionierte Chatbot

Ein Muster, das uns im Mittelstand immer wieder begegnet: Ein Unternehmen führt einen internen Wissens-Assistenten ein – Mitarbeiter sollen Fragen zu Handbüchern, Verträgen und Prozessen stellen können. Der naheliegende Weg: das größte, bekannteste Cloud-Modell per Schnittstelle anbinden. Es funktioniert. Aber zwei Dinge passieren.

Erstens explodieren die laufenden Kosten, weil jede noch so simple Frage („Wo finde ich das Urlaubsformular?“) ein Hochleistungsmodell beschäftigt, das für Nobelpreis-Niveau gebaut wurde. Zweitens wandern bei jeder Anfrage interne Dokumente auf fremde Server – ein Dauerthema für Datenschutz und Betriebsrat.

Der sinnvolle Umbau: Ein aufgabenspezifisches, kleineres Modell übernimmt die Fragen und greift per RAG (Retrieval-Augmented Generation) auf die eigenen Dokumente zu. Die Antwortqualität für diese konkrete Aufgabe bleibt gleich – der Betrieb wird um ein Vielfaches günstiger und energieärmer, und die Daten bleiben im Haus. Das teure Frontier-Modell wird nur noch für die wenigen wirklich komplexen Fälle reserviert.

Das Prinzip dahinter ist unspektakulär, aber wirkungsvoll: Man skaliert die Rechenleistung an der Aufgabe, nicht am Prestige des Modellnamens.

KI ist Problem und Lösung zugleich

Bislang haben wir KI nur als Verbraucher betrachtet. Doch sie ist zugleich ein mächtiger Ermöglicher von Nachhaltigkeit. Dieselbe IEA, die vor dem wachsenden Stromhunger warnt, rechnet vor: Bei breiter Anwendung könnte KI bis 2035 Emissionen von rund 1.400 Millionen Tonnen CO₂ vermeiden – etwa das Drei- bis Vierfache dessen, was die Rechenzentren selbst dann ausstoßen.

Die Hebel sind konkret und mittelstandsnah: intelligente Steuerung von Stromnetzen, vorausschauende Wartung (Predictive Maintenance), Materialoptimierung in der Produktion, effizientere Gebäudetechnik. Der deutsche „Green-AI Hub Mittelstand“ des Bundesumweltministeriums berichtet, dass beteiligte Unternehmen in ihren KI-Pilotprojekten teilweise bis zu 15 Prozent Material und Energie einsparen konnten.

Der ehrliche Vorbehalt: das Jevons-Paradoxon

Jetzt könnte man verkünden: „KI rettet das Klima.“ Das tun wir nicht – weil es unredlich wäre. Der Netto-Effekt ist umstritten, und die IEA betont selbst, dass es kein Selbstläufer ist. Vor allem lauert das Jevons-Paradoxon: Wenn eine Technologie effizienter und billiger wird, nutzt man sie mehr – und der absolute Verbrauch kann trotz besserer Effizienz steigen. William Stanley Jevons beschrieb das schon 1865 für die Kohle.

Die Konsequenz ist wichtig: Effizienz ist notwendig, aber nicht hinreichend. Wer Nachhaltigkeit ernst meint, kombiniert kleinere Modelle mit Ökostrom und bewusstem Einsatz – statt Effizienzgewinne allein als Klimaversprechen zu verkaufen. Genau diese Ehrlichkeit unterscheidet eine belastbare Green-AI-Strategie von Marketing.

Was der Gesetzgeber jetzt verlangt

Green AI ist längst nicht mehr nur eine Frage der Haltung – sie wird reguliert. Drei Rahmenwerke sollten Sie kennen:

• EU AI Act. Anbieter großer KI-Basismodelle müssen den bekannten oder geschätzten Energieverbrauch ihrer Modelle dokumentieren. Das trifft zunächst die Modellhersteller – setzt aber die Richtung: Energie wird zur nachweispflichtigen Größe.
• CSRD / ESRS E1. Die Nachhaltigkeitsberichterstattung verlangt die Offenlegung von Energieverbrauch und Emissionen – auch entlang der Wertschöpfungskette (Scope 3). Ihre Cloud-KI-Nutzung fließt damit in Ihren Nachhaltigkeitsbericht ein.
• Energieeffizienzgesetz (EnEfG). Für Rechenzentren gelten erstmals harte Vorgaben: Neubauten (ab Juli 2026) müssen einen PUE-Wert von ≤ 1,2 erreichen, Abwärme nutzen und – ab 2027 – zu 100 Prozent Ökostrom beziehen. Machen Sie diese Kennzahlen zum Auswahlkriterium für Ihren Cloud- oder Hosting-Anbieter.

Ein Hinweis zur Ehrlichkeit: Einige dieser Regeln sind noch in Bewegung (EU-Omnibus-Paket, EnEfG-Novelle). Die Richtung aber ist eindeutig und wird sich nicht umkehren – Energie- und Klimatransparenz bei IT wird zur Pflicht.

Nachhaltigkeit wird zum Beschaffungskriterium

Der vielleicht unterschätzteste Punkt: Nachhaltige IT ist zunehmend ein Verkaufsargument. Über die CSRD, das Lieferkettensorgfaltspflichtengesetz (LkSG) und die kommende EU-Lieferkettenrichtlinie (CSDDD) reichen große Konzerne ihre Nachhaltigkeitsanforderungen an ihre Zulieferer weiter – per Fragebogen, Selbstauskunft und Verhaltenskodex.

Auch wenn viele Mittelständler nicht direkt unter diese Gesetze fallen: Als Zulieferer sind sie mittelbar betroffen. Wer bei der Ausschreibung eines Großkunden nachweisen kann, dass die eigene KI- und IT-Landschaft energieeffizient, souverän und dokumentiert ist, hat einen handfesten Vorteil gegenüber Wettbewerbern, die dann hektisch nachbessern müssen.

Kurz: Was heute als Kür erscheint, wird morgen zur Pflicht in der Angebotsmappe. Wer die Architektur jetzt richtig aufstellt, verkauft übermorgen leichter.

Die wirtschaftliche Wahrheit: dreimal gewinnen

Kommen wir zum Kern für jeden Unternehmer. Weil die laufende Inferenz 80 bis 90 Prozent des Aufwands ausmacht, senkt jede Effizienzmaßnahme direkt Ihre Betriebskosten. Energieeffizienz und Kosteneffizienz sind hier dasselbe.

Bleibt die Frage: Cloud oder lokal? Die ehrliche Antwort lautet: Es kommt auf die Auslastung an.

• Bei schwankender oder geringer Nutzung sind Cloud-Schnittstellen meist günstiger – keine Anschaffung, kein Betriebsaufwand.
• Bei stetiger, hoher Auslastung kippt die Rechnung zugunsten lokaler Hardware. Aktuelle Analysen sehen den Break-even bei hoher Dauerauslastung (grob ab 70–80 Prozent) im Drei-Jahres-Horizont klar bei On-Premise – mit Amortisationszeiten von wenigen Monaten bis rund zwei Jahren.
• Für viele Mittelständler ist ein hybrider Ansatz optimal: lokal für Grundlast und sensible Daten, Cloud für Spitzen und Experimente.

Der eigentliche Gewinn liegt in der Kombination. Die richtige, effiziente KI-Architektur zahlt dreifach ein: niedrigere Kosten im Dauerbetrieb, volle Datensouveränität und ein nachweisbar kleinerer ökologischer Fußabdruck. Drei Ziele, eine Entscheidung.

Sieben Hebel für nachhaltige KI im Unternehmen

Was können Sie konkret tun? Diese sieben Maßnahmen sind sofort umsetzbar und wirken auf Kosten und CO₂ zugleich:

1. Richtig dimensionieren. Nicht reflexartig das größte Modell wählen. Löst ein kleineres, spezialisiertes Modell die Aufgabe zu über 95 Prozent, ist das Frontier-Modell überdimensioniert.
2. Inferenz optimieren. Effiziente Serving-Technik, Quantisierung und hohe Auslastung statt Leerlauf.
3. Caching nutzen. Häufige Antworten und Zwischenergebnisse zwischenspeichern, statt jede Anfrage neu zu berechnen.
4. Prompts straffen. Kürzere, präzisere Eingaben und begrenzte Ausgabelängen senken Rechen- und Energiebedarf spürbar.
5. Ökostrom-Rechenzentren wählen. Anbieter mit niedrigem PUE, hohem Ökostromanteil und Abwärmenutzung bevorzugen.
6. Hardware auslasten. Ein gut ausgelastetes System ist ökologisch und ökonomisch überlegen – Leerlauf vermeiden.
7. Messen und berichten. Den KI-Energieverbrauch erfassen – für Steuerbarkeit, Glaubwürdigkeit und die spätere CSRD-Berichterstattung.

Kein einzelner dieser Punkte ist Raketenwissenschaft. In Summe entscheiden sie darüber, ob Ihre KI ein Kostentreiber mit schlechtem Gewissen wird – oder ein effizientes, souveränes Werkzeug, das Sie im Wettbewerb voranbringt.