Wer versichert die KI-Wette?

Frank Tentler · 22. September 2026

Die Geschichte der Industrialisierung erzählt auch davon, wie Gesellschaften lernen, mit den Folgen ihrer Erfindungen zu leben. Bei Künstlicher Intelligenz stehen wir vor einer ähnlichen Aufgabe, unter erheblichem Zeitdruck. Wenn KI so selbstverständlich verfügbar wird wie Strom, werden wir uns auf sie verlassen. Ihr Ausfall könnte dann ganze Arbeitsabläufe unterbrechen, und die Kosten würden weit über die Anbieter hinausreichen. Wer dieses Risiko trägt, wird auch über den Einfluss von Unternehmen und Staaten entscheiden.

Bei einem Stromausfall merken wir innerhalb weniger Minuten, wie viel von einer einzigen Voraussetzung abhängt. Die Kasse funktioniert nicht mehr, der Aufzug bleibt stehen, eine Werkstatt muss die Arbeit einstellen. Für manche Aufgaben gibt es Batterien oder ein Notstromaggregat. Andere müssen warten. Wir kennen diese Abhängigkeit und haben zumindest für besonders wichtige Einrichtungen Vorkehrungen getroffen. Mich beschäftigt, wie wir mit einer vergleichbaren Abhängigkeit von KI umgehen werden. Wir bauen sie gerade auf, während wir noch darüber diskutieren, welche Aufgaben die Systeme überhaupt übernehmen sollten.

Noch ist KI weit davon entfernt, überall eine unverzichtbare Versorgung zu sein. Doch wenn Unternehmen ihre Abläufe zunehmend um sie herum organisieren, verändert sich ihre Bedeutung. Aus einer zusätzlichen Hilfe kann eine Voraussetzung für die tägliche Arbeit werden. Ein Betrieb plant dann seine Lieferungen mit KI, stimmt den Personaleinsatz darauf ab und lässt Bestellungen automatisch auslösen. Beschäftigte bearbeiten vor allem die Fälle, die das System an sie weitergibt. Solange das zuverlässig funktioniert, wächst der Anreiz, weitere Aufgaben zu übertragen. Die eingesparte Zeit wird anderweitig verplant, Stellen werden nicht nachbesetzt und ältere Verfahren verschwinden aus dem Alltag.

Man stelle sich einen Morgen vor, an dem der dafür benötigte KI-Dienst mehrere Stunden ausfällt. Die Rechner laufen, das Internet funktioniert, die Mitarbeiter sind an ihren Plätzen. Trotzdem fehlt dem Lager die Freigabe für eine Lieferung, weil die Anwendung einen Sonderfall nicht zuordnen kann. In einer Verwaltung bleiben Anträge liegen, deren Unterlagen bisher automatisch geprüft und verteilt wurden. Ein Pflegedienst erhält keine aktualisierte Tourenplanung. Das sind mögliche Abläufe einer stärker automatisierten Arbeitswelt. Ihr Verlauf hängt davon ab, welche Aufgaben die Organisationen übertragen haben und ob sie ohne das System weiterarbeiten können.

Anfangs ließe sich vieles telefonisch erledigen. Doch auch dafür braucht es Menschen, die Zeit haben, den Vorgang kennen und auf die erforderlichen Daten zugreifen können. Wer jahrelang nur Ausnahmen bearbeitet hat, kann nicht sofort den gesamten Betrieb von Hand übernehmen. Vielleicht existiert das alte Verfahren noch in einer Dokumentation. Im Alltag wurde es längst durch etwas ersetzt, das schneller und günstiger war. Gerade der erfolgreiche Einsatz von KI kann auf diese Weise eine Abhängigkeit schaffen, die erst bei einer Störung auffällt.

Der Vergleich mit Strom hat dabei eine Grenze. KI würde aus vielen unterschiedlichen Systemen bestehen, mit verschiedenen Aufgaben und Ausfallmöglichkeiten. Ein einzelner Defekt müsste keineswegs alles lahmlegen. Allerdings können vermeintlich unabhängige Anwendungen denselben Modellanbieter, dieselbe Cloud oder denselben Zugangsdienst benötigen. Zwei Lieferanten auf einer Einkaufsliste garantieren deshalb noch keinen Ersatz im Störungsfall. Auch der Wechsel zu einem anderen Modell braucht Vorbereitung. Die Alternative muss mit den vorhandenen Daten und Programmen arbeiten können und für die jeweilige Aufgabe geprüft sein.

Wie weit eine gemeinsame technische Abhängigkeit reichen kann, ließ sich im Juli 2024 beim CrowdStrike-Ausfall beobachten. Nach einer Schätzung von Microsoft waren 8,5 Millionen Windows-Geräte von einem fehlerhaften Update betroffen, weniger als ein Prozent aller Windows-Rechner. Die wirtschaftlichen und gesellschaftlichen Folgen waren dennoch erheblich, weil betroffene Unternehmen wichtige Dienstleistungen erbrachten. Der Vorfall betraf herkömmliche Sicherheitssoftware. Für die Diskussion über KI ist daran vor allem die Verteilung interessant: Eine verhältnismäßig kleine Zahl ausgefallener Geräte kann sehr viele Menschen treffen, wenn diese Geräte an entscheidenden Stellen stehen.

Mit der Wiederherstellung eines Dienstes ist der entstandene Schaden zudem selten erledigt. Ein verpasster Liefertermin lässt sich nicht rückwirkend einhalten. Aufgeschobene Behandlungen müssen neu eingeplant werden. Mitarbeiter prüfen, welche Aufträge liegen geblieben sind und welche womöglich doppelt ausgelöst wurden. Währenddessen kommt die reguläre Arbeit hinzu. Hängen mehrere Unternehmen voneinander ab, kann die Störung weiterwirken, obwohl der ursprüngliche Fehler längst behoben ist. Für eine KI-Infrastruktur müssten wir deshalb auch verstehen, wie Organisationen nach einem Ausfall wieder geordnet in Betrieb kommen.

Noch schwieriger wäre ein System, das erreichbar bleibt und unbemerkt schlechter arbeitet. Es könnte Unterlagen falsch zuordnen oder aus veralteten Informationen überzeugend formulierte Empfehlungen ableiten. Ein sichtbarer Stillstand veranlasst Menschen wenigstens dazu, nach einer Störung zu suchen. Eine plausible Antwort wird möglicherweise weiterverarbeitet. Wenn mehrere Anwendungen dieselbe falsche Grundlage verwenden, kann der Fehler durch Einkauf, Produktionsplanung und Rechnungsstellung wandern. Später müssen die betroffenen Unternehmen herausfinden, welche Entscheidungen sie darauf aufgebaut haben. Eine solche Prüfung kann erheblich aufwendiger sein als die Reparatur des technischen Defekts.

Zu diesem Spektrum gehören auch Schäden an einzelnen Menschen. Eine fehlerhafte Auswahl kann Bewerber systematisch benachteiligen. Eine falsche Bewertung kann beeinflussen, wer einen Kredit erhält oder welche Beschäftigten für eine Kündigung vorgeschlagen werden. Die amerikanische Aufsichtsbehörde FTC beschrieb im Fall Rite Aid tausende falsche Treffer einer Gesichtserkennung, durch die Menschen zu Unrecht unter Verdacht gerieten. Solche Erfahrungen zeigen, wie viel an der Einführung und Kontrolle eines Systems hängt. Betroffene müssen eine Entscheidung anfechten können, auch wenn sich mehrere Unternehmen die technische Zuständigkeit teilen.

In der medizinischen Forschung wären andere Fehlerwege denkbar. Würde eine falsche Annahme aus einer KI-Auswertung in die Planung von Versuchen und später in deren Bewertung übernommen, könnten mehrere Arbeitsschritte auf derselben fehlerhaften Grundlage beruhen. Bei der Entwicklung von Impfstoffen sollen unabhängige Experimente, klinische Prüfungen und fachliche Freigaben solche Fehler erkennen. Ihre Unabhängigkeit müsste auch bei einem umfangreichen KI-Einsatz erhalten bleiben. Für autonome Waffen gelten nochmals andere Bedingungen, weil eine Fehlentscheidung unmittelbar tödliche Folgen haben kann. Die bloße Anwesenheit eines Menschen in einem Ablauf sagt wenig darüber aus, ob ihm genug Zeit und Wissen für eine wirksame Prüfung bleiben.

Die Geschwindigkeit dieser Veränderungen bereitet mir Sorgen. Organisationen müssen Entscheidungen treffen, während sich die Möglichkeiten der Technik weiterentwickeln. Was heute als begrenzter Versuch beginnt, kann morgen an weitere Abläufe angeschlossen werden. Mit jeder Verbindung entstehen zusätzliche Wege, auf denen sich Fehler auswirken können. Wir werden vermutlich manche davon erst im Betrieb entdecken. Damit lässt sich arbeiten, solange Versuche begrenzt bleiben und Schäden eingehegt werden können. Schwieriger wird es, wenn bereits wesentliche Teile der Versorgung von den Ergebnissen abhängen.

Aus der Industrialisierung kennen wir die langen Folgen früher Entscheidungen. In rund zweieinhalb Jahrhunderten haben sich Arbeitswelt, Städte und Lebensbedingungen grundlegend verändert. Viele Schäden an Gesundheit und Umwelt wurden erst spät begrenzt; mit manchen leben wir bis heute. Als Großbritannien 1833 eine staatliche Fabrikinspektion einrichtete, standen zunächst vier Inspektoren für ungefähr viertausend Textilfabriken bereit. Zwischen einer Schutzvorschrift und ihrer Durchsetzung lag viel Arbeit. Diese Erfahrung sollte uns beschäftigen, wenn wir heute Zuständigkeiten für KI festlegen. Vielleicht entscheiden wir schon in den nächsten drei Jahren über Abhängigkeiten, die sich später nur noch mit großem Aufwand verändern lassen. Dieses mögliche Entscheidungsfenster ist kurz genug, um jetzt Vorsorge zu verlangen.

Für Versicherer entsteht dabei ein schwieriges Problem. Sie können Risiken leichter verteilen, wenn Schäden hinreichend unabhängig voneinander auftreten. Nutzen viele versicherte Unternehmen dieselbe technische Grundlage, kann ein einziger Vorfall gleichzeitig zahlreiche Ansprüche auslösen. Rückversicherer können einen Teil davon übernehmen, verfügen aber ebenfalls über begrenztes Kapital. Außerdem helfen Erfahrungen mit bisherigen Schäden nur eingeschränkt, wenn neue Systeme andere Befugnisse erhalten und in bislang getrennte Abläufe eingreifen. Manche KI-Risiken werden sich vernünftig versichern lassen. Für einen umfassenden Ausfall müssten wir zunächst genauer bestimmen, welche Schäden überhaupt gemeinsam auftreten könnten.

Eine seriöse Jahresrechnung für eine künftig von KI durchzogene Wirtschaft kann ich deshalb nicht vorlegen. Man könnte einzelne Szenarien berechnen, etwa einen eintägigen Ausfall in einer bestimmten Branche. Dafür bräuchte man Annahmen über betroffene Betriebe, Ersatzverfahren und die Dauer der Nacharbeiten. Schon die Übertragung auf andere Branchen wäre schwierig. Hinzu kommt der Unterschied zwischen wirtschaftlichem Schaden und tatsächlich durchsetzbarem Schadenersatz. Ein Betrieb kann hohe Verluste erleiden, während sein Vertrag nur einen begrenzten Ersatz vorsieht. In den Vereinigten Staaten können sich aus großen Rechtsstreitigkeiten erhebliche Zahlungsverpflichtungen ergeben. Eine pauschale Milliardenrechnung für jeden KI-Zwischenfall würde diese Unterschiede verdecken.

Bei einem weitreichenden Ereignis könnten die Kosten schließlich bei Menschen und Einrichtungen ankommen, die über den Einsatz der Technik wenig mitentschieden haben. Kunden warten auf Leistungen, Beschäftigte verlieren Einkommen, Kommunen müssen Versorgung organisieren. Der Staat könnte sich gezwungen sehen, finanziell einzugreifen. Damit stellt sich die Frage nach der Rückversicherung der KI-Wette sehr praktisch. Unternehmen entwickeln und verkaufen die Systeme; die Folgen einer tiefen gesellschaftlichen Abhängigkeit reichen über ihre Bilanzen hinaus. Eine öffentliche Übernahme solcher Risiken müsste politisch ausgehandelt werden, bevor im Krisenfall kaum noch Zeit dafür bleibt.

Der Price-Anderson Act von 1957 zeigt, dass die Verteilung außergewöhnlicher technischer Risiken ausdrücklich organisiert werden kann. Für die amerikanische Kernenergie entstand ein besonderer Haftungsrahmen mit privater Versicherungsdeckung und zusätzlicher gemeinsamer Absicherung durch die Betreiber. KI würde eine andere Ordnung benötigen, weil Anwendungen, Schäden und Zuständigkeiten über viele Branchen und Länder verteilt sind. Der historische Vergleich hilft, über eine bewusste Verteilung der Lasten nachzudenken. Eine Rangfolge, nach der KI-Schäden zwangsläufig einen Atomunfall übertreffen, lässt sich daraus nicht ableiten.

Geld und staatlicher Einfluss gehören bei einer solchen Ordnung zusammen. Eine Regierung, die Risiken übernimmt, wird Bedingungen stellen wollen. Sie könnte Beteiligungen verlangen oder Einfluss auf den Betrieb wichtiger Dienste beanspruchen. Für Unternehmen wäre öffentliche Absicherung wertvoll, gerade wenn private Versicherungen bestimmte Schäden ausschließen. Daraus können enge gegenseitige Abhängigkeiten entstehen. Der Staat müsste eine Technologie beaufsichtigen, die er zugleich finanziert und für die eigene Verwaltung benötigt. Wir sollten daher früh festlegen, wer Entscheidungen überprüft und wie Geschädigte ihre Ansprüche geltend machen können.

Ich halte es für sinnvoll, dabei auch über einen verbindlichen internationalen Rahmen unter dem Dach der Vereinten Nationen nachzudenken. Wenn KI menschliche Entwicklung unterstützen soll, brauchen auch Länder ohne eigene große Anbieter Mitsprache und verlässlichen Zugang. Zu verhandeln wären gemeinsame Sicherheitsanforderungen sowie Regeln für grenzüberschreitende Störungen und deren Finanzierung. Die Staaten müssten dafür konkrete Befugnisse übertragen und Verpflichtungen eingehen. Ein weltweiter Entschädigungsfonds wäre erst dann hilfreich, wenn geklärt ist, wer einzahlt, wer über Leistungen entscheidet und welche Vorsorge von den Betreibern verlangt wird.

Für Unternehmen und öffentliche Einrichtungen beginnt diese Vorsorge schon beim Einkauf. Ein Vertrag müsste Auskunft darüber geben, welche Leistungen bei einer Störung weiter verfügbar sind und wie Daten in ein Ersatzsystem gelangen. Besonders wichtige Abläufe sollten auch ohne den gewohnten KI-Dienst erprobt werden. Das kostet Geld und bindet Menschen, deren Zeit im normalen Betrieb anders genutzt werden könnte. Diese Kosten gehören zur Einführung einer Technik, von der andere abhängig werden. Sonst erscheint ihre Nutzung günstiger, als sie für die Gesellschaft tatsächlich ist.

Ich möchte KI als Motor menschlicher Entwicklung nutzen. Dazu gehört für mich, bei ihrer Einführung auch die Menschen ernst zu nehmen, die später auf ihr Funktionieren angewiesen sind. In einer Klinik oder Verwaltung wird es wenig helfen, nach einem Ausfall auf die allgemeine Unsicherheit einer jungen Technologie zu verweisen. Dort muss die Arbeit weitergehen. Vielleicht wird deshalb eine Fähigkeit besonders wertvoll, die heute leicht als überholt gilt: einen Vorgang noch selbst zu verstehen und ihn auch ohne die gewohnte technische Unterstützung erledigen zu können. Wir sollten ihr in unseren Organisationen Zeit, Personal und einen festen Platz geben.