Das wirkliche Problem: Wer versichert KI?

Frank Tentler · 22. September 2026

Die Warnungen der KI-Unternehmen lassen sich auch als Sorge vor Schäden lesen, für die sie finanziell nicht einstehen könnten. Je mehr Aufgaben KI übernimmt, desto weiter können ihre Ausfälle und unkontrollierten Handlungen reichen. Meine Vermutung ist, dass die Suche nach staatlichem Schutz einen wesentlichen Teil der gegenwärtigen Sicherheitsdebatte erklärt. Über die Bedingungen einer solchen Absicherung sollten wir sprechen, bevor eine ganze Gesellschaft von diesen Diensten abhängt.

Alex Karp, CEO von Palantir, hat in einem CNBC-Interview einen Verdacht ausgesprochen, der mich beschäftigt. Er forderte, Entwickler gefährlicher KI für die Folgen ihrer Produkte zur Verantwortung zu ziehen. Zugleich unterstellte er Unternehmen, mit ihrem Ruf nach Regulierung Schutz vor Haftung zu suchen. Karp verfolgt als Chef eines KI- und Datenanalyseunternehmens eigene geschäftliche Interessen. Seine Deutung verdient deshalb dieselbe kritische Aufmerksamkeit wie die Warnungen, auf die er reagiert. Trotzdem halte ich den wirtschaftlichen Zusammenhang für aufschlussreich: Die Aussicht auf leistungsfähigere Systeme lockt Investoren und Kunden, während mit den Handlungsmöglichkeiten auch die Folgen eines Fehlers wachsen. Entstünden daraus durchsetzbare Ansprüche, die Versicherungsschutz und verfügbare Mittel übersteigen, könnte selbst ein hoch bewertetes Unternehmen in Schwierigkeiten geraten. Seine Bewertung wäre dann wenig hilfreich. Mit ihr lassen sich keine Rechnungen bezahlen.

Schon vor einem großen Schadensfall könnte fehlende Absicherung das Geschäft begrenzen. Ein Industriebetrieb muss prüfen, welches Risiko beim Einsatz eines KI-Dienstes bei ihm selbst verbleibt. Steht der Anbieter für wesentliche Schäden kaum ein und bietet auch die eigene Versicherung keine ausreichende Deckung, kann die Einführung wirtschaftlich unvertretbar werden. Für den Anbieter beträfe das den Absatz und damit die Aussicht, seine Investitionen zurückzuverdienen. Ich vermute, dass die Unternehmen hier eine Grenze ihres Geschäftsmodells erkennen: Die Fähigkeiten, mit denen sie wachsen wollen, könnten Schäden ermöglichen, deren Umfang sie weder zuverlässig begrenzen noch finanziell tragen können. Ein staatlicher Schutzschirm würde ihnen unter solchen Bedingungen erheblich helfen. Ihre Warnungen könnten deshalb auch eine Verhandlung vorbereiten, in der sie auf das strategische Interesse der Regierungen an KI setzen, besonders in den USA. Ehrliche Sicherheitsbedenken und dieses wirtschaftliche Interesse können zusammenfallen. Welche Absicherung einzelne Unternehmen tatsächlich anstreben, muss sich an ihren konkreten Forderungen zeigen.

Mich beschäftigt vor allem, was geschieht, wenn KI ähnlich selbstverständlich verfügbar wird wie Strom und wir unsere Arbeit auf ihre ständige Verfügbarkeit ausrichten. Noch ist sie weit davon entfernt, überall unverzichtbar zu sein. Die Abhängigkeit kann jedoch gerade dort wachsen, wo ihr Einsatz gut funktioniert. Ein Betrieb überträgt der KI seine Bestell- und Produktionsplanung, die Beschäftigten bearbeiten vor allem Ausnahmen. Weil das Zeit spart, werden Stellen nicht nachbesetzt und weitere Aufgaben angeschlossen. Nach einigen Jahren kennt womöglich niemand mehr den vollständigen Ablauf aus eigener Praxis. Fällt der Dienst dann aus, stehen Menschen vor laufenden Rechnern und können trotzdem nicht weiterarbeiten. Ein altes Verfahren mag noch irgendwo dokumentiert sein. Es fehlt aber an Personal, Übung oder Zugriff auf die Daten, um den Betrieb kurzfristig darauf umzustellen. Diese Entwicklung braucht keine spektakuläre Fehlentscheidung. Sie kann aus vielen vernünftigen Einsparungen entstehen, deren gemeinsame Folgen erst bei einer Störung sichtbar werden.

KI wird aus unterschiedlichen Systemen bestehen; ein einzelner Defekt müsste keineswegs alles lahmlegen. Allerdings können Anwendungen verschiedener Hersteller denselben Modellanbieter oder dieselbe Cloud benötigen. Ihre Kunden teilen dann eine Abhängigkeit, die beim Einkauf kaum auffällt. Wie weit so etwas reichen kann, zeigte der CrowdStrike-Ausfall im Juli 2024. Nach einer Schätzung von Microsoft waren 8,5 Millionen Windows-Geräte von einem fehlerhaften Update betroffen, weniger als ein Prozent aller Windows-Rechner. Die Folgen waren dennoch erheblich, weil betroffene Unternehmen wichtige Dienstleistungen erbrachten. Der Vorfall betraf herkömmliche Sicherheitssoftware. Er hilft aber, sich vorzustellen, was eine Störung an gemeinsam genutzten Grundlagen bewirken kann. Für eine KI-Infrastruktur käme hinzu, dass ein anderer Dienst nicht ohne Weiteres einspringen könnte. Er müsste mit den vorhandenen Daten und Programmen arbeiten und für die jeweiligen Aufgaben geprüft sein. Unterdessen warten Zulieferer auf Bestellungen, Liefertermine verstreichen und Kunden müssen ihre eigenen Abläufe ändern. Auch nach der Reparatur bleiben Rückstände und Verluste.

Mit KI-Agenten kommt eine weitere Gefahr hinzu: Sie können selbst im Web handeln, Programme ausführen und über eingerichtete Zugänge Daten verändern. Fehlinterpretierte Aufträge oder manipulierte Webinhalte können dadurch Aktionen auslösen, die niemand genehmigt hat. Je nach Zugriffsrechten könnte ein Agent vertrauliche Informationen versenden, Datensätze löschen oder fremde Dienste unzulässig nutzen. Der Schaden kann sich über den ersten Eingriff hinaus ausbreiten. Man stelle sich einen Agenten vor, der über einen zu weit gefassten Zugang Lieferdaten verändert. Andere Systeme übernehmen die Angaben und lösen daraufhin Bestellungen oder Zahlungen aus. Wird der Eingriff entdeckt, sperren die Beteiligten Zugänge und unterbrechen ihre Dienste. Zu den direkten Schäden kommen Betriebsunterbrechungen, Prüfungen und die Wiederherstellung verlässlicher Daten. Eine solche Kettenreaktion wäre auch ohne eine Absicht des Systems möglich. Entscheidend wären seine Befugnisse und die Sicherungen, die eine Aktion vor ihrer Ausführung prüfen. Die Verantwortung für deren Gestaltung bleibt bei den Menschen und Organisationen, die das System bauen und betreiben.

Aus der Industrialisierung kennen wir die langen Folgen früher Entscheidungen. In rund zweieinhalb Jahrhunderten haben sich Arbeitswelt, Städte und Lebensbedingungen grundlegend verändert. Viele Schäden an Gesundheit und Umwelt wurden erst spät begrenzt; mit manchen leben wir bis heute. Als Großbritannien 1833 eine staatliche Fabrikinspektion einrichtete, standen zunächst vier Inspektoren für ungefähr viertausend Textilfabriken bereit. Schutzvorschriften ließen sich beschließen, ihre Durchsetzung musste erst organisiert werden. Diese Erfahrung sollte uns beschäftigen. Vielleicht entscheiden wir schon in den nächsten drei Jahren über technische Abhängigkeiten, die später nur noch mit großem Aufwand zu ändern sind. Während neue Fähigkeiten verfügbar werden, müssen Organisationen klären, was sie übertragen und welche eigenen Fähigkeiten sie erhalten wollen. Uns bleibt dabei womöglich wenig Zeit, aus den ersten Fehlern zu lernen, bevor dieselben Verfahren weithin eingesetzt werden.

Für Versicherer treffen damit aktiv verursachte Schäden und Ausfallrisiken aufeinander. Ein einziger Vorfall könnte zahlreiche Kunden und unbeteiligte Dritte zugleich treffen; aus einer unbefugten Aktion könnte eine Betriebsunterbrechung mit weiteren Folgen werden. Rückversicherer verfügen ebenfalls über begrenztes Kapital. Zugleich helfen bisherige Schadensdaten nur eingeschränkt, wenn Systeme laufend neue Befugnisse erhalten. Für einzelne KI-Risiken gibt es bereits Versicherungsangebote. Ob sie auch solche zusammenhängenden Schäden ausreichend abdecken könnten, ist eine andere Frage. Gerade deren mögliche Reichweite und schwer abschätzbare Häufigkeit könnten dazu führen, dass Deckung begrenzt, teuer oder für bestimmte Einsätze gar nicht erhältlich ist. Eine belastbare Jahresrechnung für das Gesamtrisiko lässt sich daraus nicht ableiten. Außerdem wäre zu klären, welcher Schaden einen durchsetzbaren Ersatzanspruch begründet und wer dafür haftet. Ein Vertrag zwischen Anbieter und Kunde beantwortet noch nicht sämtliche Ansprüche außenstehender Geschädigter.

Darin sehe ich das wesentliche Problem hinter Karps Haftungsfrage. Wenn ein Anbieter mögliche Schäden weder ausreichend absichern noch selbst tragen kann, gerät der versprochene Umfang seiner Leistungen unter Druck. Er müsste Risiken technisch begrenzen, beispielsweise Zugriffe einschränken und folgenreiche Aktionen von Freigaben abhängig machen. Das könnte einen Teil der beworbenen Geschwindigkeit und Selbstständigkeit kosten. Ein staatlicher Schutzschirm könnte dagegen wirtschaftlich attraktiv erscheinen, weil er die finanziellen Folgen verteilt. Er würde jedoch keine unkontrollierte Handlung verhindern. Mit wachsender gesellschaftlicher Abhängigkeit entstünde zudem Druck auf den Staat, gefährdete Dienste selbst dann aufrechtzuerhalten, wenn ihre Absicherung ungeklärt ist. Unternehmen könnten so eine Stellung erreichen, in der ihre Stilllegung kaum noch hinnehmbar wäre. Über die Bedingungen öffentlicher Hilfe ließe sich während einer solchen Krise nur noch unter erheblichem Zeitdruck verhandeln.

Dass außergewöhnliche technische Risiken eine eigene politische Ordnung benötigen können, zeigt die Kernenergie. Der amerikanische Price-Anderson Act von 1957 schuf einen besonderen Haftungsrahmen, zu dessen System private Versicherungsdeckung und eine zusätzliche gemeinsame Absicherung durch die Betreiber gehören. Für KI wären andere Regeln nötig, weil mögliche Schäden über viele Branchen und Länder verteilt sind. Der historische Vergleich zeigt dennoch, dass Versicherbarkeit auch davon abhängt, wie eine Gesellschaft die Lasten verteilt. Darin steckt die politische Bedeutung der KI-Wette. Die Anbieter könnten durch öffentliche Absicherung weiter wachsen; Regierungen könnten dafür Beteiligungen oder Einfluss auf wichtige Dienste verlangen. Zugleich müssten sie Unternehmen beaufsichtigen, deren Technik sie fördern und selbst benötigen. Ein Schutzschirm bräuchte deshalb unabhängige Kontrolle und Bedingungen, die Betreiber zur Vorsorge verpflichten. Wer mit staatlicher Hilfe rechnen darf, sollte daraus keinen wirtschaftlichen Vorteil für vermeidbare Risiken ziehen können.

Ich halte es für sinnvoll, diese Verhandlung auch unter dem Dach der Vereinten Nationen zu führen. Dass dieser Gedanke politisch anschlussfähig ist, zeigt ein am 21. September 2026 veröffentlichter Aufruf auf Initiative Finnlands und Norwegens. Zu seinen 22 Unterzeichnern gehören auch Friedrich Merz und Ursula von der Leyen. Gefordert werden unabhängige Sicherheitsprüfungen vor dem Einsatz neuer Modelle und gemeinsame Verfahren zur Meldung schwerer Vorfälle. Die UN-Mitgliedstaaten sollen außerdem die Gründung einer internationalen Institution prüfen, die Standards setzt und deren Überprüfung ermöglicht. Der Aufruf bezieht sich ausdrücklich auf KI-Systeme, die Schutzvorkehrungen umgehen und unbefugt auf reale Computersysteme zugreifen. Damit findet die hier beschriebene Gefahr bereits eine gemeinsame politische Antwort, deren Umsetzung allerdings noch offen ist. Die USA und China gehören bislang nicht zu den Unterzeichnern.

Für eine internationale Lösung spricht auch, dass Länder ohne eigene große KI-Anbieter mit den Folgen dieser Technologie leben und an ihrem Nutzen teilhaben sollen. Der Aufruf verlangt deshalb Zugang zu wissenschaftlicher Expertise und verlässlicher Prüfung für Länder aller Regionen. Eine gemeinsame Behörde ist damit noch nicht beschlossen; Haftung und Entschädigung regelt die Erklärung ebenfalls nicht. An die Zusammenarbeit bei der Kontrolle müsste sich die Verhandlung darüber anschließen, wer grenzüberschreitende Schäden trägt. Ein internationaler Entschädigungsfonds wäre nur so tragfähig wie die Bereitschaft der Staaten und Unternehmen, ihn zu finanzieren und seine Regeln anzuerkennen. Geld allein würde allerdings weder einen stillstehenden Betrieb wieder in Gang bringen noch verlorenes Wissen ersetzen.

Ein Teil der Vorsorge muss deshalb dort stattfinden, wo KI eingeführt wird. Agenten brauchen begrenzte Zugriffsrechte und verlässliche Kontrollen vor folgenreichen Aktionen. Zugleich sollten wichtige Abläufe ohne den gewohnten Dienst erprobt werden, und Menschen müssen Zeit behalten, sie zu verstehen. Das kostet Personal und Geld, bevor ein Schaden den Nutzen dieser Ausgaben beweist. Diese Kosten gehören in unsere Wirtschaftlichkeitsrechnungen. Wenn der Staat Risiken übernimmt, muss er auch auf solcher Vorsorge bestehen können. Sonst bezahlt die Öffentlichkeit für eine Ausweitung von Fähigkeiten, deren Folgen sie immer weniger beeinflussen kann.