Der KI-Act und Roboter: Was autonome Systeme für die Haftung nach dem Verkauf bedeuten

Wenn ein Roboter mit einer KI-basierten Sicherheitskomponente ausfällt, wer haftet? Die EU-Verordnung über künstliche Intelligenz (Verordnung (EU) 2024/1689) beantwortet diese Frage nicht direkt, aber sie verändert die Pflichten jedes Akteurs in der Wertschöpfungskette – einschließlich der After-Sales-Dienstleister. Für ein Servicenetz, das aufgebaut wird, um chinesische Roboterhersteller in Europa zu unterstützen, ist die praktische Konsequenz, dass die Haftung keine einfache Vertragsangelegenheit mehr ist. Sie ist nun eine regulatorische Angelegenheit mit konkreten technischen und dokumentarischen Anforderungen.

Wie der KI-Act Roboter klassifiziert

Der KI-Act gilt für „KI-Systeme“ gemäß Artikel 3 Absatz 1: Software, die für eine bestimmte Reihe von vom Menschen festgelegten Zielen Ausgaben wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann, die die Umgebungen beeinflussen, mit denen sie interagieren. Roboter, die maschinelles Lernen für Wahrnehmung, Navigation oder Entscheidungsfindung verwenden, fallen eindeutig unter diese Definition. Selbst ein Roboter, der nur regelbasierte Logik verwendet, kann erfasst werden, wenn er sein Verhalten aus Daten anpasst.

Der Act behandelt nicht alle Roboter gleich. Er schafft eine vierteilige Risikopyramide: unannehmbares Risiko (verboten), hohes Risiko (strenge Pflichten), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine zusätzlichen Pflichten). Die meisten Industrie- und Serviceroboter mit KI fallen in die Kategorie des hohen Risikos, da sie Sicherheitskomponenten von Maschinen gemäß der Maschinenrichtlinie (2006/42/EG) sind oder weil sie Aufgaben in kritischer Infrastruktur, Bildung oder Beschäftigungskontexten ausführen.

Pflichten bei hohem Risiko in der Praxis

Für ein KI-System mit hohem Risiko muss der Anbieter (häufig der Hersteller) ein Risikomanagementsystem einrichten, relevante und repräsentative Trainingsdaten verwenden, technische Dokumentation erstellen und die automatische Protokollierung von Ereignissen ermöglichen. Das System muss für menschliche Aufsicht ausgelegt sein und ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. After-Sales-Dienstleister sind nicht direkt als Pflichtenträger genannt, aber sie erben Pflichten indirekt: Wenn ein Roboter unsachgemäß modifiziert oder gewartet wird, kann die Konformitätsbewertung des Anbieters ungültig werden, und der After-Sales-Akteur könnte gemäß Artikel 28 selbst als „Anbieter“ betrachtet werden, wenn er das System wesentlich modifiziert.

Haftung nach dem Verkauf: Wo der KI-Act auf die Produkthaftung trifft

Der KI-Act ersetzt nicht das Produkthaftungsrecht. Stattdessen ergänzt er es. Die EU-Produkthaftungsrichtlinie (85/374/EWG) hält Hersteller für Schäden haftbar, die durch fehlerhafte Produkte verursacht werden. Ein Roboter mit einem KI-System könnte fehlerhaft sein, wenn er nicht die Sicherheit bietet, die eine Person erwarten darf, unter Berücksichtigung seiner Präsentation und vernünftigerweise vorhersehbarer Verwendung. Die Anforderungen des KI-Acts werden zu einem Maßstab für das, was „vernünftigerweise erwartet“ wird. Wenn ein Roboter die Standards des Acts nicht erfüllt, kann dies als Beweis für Fehlerhaftigkeit verwendet werden.

Für After-Sales-Dienstleister ist die wichtigste Änderung, dass die Haftung an diejenigen anknüpfen kann, die das Produkt in Verkehr bringen oder in Betrieb nehmen. Ein Servicenetz, das einen KI-Roboter installiert, aktualisiert oder repariert, kann als Akteur des „Inbetriebnehmens“ betrachtet werden, wenn es den Roboter in der EU zur Nutzung verfügbar macht. Dies ist besonders relevant für chinesische Hersteller, die über einen lokalen Händler oder Servicepartner verkaufen. Das Servicenetz wird zum Gesicht des Herstellers in der EU, und seine Handlungen können sowohl für sich selbst als auch für den Hersteller Haftung begründen.

Praktische Auswirkungen für Wartung und Updates

Gemäß dem KI-Act muss der Anbieter die Leistung des Systems nach dem Inverkehrbringen überwachen und schwerwiegende Vorfälle der nationalen Behörde melden. Diese Überwachungspflicht wird oft an das After-Sales-Netz delegiert. Wenn die KI-Software eines Roboters remote aktualisiert wird, muss das Netz sicherstellen, dass das Update die Risikoklassifizierung des Systems nicht ändert oder neue Gefahren einführt. Wenn das Update wesentlich ist, kann das Netz verpflichtet sein, die Konformitätsbewertung erneut durchzuführen.

Wartungsprotokolle werden zu Rechtsdokumenten. Der Act verlangt die automatische Protokollierung von Ereignissen für Systeme mit hohem Risiko, und diese Protokolle müssen für einen Zeitraum aufbewahrt werden, der der beabsichtigten Verwendung des Systems angemessen ist. After-Sales-Dienstleister müssen in der Lage sein, diese Protokolle auf Anfrage den Behörden vorzulegen. Dies bedeutet, dass ein Servicenetz die technische Fähigkeit haben muss, auf die Protokolle zuzugreifen und sie zu interpretieren sowie alle während der Wartung vorgenommenen Änderungen zu dokumentieren.

Vergleichstabelle: KI-Risikokategorien und Pflichten

Risikokategorie	Beispiele in der Robotik	Wesentliche Pflichten	Relevanz für After-Sales
Unannehmbares Risiko	Social-Scoring-Roboter, subliminale Manipulation	Verboten	Keine; darf nicht in Verkehr gebracht werden
Hohes Risiko	Industrieroboter mit Sicherheitsfunktionen, medizinische Roboter, autonome Fahrzeuge	Risikomanagement, Datenverwaltung, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit, Registrierung in der EU-Datenbank	Muss Protokolle führen, Vorfälle melden, Updates verwalten, fortlaufende Konformität sicherstellen
Begrenztes Risiko	Chatbots, Emotionserkennungssysteme	Transparenz: Benutzer müssen informiert werden, dass sie mit KI interagieren	Sicherstellen, dass Benutzerinformationen bereitgestellt und gepflegt werden
Minimales Risiko	KI in der Bestandsverwaltung, einfache Mustererkennung	Keine (freiwillige Verhaltenskodizes)	Keine spezifischen Pflichten

Was dies für ein aufzubauendes Servicenetz bedeutet

Für ein lokales Servicenetz, das aufgebaut wird, um chinesische Roboterhersteller zu unterstützen, schafft der KI-Act sowohl Herausforderungen als auch Chancen. Auf der Herausforderungsseite muss das Netz in technisches Fachwissen investieren, um KI-Systeme zu handhaben, einschließlich der Fähigkeit, auf Protokolle zuzugreifen und sie zu interpretieren, Software-Updates sicher durchzuführen und alle Änderungen zu dokumentieren. Es muss auch klare vertragliche Vereinbarungen mit Herstellern darüber treffen, wer für jede Pflicht gemäß dem Act verantwortlich ist. Auf der Chancenseite wird ein Netz, das die Einhaltung des KI-Acts nachweisen kann, zu einem wertvollen Partner für Hersteller, die keine EU-Präsenz haben.

Vertragliche Zuweisung von Verantwortlichkeiten

Es ist wichtig, im Servicevertrag zu definieren, welche Partei der „Anbieter“ gemäß dem KI-Act ist. Wenn der Hersteller der Anbieter ist, handelt das Servicenetz unter bestimmten Bedingungen als „Bevollmächtigter“ oder „Importeur“. Der Vertrag sollte festlegen, wer für die Überwachung nach dem Inverkehrbringen, die Meldung von Vorfällen und die Konformitätsbewertung verantwortlich ist. Er sollte auch behandeln, was passiert, wenn das Netz eine Änderung vornimmt, die das Risikoprofil des Roboters verändert.

Technische Anforderungen an das Netz

Das Netz muss Personal haben, das in den Grundlagen von KI-Systemen geschult ist, einschließlich der Interpretation von Modellausgaben und der Identifizierung potenzieller Verzerrungen. Es muss sicheren Zugriff auf das Protokollierungssystem des Roboters haben und in der Lage sein, Protokolle in einem lesbaren Format für Behörden zu erstellen. Es muss auch einen Prozess für den Umgang mit schwerwiegenden Vorfällen haben, einschließlich der sofortigen Meldung an den Hersteller und, falls erforderlich, an die nationale Behörde.

Geografische Unterschiede und Überprüfung

Der KI-Act ist eine Verordnung, daher gilt er einheitlich in der gesamten EU. Die Durchsetzung erfolgt jedoch durch nationale Behörden, und jeder Mitgliedstaat kann unterschiedliche Verfahren für die Meldung von Vorfällen und die Marktüberwachung haben. Der Act erlaubt auch die Benennung „benannter Stellen“ durch die Mitgliedstaaten, und die Verfügbarkeit dieser Stellen kann variieren. Daher ist es wichtig, die spezifischen nationalen Anforderungen in jedem Land zu überprüfen, in dem das Netz tätig ist.

Fazit

Der KI-Act schafft kein neues Haftungsregime, aber er erhöht die Messlatte für das, was als sicher und konform gilt. Für After-Sales-Dienstleister ist die Botschaft klar: Sie sind Teil des regulatorischen Ökosystems. Ihre Handlungen können die Konformität eines Herstellers machen oder brechen. Durch Investitionen in KI-spezifische Fähigkeiten und vertragliche Klarheit kann ein Servicenetz diese regulatorische Komplexität in einen Wettbewerbsvorteil verwandeln.

Quellen

EUR-Lex — Verordnung (EU) 2024/1689 (KI-Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj (abgerufen am 26.08.2026)
Europäische Kommission — KI-Act — https://digital-strategy.ec.europa.eu/ (abgerufen am 26.08.2026)