Schüttet ein Kellner einem Gast ein Getränk über die Hose, haftet das Restaurant. Tut ein Roboter dasselbe, haftet ebenfalls das Restaurant. «Ein Restaurantbetreiber haftet in beiden Fällen», sagte Ina Ebert, die sich als habilitierte Juristin bei Munich Re mit neuen Risiken befasst, vergangene Woche der Börsen-Zeitung. Danach kann sich das Restaurant an den Hersteller oder den Softwareanbieter halten.

Was dieser zweite Schritt wert ist, ändert sich am 9. Dezember.

Was im Oktober Gesetz wurde

Das neue deutsche Produkthaftungsgesetz passierte am 8. Oktober den Bundestag, am 16. Oktober den Bundesrat und wurde am 27. Oktober verkündet. Es gilt für Produkte, die ab dem 9. Dezember in Verkehr gebracht werden, und setzt eine EU-Richtlinie von 2024 in deutsches Recht um.

Für Roboter zählen drei Änderungen. Software gilt als Produkt, damit kommen auch die Hersteller von KI-Systemen in die Haftung. Die bisherige Obergrenze von 85 Millionen Euro für die Haftung eines Herstellers bei Personenschäden fällt weg, ebenso die Selbstbeteiligung von 500 Euro bei Sachschäden. Und ein Gericht kann künftig von einem Fehler ausgehen, wenn er wegen der technischen Komplexität für die geschädigte Person kaum zu beweisen ist und sie zeigt, dass er wahrscheinlich ist. Ebert nennt KI eine Blackbox, weil oft niemand weiss, wie das System zu seinem Ergebnis kommt. Diese Regel ist die Antwort des Gesetzes darauf.

Das Update gehört jetzt zur Maschine

Bisher wurde ein Produkt so beurteilt, wie es das Werk verliess. Nach dem neuen Gesetz behält ein Hersteller, der noch Updates liefern kann, die Kontrolle über das Produkt, und das verändert den Massstab. Der Einwand, der Roboter sei beim Verkauf in Ordnung gewesen, zieht nicht mehr, wenn der Fehler aus der Software stammt, aus einem Update oder aus einem fehlenden Update, das für die Sicherheit nötig gewesen wäre. Ein digitaler Dienst, ohne den eine Funktion des Roboters nicht läuft, gilt als Komponente. Auch müssen Gerichte berücksichtigen, was die Fähigkeit eines Produkts, nach dem Verkauf weiterzulernen, für das Produkt bedeutet.

Wir haben im August geschrieben, dass Roboter anders als die meisten Maschinen nach dem Kauf dazulernen. Ab Dezember hält dieselbe Verbindung zum Hersteller auch den Hersteller in der Verantwortung.

Wer hinter einem Roboter aus dem Ausland steht

Sitzt der Hersteller ausserhalb der EU, haften der Importeur und der Beauftragte des Herstellers in der EU so, als hätten sie die Maschine gebaut. Das gilt für Humanoide aus China und den USA. Es gilt auch für alles, was von der neuen Linie in Serbien kommt, und für Roboter aus der Schweiz, denn beide Länder gehören nicht zur EU. Nach dem Wortlaut des Gesetzes könnte ein Unternehmen, das einen Roboter selbst einführt und an einen Kunden vermietet, feststellen, dass es selbst der Importeur ist.

Lässt sich niemand in der EU finden, haftet jeder Lieferant in der Kette wie der Hersteller, sofern er nicht binnen eines Monats nach Aufforderung einen dieser Akteure oder seinen eigenen Lieferanten benennt. Lieferant ist jedes Unternehmen in der Kette, das ein Produkt zum Verkauf oder zur Nutzung abgibt, ob gegen Entgelt oder nicht. Für alle, die Roboter vermieten, bekommt die Papierspur zurück zum Importeur damit eine rechtliche Aufgabe.

Der Bundestag selbst hat Zweifel am letzten Glied dieser Kette. Zusammen mit dem Gesetz forderte er die Regierung auf zu prüfen, ob Beauftragte von Herstellern ausserhalb der EU eine Haftpflichtversicherung abschliessen müssen, damit sie Ansprüche auch bezahlen können, und ob ein Entschädigungsfonds machbar wäre. Ein Haftender hilft nur, wenn er zahlen kann.

Wer eine Maschine verändert, geht ein eigenes Risiko ein. Wer einen Roboter ohne Einverständnis des Herstellers wesentlich verändert und ihn dann einsetzt, wird zum Hersteller der veränderten Maschine, und eine neue Haftungsfrist von zehn Jahren beginnt. Wer vorhandene Maschinen zu Robotern nachrüstet, will dieses Einverständnis schriftlich haben.

Wofür das Gesetz nicht zahlt

Das ist der Teil, der für einen Besitzer am meisten zählt. Das Gesetz entschädigt natürliche Personen. Es deckt weder den fehlerhaften Roboter selbst noch Sachen, die ausschliesslich beruflich genutzt werden. Wer von einem Roboter verletzt wird, ist geschützt. Ein Besitzer, dessen Flotte nach einem fehlerhaften Update eine Woche stillsteht, ist es nicht. Diese Stunden kommen zu denen hinzu, die schon zwischen zwei Kunden und am Ladegerät verloren gehen.

Die EU-Richtlinie ergänzt in ihren Erwägungsgründen zwei Punkte. Sie verpflichtet niemanden, Updates bereitzustellen. Und ein Hersteller haftet nicht für ein fehlendes Update, wenn der Besitzer ein bereitgestelltes Sicherheitsupdate nicht installiert hat.

Der Schaden des Besitzers bleibt also eine Frage von Vertrag und Versicherung, und beide werden gerade erst geschrieben. Adrian Reisch, Partner bei EY und dort für Physical AI zuständig, sagte der Börsen-Zeitung, es gebe noch keine allgemeingültigen Regeln, jedes Projekt lege in einem eigenen Vertrag fest, wer wofür haftet. Weil das offen ist, arbeiten Humanoide in Fabriken laut dem Bericht in eigenen Räumen und nicht neben Menschen. «Das schränkt die Vorteile solcher Roboter ein», sagte Reisch. Die ersten grossen Versicherer prüfen noch, ob sich humanoide Roboter überhaupt versichern lassen.

Andreas Schumacher von Munich Re hat für das Risiko gemeinsamer Software einen Begriff: «software-defined accumulation risk», ein Kumulrisiko aus der Software. Nutzen viele Kunden dasselbe Modell, kann ein einziger Fehler oder Angriff viele Roboter zugleich treffen. Ein Pool, der Maschinen mehrerer Hersteller besitzt, wie der beep Robo-Pool, ist einem einzelnen Update weniger ausgesetzt.

Was das für den Besitz von Robotern bedeutet

Fünf Fragen sollten schriftlich beantwortet sein, bevor eine Maschine an die Arbeit geht:

  • Wer ist der Importeur oder Beauftragte in der EU, und kann er zahlen?
  • Wie lange liefert der Hersteller Sicherheitsupdates?
  • Wer installiert sie, und wer führt das Protokoll?
  • Hat der Hersteller jeder Änderung an der Maschine zugestimmt?
  • Wer trägt die verlorenen Stunden, wenn ein Fehler oder ein Update sie stoppt?

Die Mietsätze in unserem Katalog zeigen, was eine Maschine verdienen kann. Die Antworten auf diese fünf Fragen entscheiden, wer zahlt, wenn sie es nicht kann.

Was noch nicht bewiesen ist

Noch hat kein Gericht dieses Gesetz auf einen Roboter angewandt, und Begriffe wie «wesentliche Änderung» und «Kontrolle» werden Richter klären. Maschinen, die bis zum 8. Dezember in Verkehr gebracht werden, fallen weiter unter das alte Gesetz, und was das für einen älteren Roboter bedeutet, der danach ein neues Update erhält, ist offen. Ob ein bestimmtes Vermietungsunternehmen als Lieferant oder Importeur gilt, hängt davon ab, wie es aufgestellt ist. Das ist eine Frage für seine Anwälte, und dieser Artikel ist keine Rechtsberatung. Die Schweiz fällt nicht unter die Richtlinie und behält ihr eigenes Produktehaftpflichtgesetz. Versicherer haben für Humanoide kaum Schadenerfahrung, heutige Deckungen und Preise müssen also nicht von Dauer sein.

Das Gesetz klärt, wer der verletzten Person gegenüber einsteht. Wer dem Besitzer gegenüber einsteht, wird noch Klausel für Klausel geschrieben.