Neue EU-Haftungsregeln für künstliche Intelligenz: Hilfe, der Autopilot meines Tesla hat das Auto des Nachbarn gerammt – wer bezahlt? Die EU-Kommission hat neue, modernisierte Haftungsregeln vorgeschlagen, die von Produkten mit künstlicher Intelligenz geschädigten Personen mehr Erfolgschancen bei Schadenersatzklagen ermöglichen sollen. Die betroffenen Firmen fürchten übermässige Einschränkungen einer wichtigen Zukunftstechnologie.
Die EU-Kommission hat neue, modernisierte Haftungsregeln vorgeschlagen, die von Produkten mit künstlicher Intelligenz geschädigten Personen mehr Erfolgschancen bei Schadenersatzklagen ermöglichen sollen. Die betroffenen Firmen fürchten übermässige Einschränkungen einer wichtigen Zukunftstechnologie.
Viele Autos können mittlerweile viele Dinge alleine tun. Doch was, wenn der Autopilot meinen Tesla beim Einparkieren versehentlich in den Wagen meines Nachbarn fährt? Hafte ich dann für den Schaden? Bleibt der Nachbar auf den Kosten sitzen? Oder muss der Hersteller, also Tesla, ins Portemonnaie greifen?
Wer bezahlt, wenn künstliche Intelligenz Schaden verursacht?
Und was ist, wenn ein Detailhändler das Paket mit der neuen Bohrmaschine per Drohne liefert, es aber versehentlich über dem falschen Grundstück abwirft und es dort die Katze trifft?
Das mag zunächst einmal stark nach Zukunftsmusik tönen. Doch derartige automatische Anwendungen, die teilweise auch künstliche Intelligenz (KI) einsetzen, gibt es auch in der Schweiz.
Die Post testete autonome Lieferroboter in Dübendorf, flog Blutproben mit Drohnen über den Zürichsee und transportierte Fahrgäste in selbstfahrenden Postautos durch Sitten. Die Versuche waren begleitet von Pleiten, Pech und Pannen. Aber auch die gesetzlichen Vorgaben setzten Grenzen. So musste das Lieferwägelchen stets von einer Person begleitet werden.
Die EU-Kommission ist der Ansicht, dass rechtliche Hürden für den stärkeren Einsatz von Produkten mit KI im EU-Binnenmarkt abgebaut werden sollen. Und laut einer Umfrage von 2020 gehört die Haftung zu den drei grössten Hindernissen für den Einsatz von KI durch europäische Unternehmen. Deshalb hat das Gremium von Präsidentin Ursula von der Leyen am Mittwoch ein Gesetzespaket vorgestellt, das die entsprechenden Haftungsfragen regeln soll.
Künstliche Intelligenz macht diesbezüglich vieles ziemlich kompliziert. Im Beispiel des Tesla stellt sich etwa die Frage, ob es aufgrund eines fehlerhaften Software-Updates des US-Konzerns zum Unfall kam. Oder war einer der Sensoren kaputt?
Für Schadenersatzforderungen gegenüber dem Hersteller von fehlerhaften Produkten gibt es die sogenannte Produkthaftungsrichtlinie der EU von 1985. Diese soll nun überarbeitet werden, damit Personen auch Entschädigungen fordern können, wenn ein Schaden durch Software oder KI-Systeme verursacht wird. Künstliche Intelligenz soll fortan als Produkt gelten.
Zu den Änderungen gehört ferner, dass bei Problemen mit direkt aus dem EU-Ausland importierten Produkten künftig Schadenersatzforderungen gegen einen EU-Vertreter des Herstellers erhoben werden können. Dazu kommt, dass die Hersteller verpflichtet werden, gewisse Beweismittel offenzulegen. Zu denken ist hier etwa an Angaben zu Software-Updates oder Algorithmen. Denn ohne solche Informationen ist es für Kläger schwierig, ihre Forderungen zu begründen, wenn technologisch fortgeschrittene Produkte im Spiel sind.
Klagen künftig auch gegen Nutzer von KI möglich
Die Kommission geht aber noch weiter. Weil die erwähnte Produkthaftungsrichtlinie nur das Verhältnis zwischen Privatpersonen als Klägern und Herstellern als Beklagten regelt, hat das Gremium ein neues Gesetz zur KI-Haftung entworfen. Diese Richtlinie umfasst einen weiteren Anwendungsbereich. Es geht darum, dass Einzelpersonen und auch Unternehmen eine bessere Chance auf Entschädigung haben, wenn sie durch einen Anbieter, einen Entwickler oder einen Nutzer von KI geschädigt werden.
Hier ist an den Detailhändler zu denken, der mit einer Drohne Pakete ausliefert. Die neue EU-Richtlinie würde Haftungsansprüche gegenüber dem Detailhändler als Nutzer dieser Technologie ermöglichen und nicht nur gegenüber dem Hersteller. So stellt sich etwa die Frage, ob die Bohrmaschine am falschen Ort abgeworfen worden ist, weil der Detailhändler die Drohne hat fliegen lassen, obwohl die vom Hersteller vorgegebene maximale Windstärke überschritten worden ist?
In derartigen sogenannten verschuldensabhängigen Haftungsansprüchen muss das Opfer herausfinden, wer zu verklagen ist und warum das Handeln dieser Person ursächlich zu dem festgestellten Schaden geführt hat.
Die Kommission ist zum Schluss gekommen, dass bei KI-Produkten diese Beweisführung schwierig, wenn nicht gar unmöglich ist. Das neue Gesetz soll nun den Geschädigten zwei neue juristische Instrumente in die Hand geben, um einfacher zum Erfolg zu kommen.
Zunächst schlägt Brüssel eine sogenannte Kausalitätsvermutung vor. Der Zusammenhang zwischen KI-Leistung und Schaden muss nur noch «nach vernünftigem Ermessen» «wahrscheinlich» sein, um vom Gericht anerkannt zu werden. Der Beklagte kann diese Vermutung aber widerlegen. Darüber hinaus wird auch hier der Zugang zu einschlägigen Beweismitteln, die sich im Besitz etwa der Firma befinden, bei besonders riskanten KI-Anwendungen vereinfacht.
Brüssel will den Rechtsrahmen in der EU in dieser Frage harmonisieren, um eine Fragmentierung des Marktes durch 27 verschiedene Haftungsregeln bei KI zu verhindern. Gleichzeitig bleiben aber die zivilrechtlichen Verfahren der Mitgliedstaaten, abgesehen von diesen zwei Instrumenten, unberührt. So bleibt die Definition von Begriffen wie «Verschulden» oder «Schaden» weiter so, wie sie in den Gesetzbüchern der 27 EU-Staaten stehen.
Konsumentenvertretern gehen die Vorschläge zu wenig weit
Das neue Gesetzespaket soll also einerseits die Möglichkeiten von Opfern auf Schadenersatzklagen bei Problemen mit KI verbessern und andererseits aber auch die Rechtssicherheit von Firmen erhöhen. Denn ohne diese modernisierten Vorschläge würden die nationalen Gerichte die im Landesrecht verankerten Bestimmungen von Fall zu Fall auf die moderne Technik anwenden und so eben zu einem für in vielen EU-Staaten tätigen Unternehmen teuren Flickenteppich beitragen.
Nun werden der Rat der EU-Staaten und das Parlament über die Vorlage beraten. Aus Letzterem gab es am Mittwoch ein vorwiegend positives Echo. Andreas Schwab, EU-Abgeordneter der CDU, schrieb in einer Stellungnahme, dass einheitliche Regeln für Onlinehändler und für aus Drittstaaten eingeführte Produkte gut für Konsumenten und Firmen seien. Und er begrüsste auch die Ausweitung der Haftung auf von Software verursachte Schäden.
Tiemo Wölken von der SPD bezeichnete es als richtig, dass die Kommission die Lücken im allgemeinen Haftungsrecht schliesse. KI-Entscheidungen seien häufig für Menschen schwer nachvollziehbar und glichen einer «Black Box». Deshalb sei es wichtig, den Betroffenen Instrumente zu geben, um Schäden wegen KI zu belegen.
Der europäische Verband der Konsumentenschützer Beuc begrüsste zwar die Modernisierung der Haftungsregeln ebenfalls, kritisierte aber, dass die neuen Vorschriften bezüglich von KI unterstützten Dienstleistungen zu wenig weit gingen. Einem Betreiber eines KI-Produktes einen Fehler oder eine Nachlässigkeit nachzuweisen, sei «praktisch unmöglich».
Die Konsumenten seien besser geschützt, wenn ein Rasenmäher ihre Schuhe im Garten zerfleddere, als wenn sie durch ein Kredit-Scoring-System diskriminiert würden, liess sich Ursula Pachl, die stellvertretende Direktorin des Verbandes, dazu zitieren. Bei dem von ihr erwähnten System ist etwa an eine automatische Einschätzung der Kreditwürdigkeit von Konsumenten durch Firmen zu denken.
Amazon, Apple und Co. fürchten übermässige Einschränkungen
Die betroffenen Unternehmen waren nicht sehr erfreut. Der Verband der Computer- und Kommunikationsindustrie (CCIA) mit Mitgliedern wie Apple, Google, Amazon und Facebook schrieb am Mittwoch in einer Mitteilung, dass KI-gestützte Innovationen nur dann eine Chance hätten, ihr enormes Potenzial zu entfalten, wenn sie nicht durch übermässige Regulierung eingeschränkt würden.
Es sei falsch, Software als materielles Produkt zu definieren, kritisierte der CCIA. Software habe an sich noch nie einen physischen Schaden angerichtet. Darüber hinaus ist der Verband der Meinung, dass Online-Marktplätze nicht wie vorgesehen in Fällen haften sollten, in denen kein anderer Wirtschaftsteilnehmer für ein fehlerhaftes Produkt verantwortlich gemacht werden könne.
«Wir müssen die horizontalen und Technologie-neutralen Grundsätze der Produkthaftungsrichtlinie bewahren», wird Mathilde Adjutor, verantwortlich für Gesetzgebung bei CCIA Europe, zitiert. Die von der Kommission vorgeschlagenen Änderungen könnten sich unbeabsichtigt negativ auf die Softwareentwicklung auswirken, so Adjutor. Denn die Entwickler liefen nicht nur Gefahr, für Softwarefehler haftbar gemacht zu werden, sondern auch für die möglichen Auswirkungen der Software auf die psychische Gesundheit der Nutzer.
