KI-Systeme im Kaufrecht
In immer weiteren Wirtschaftsbereichen kommen KI-Systeme erfolgreich zum Einsatz. Häufig wissen Kunden jedoch kaum, wann die Software überhaupt einen Mangel im rechtlichen Sinne aufweist. Hierbei wollen wir Abhilfe schaffen.
Was sind KI-Systeme?
Zumindest, wenn es nach dem Entwurf der EU-Richtlinie bezüglich KI-basierter Software geht, kann man diese wie folgt beschreiben:
„‘Artificial Intelligence System’ (AI system) means software that is
developed with one or more of the techniques and approaches listed in Annex I and can, for a given
set of human-defined objectives, generate outputs such as content, predictions, recommendations,
or decisions influencing the environments they interact with“.– Aus Art. 3 Abs. 1 des Entwurfs zur EU KI-Richtlinie –
Freie Übersetzung:
„System mit künstlicher Intelligenz“ (KI-System) beschreibt Software, die
mit einer oder mehreren der in Annex I aufgeführten Techniken und Ansätze entwickelt wurde und die für eine gegebene
Reihe von durch den Menschen definierten Zielen, Ausgaben produzieren wie Inhalte, Vorhersagen, Empfehlungen
oder Entscheidungen, die die Umgebung, mit der sie interagieren, beeinflussen“.
In Annex I werden anschließend folgende technische Ansätze zur Realisierung genannt:
- Selbstlernende Systeme, unabhängig davon, ob sie überwacht, nicht überwacht oder unterstützt stattfinden.
- Logik- und wissensbasierte Ansätze.
- Statistische Ansätze.
Handelt es sich bei der Anschaffung von KI-Software stets um einen Kaufvertrag?
Die Antwort ist eindeutig mit Nein zu beantworten. Abhängig davon, ob Ihnen die Software nur zeitweise überlassen, extra für Sie erstellt wurde und auch anderen denkbaren Faktoren kommen grundsätzlich verschiedene Vertragsnaturen in Betracht, namentlich das Mietrecht, das Dienstvertragsrecht und das Werkvertragsrecht.
Das Kaufrecht findet regelmäßig dann Anwendung, wenn Ihnen Eigentum an dem KI-System gegen eine einmalige Vergütung unbefristet übertragen wird. Zwar könnte man insoweit einwenden, dass Software im Allgemeinen unfertig ausgeliefert werde, sie dementsprechend niemals einen „fertigen“ Charakter habe. Allerdings steht allein diese Tatsache einer Annahme des Kaufrechts (noch) nicht entgegen. Denn dieser Vertragstypus ist auch auf diese Konstellation anwendbar. Im Ergebnis muss die KI-Software beim (hypothetischen) Gefahrübergang die vertraglich vereinbarte Lernfähigkeit aufweisen. Daran zeigt sich, dass sich das KI-System nur unwesentlich – zumindest in dieser Hinsicht – von einem Speichermedium, das mit der Fähigkeit verkauft wird, Daten in bestimmter Weise zu speichern, unterscheidet. Eben für letzteres Beispiel findet weitgehend unstrittig (auch) Kaufrecht Anwendung.
Wann ist ein KI-System überhaupt mangelhaft?
Die Mangelhaftigkeit einer Kaufsache bestimmt sich nach § 434 I BGB. Danach ist eine solche mangelhaft, wenn ihre Ist-Beschaffenheit (also der tatsächliche Zustand) beim (hypothetischen) Gefahrübergang von der Soll-Beschaffenheit abweicht. Sie ist – zusammen mit dem Kaufvertrag – als das Eintrittstor in die Kaufgewährleistungsrechte zu verstehen.
Für die Bestimmung der Soll-Beschaffenheit ist zunächst eine mögliche Beschaffenheitsvereinbarung (über die Software) zwischen den Parteien entscheidend. Interessiert sich also ein Käufer einer KI-Software für ein Produkt, welches seinen technischen Support auf eine höfliche Weise mit Antworten unterstützt und stimmt der Verkäufer insofern zu, so wurde eine bestimmte Beschaffenheit der Software vereinbart. Sofern die Software nun etwa sexistisch, feindselig oder gar nicht antwortet, weist sie einen Mangel auf.
Wurde keine Beschaffenheit vereinbart, ist die vom Vertrag vorausgesetzte Verwendung maßgeblich für eine etwaige Mangelhaftigkeit heranzuziehen. Dafür muss ein vertraglich vorausgesetzter Verwendungszweck erkennbar sein. Sollte die Software diesen nicht erfüllen, liegt abermals eine Mangelhaftigkeit vor
Subsidiär ist dann die gewöhnliche Verwendung der Software entscheidend.
Sonderprobleme der Mangelhaftigkeit von KI-Software
Problematische sind solche Fälle, die die anfängliche Leistungsfähigkeit von KI betreffen. Unterschieden werden muss dabei zwischen Software, die sofort – ohne eine Trainingsphase – ihre Leistungen abrufen soll und Software, der eine solche Trainingsphase zugestanden wird. Im ersteren Fall werden die KI-Systeme häufig unter Verweis auf die Mehrwerte für die Produktivität und Nutzbarkeit im Vergleich zu herkömmlichen Systemen vermarktet. In diesem Fall müsste dann regelmäßig der Effekt der gesteigerten Produktivität erreicht werden. Der zweite Fall, also KI-Software mit Trainingsphase, ist zunächst nur denkbar, wenn die Parteien eine Trainingsphase überhaupt vereinbart haben. Dann sind für die Auslegung des Kaufvertrags nach allgemeinen Regeln der erkennbare Einsatzzweck und die vom Käufer formulierte Erwartung wesentlich. Insoweit kann etwa bei einer betrieblich genutzten Arbeitssoftware durchaus auch auf die Nutzerakzeptanz abgestellt werden.
Sofern es um Sicherheitsrisiken geht, kann auch im Bereich der KI keine absolute und dauerhafte Einbruchsicherheit erwartet werden. Allerdings gilt insofern die Besonderheit bei Software, dass die Sicherheitsmängel zu entstören sind.
Darüber hinaus hat der Verkäufer stets eine ausreichende Dokumentation zusätzlich zur Software zur Verfügung zu stellen. Fehlende oder falsche Dokumentationen bilden einen Sachmangel. Als Besonderheit kann es sich für KI-Systeme auswirken, wenn ihre vertragliche Eigenart gerade in der intuitiven Nutzbarkeit und damit der fehlenden Notwendigkeit besteht, dass der Nutzer sich mit einer Dokumentation befasst. In diesem Fall stellt eine fehlende Dokumentation keinen Mangel dar.