Ratgeber Recht

Ein Unternehmen lässt eine KI eine Offerte formulieren. Die Offerte wird ungeprüft an den Kunden geschickt. Später stellt sich heraus: Die KI hat eine wichtige Leistung falsch beschrieben. Dem Kunden entsteht ein Schaden. Wer ist nun verantwortlich? Die KI selbst jedenfalls nicht. Künstliche Intelligenz arbeitet selbstständiger, dennoch bleibt die Verantwortung beim Menschen oder Unternehmen, das sie einsetzt. Entscheidend ist deshalb, wie ein Unternehmen mit KI umgeht. Wer einer KI eine Aufgabe überträgt, muss deren Ergebnis angemessen kontrollieren. Je wichtiger die Aufgabe und je grösser das mögliche Schadensrisiko, desto sorgfältiger muss die Kontrolle sein.

Eine KI erstellt beispielsweise einen Vertragsentwurf. Dieser enthält eine fehlerhafte Klausel oder beruht auf ausländischem statt Schweizer Recht. Wird der Vertrag ungeprüft verwendet und entsteht daraus ein Schaden, hilft der Hinweis «Das hat die KI geschrieben» nicht weiter. Das Unternehmen bleibt für die Verwendung des Dokuments verantwortlich. Auch bei anderen Anwendungen stellt sich die Frage nach der richtigen Kontrolle. Eine KI kann Kundenanfragen beantworten, Texte erstellen oder interne Informationen zusammenfassen. Je schwerwiegender die möglichen Folgen eines Fehlers sind, desto wichtiger ist eine menschliche Kontrolle.

Interne Prozesse sollten deshalb klare Zuständigkeiten vorsehen. Welche Systeme mit KI-Funktionen dürfen von Mitarbeitenden eingesetzt werden? Welche Aufgaben benötigen Kontrolle? Welche Daten dürfen eingegeben werden? Und wie werden Ergebnisse überprüft? Für Unternehmen bedeutet dies: Klare Regeln und Kontrollen können helfen, Fehler und Haftungsrisiken zu reduzieren. Zudem sollten Mitarbeitende im Umgang mit KI und Datenschutz geschult werden. KI kann vieles schneller und einfacher machen. Die Verantwortung für ihren Einsatz bleibt jedoch beim Unternehmen. Wer KI einsetzt, sollte deshalb klare Regeln festlegen und die Ergebnisse kontrollieren.

Cassandra Schena, Rechtsanwältin und Notarin, cs@hueberli.com

Hueberli Lawyers AG

Bahnhofstrasse 18

Wattwil

Tel. 071 988 30 00

www.hueberli.com