Kolumnen 2024

Austromatisierung 7/2024 · Kolumne „Wenn’s recht ist“

»ChatGPT«: Brauche ich noch einen Anwalt?

Ursprünglich veröffentlicht 2024 · Mag. Nevena M. Shotekova-Zöchling

Die neuesten Anwendungen der Künstlichen Intelligenz (KI) werden mittlerweile oft und überall gerne eingesetzt: von Marketingabteilungen über Versicherungsgesellschaften bis Rechtsanwaltskanzleien, jedoch stellt sich die Frage, ob der Einsatz tatsächlich zuverlässig ist. Die KI mag vielleicht das Mittel der Zukunft werden, jedoch wurde ihr derzeitiger Einsatz bereits in einigen Studien untersucht und die Ergebnisse sind eher nüchtern zu betrachten: Im Rahmen einer Forschungsarbeit ließen beispielsweise Prof. Dr. Markus Conrads und Prof. Dr. Sascha Schweitzer von der ESB Business School der Hochschule Reutlingen KI-gestützte Chatbots einfache juristische Fragen bzw. Fälle untersuchen und lösen. Die drei Chatbots »ChatGPT-4«, »ChatGPT-3.5« und »Google Bard« mussten im Rahmen der Studie jeweils 200 Aufgaben aus verschiedenen Themenkreisen des deutschen Wirtschafts-, Zivil- bzw. Arbeitsrechts lösen.

»ChatGPT-4« erzielte im Durchschnitt 54% der Punkte aus richtigen Lösungen, sodass dieser Chatbot sogar eine Fachprüfung der Rechtswissenschaften theoretisch bestehen würde. Besonders hervorzuheben ist das weitere Ergebnis der Studie, wonach dieser Chatbot in ca. 30% der Fälle sogar eine nach menschlichem Empfinden überdurchschnittliche Lösung erarbeiten konnte. Die beiden weiteren Versionen »ChatGPT-3.5« und »Google Bard« haben leider deutlich schlechter abgeschnitten.

Es stellte sich daher im Ergebnis heraus, dass vor allem die Version »ChatGPT-4« zumindest unterstützend sehr wohl im Einsatz verbleiben kann und weiterentwickelt werden soll. Sollte jedoch die KI mit einem tagtäglichen Rechtsproblem beschäftigt werden, welches eine Strategie bzw. vernetztes Denken aus mehreren Rechtsgebieten benötigt, zeigen sich die derzeitigen Schwächen der Software. Die Idee, dass die KI komplexe juristische Sachverhalte selbstständig lösen könnte, stellt daher derzeit noch ein Wunschdenken dar.

Zudem sind die genauen Quellen für den Benutzer der jeweiligen Anwendungsmodule oft nicht nachvollziehbar bzw. ersichtlich, sodass die Gefahr von allfälligen Manipulationen der öffentlichen Meinung nicht ausgeschlossen werden kann. Aus rechtlicher Sicht kann sohin einem Laien nicht empfohlen werden, sich juristisch von »ChatGPT« beraten zu lassen. Dennoch ist der Einsatz des beliebten Chatbots besonders bei einfachen Fragestellungen oder für die Zusammenfassung oder Kürzung von Texten etc. durchaus unterstützend sinnvoll.

Eine zuverlässige Rechtsberatung kann »ChatGPT« derzeit aber noch nicht leisten. Tatsächlich lernt aber die KI mit jedem einzelnen Einsatz, sodass wir uns künftig bestimmt noch mehr mit ihrer Entwicklung beschäftigen werden.

Originalpublikation als PDF →

Weiterführend: KI und Investments: Orakel oder Widersacher?

Austromatisierung 5/2024 · Kolumne „Wenn’s recht ist“

Die neue KI-Verordnung: Spannungsfeld zu den Grundrechten und zum Datenschutz

Ursprünglich veröffentlicht 2024 · Mag. Nevena M. Shotekova-Zöchling

Der Einsatz von Künstlicher Intelligenz (KI) in der EU wird nun durch die neu erlassene Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-VO) geregelt. Sie wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und trat mit 1. August 2024 in Kraft. Die KI-VO ist weltweit der erste rechtliche Rahmen für KI.

Ihr erklärter Zweck besteht insbesondere darin, harmonisierte Vorschriften für die Inbetriebnahme und die Verwendung von Systemen der KI zu schaffen sowie bestimmte Praktiken im Bereich der KI zu verbieten und besondere Anforderungen an Hochrisiko-KI-Systeme festzulegen. Als hochriskant werden insbesondere KI-Technologien eingestuft, die in folgenden Bereichen eingesetzt werden: kritische Infrastrukturen, Bildung sowie Zugang zur Bildung und beruflicher Werdegang einer Person, Sicherheitskomponenten von Produkten (z.B. KI-Anwendung im medizinischen Bereich), Kreditbewertung, Strafverfolgung, Migrations- oder Asylmanagement oder Justizverwaltung und Recherche. Alle KI-Systeme mit hohem Risiko müssen vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus laufend bewertet werden, besonders in Hinblick auf:

• Ein eigenes angemessenes Risikomanagementsystem zur Ermittlung und Analyse der bekannten und vorhersehbaren Risiken sowie der Risiken aus einer Fehlanwendung
• Bewertung und Regulierung von Daten-Governance- und Datenverwaltungsverfahren, die Datensätze ins KI-System speisen, wobei sie angemessene Vorkehrungen für den Schutz der Grundrechte natürlicher Personen treffen müssen, wozu auch technische Beschränkungen einer Weiterverwendung und modernste Sicherheits- und Datenschutzmaßnahmen wie Pseudonymisierung oder Verschlüsselung gehören
• Umfassende technische Dokumentation und Aufzeichnungspflichten zum Nachweis dahingehend, dass sämtliche Anforderungen der KI-VO erfüllt wurden, und dass den zuständigen nationalen Behörden alle Informationen zur Verfügung stehen, die erforderlich sind, um dies zu beurteilen
• Transparenz und Bereitstellung von Informationen für die Nutzer
• Menschliche Aufsicht zur Minimierung der Risiken für die Gesundheit, die Sicherheit, die Grundrechte, oder den Schutz (sensibler) Daten, die entstehen können, wenn ein Hochrisiko-KI-System fehlangewendet wird
• Genauigkeit, Robustheit und Cybersicherheit – insbesondere auch im Bereich Datenschutz.

Dementsprechend gelten diverse strenge Sicherheitsvorschriften für die Anbieter von KI-Systemen insbesondere im Hochrisikobereich, aber auch für die Händler, die Inverkehrbringer und die Nutzer dieser KI-Systeme. Im Übrigen gelten ferner sämtliche biometrischen Fernidentifizierungssysteme nun als hochriskant und unterliegen eigenen strengen Anforderungen. Die Nutzung durch die Strafverfolgungsbehörden ist grundsätzlich verboten, wobei einige Ausnahmen gelten, beispielsweise um gezielt nach einer vermissten Person zu suchen oder zur Verhinderung von unmittelbar bevorstehenden Terroranschlägen.

Diese Nutzung muss vorher durch ein Gericht genehmigt worden sein. Die Verordnung sieht ferner vor, dass die Mitgliedstaaten zur Überwachung und Kontrolle von Einsätzen der KI-Systeme geeignete Aufsichtsbehörden einrichten müssen. Die betroffenen Personen haben zudem das Recht, bei den zuständigen nationalen Behörden Beschwerden über den Einsatz derartiger KI-Systeme einzulegen.

Ich empfehle jedenfalls allen betroffenen Unternehmen, sich rechtzeitig und umfassend vorab über die zahlreichen Erfordernisse der KI-VO zu informieren.

Originalpublikation als PDF →

Weiterführend: KI und Investments: Orakel oder Widersacher?

Austromatisierung 2/2024 · Kolumne „Wenn’s recht ist“

Unzulässige Kreditbearbeitungsgebühren

Ursprünglich veröffentlicht 2024 · Mag. Nevena M. Shotekova-Zöchling

Der Verein für Konsumentenschutz (VKI) hatte die WSK Bank aufgrund einiger Klauseln, die sie ihren allgemeinen Geschäftsbedingungen zugrunde legt, geklagt. Konkret ging es um Klauseln wie u.a. die einmalige Bearbeitungsgebühr von 4% des Kreditbetrages, 75 Euro Erhebungsspesen, 15 Euro Überweisungsspesen, 25 Euro Porto- und Drucksorten-Kosten sowie 7 Euro Kontoführungsgebühr pro Quartal. Der VKI begehrte ein Verbot von derartigen Klauseln mit der – zusammengefassten – Begründung, dass diese gröblich benachteiligend für Kunden und zudem intransparent seien.

Das Berufungsgericht (OLG Wien) gab dem VKI mit Ausnahme der die Kontoführungsgebühren betreffenden Klausel, die es für zulässig hielt, recht. Die Bearbeitungsgebühr stelle keine kontrollfreie Hauptleistung dar, da sie in keiner Relation zum Bearbeitungsaufwand stehe und Tätigkeiten abgelte, die für den Vertragsabschluss ohnehin zwingend erforderlich seien. Die Erhebungsspesen, Überweisungsspesen und Kosten für Porto und Drucksorten seien auch intransparent, weil nicht klar sei, ob nur eine einmalige oder auch mehrfache Verrechnung in Betracht komme.

Der OGH bestätigte diese Entscheidung des OLG Wien mit folgender Argumentation: Betreffend die Kreditbearbeitungsgebühr würde auch der EuGH (C-565/21, Caixabank SA III) das Transparenzerfordernis betonen, und zwar unabhängig davon, ob derartige Gebühren als Haupt- oder bloße Nebenleistung zu qualifizieren sind. Im Hinblick auf den Schutz, den die Richtlinie 93/13/EWG dem Verbraucher gewährt, da er sich gegenüber dem Gewerbetreibenden in einer schwächeren Verhandlungsposition befindet, ist besonders wichtig, dass die Art der tatsächlich erbrachten Dienstleistungen anhand des Vertrags als Ganzes angemessen ist. Darüber hinaus müsse der Verbraucher in der Lage sein, zu überprüfen, ob sich verschiedene Entgelte oder damit vergütete Dienstleistungen nicht überschneiden.

Die vom VKI beanstandeten Klauseln verpflichten den Verbraucher nicht nur zur Zahlung einer Kreditbearbeitungsgebühr, sondern sehen auch weitere Entgelte in Form von Erhebungs- und Überweisungsspesen sowie Kosten für Drucksorten und Porto vor. Auch wenn man aus den Begriffen Erhebungsspesen, Überweisungsspesen und Kosten für Porto und Drucksorten die Art der verrechneten Leistung gemessen am Vertrag (noch) ableiten kann, wird im Hinblick darauf, dass diese Leistungen typischerweise bei einer Kreditaufnahme anfallen, unklar, welche konkrete, darüber hinausgehende Leistungs- bzw. Aufwandskategorie dann noch mit der Bearbeitungsgebühr abgegolten werden soll. Diese dient nämlich ebenso (pauschal) der Abgeltung der Tätigkeit und des Aufwands bei der Bearbeitung und Bereitstellung des Kredits und würde daher grundsätzlich auch die mit den Zusatzentgelten verrechneten Leistungen abdecken.

Inwieweit es daher zu Überschneidungen oder Doppelverrechnungen zwischen der Kreditbearbeitungsgebühr und den weiteren Entgelten kommt, lässt sich für Verbraucher nicht mehr ausreichend klar überprüfen und ist daher unzulässig. Zu den weiteren Klauseln Erhebungsspesen, Überweisungsspesen sowie Kosten für Porto und Drucksorten hielt der OGH zusammengefasst fest: Grundsätzlich sind Klauseln im »kundenfeindlichsten« Sinn auszulegen. Die Pflicht zur Vollständigkeit wird dann verletzt, wenn die Auswirkungen einer Klausel für den Kunden unklar bleiben.

Ziel des Transparenzgebots ist es, eine durchschaubare, möglichst klare und verständliche Formulierung Allgemeiner Vertragsbestimmungen sicherzustellen. Deshalb ist die Entscheidung des Berufungsgerichtes zu bestätigen, zumal es unklar bleibt, wie oft die Spesen verrechnet werden würden. Eine mehrfache Verrechnung ist nicht ausgeschlossen, da derartige Spesen auch nach Kreditvertragsabschluss noch auflaufen können und anders als bei der Bearbeitungsgebühr gerade nicht auf die Einmaligkeit hingewiesen wird.

Ich empfehle eine Überprüfung jedes Kreditvertrages auf derartige Entgelte, die noch 30 Jahre lang nach Abschluss des Kreditvertrages mitsamt 4% Zinsen zurückgefordert werden können.

Originalpublikation als PDF →

Weiterführend: Die Wohnung ist mit einer Hypothek belastet – wer regelt das?