Ist Künstliche Intelligenz legal?

Künstliche Intelligenz (KI) bzw. Artificial Intelligence (AI) ist derzeit in aller Munde. Auch wenn das erste Interesse an ChatGPT, Dall-E, Midjourney, Copilot, Fireflies oder Superhuman - um nur ein paar bekannte zu nennen - inzwischen schon merkbar abgeflaut ist und lt. Gartner Hype Cycle noch vielen KI Technologien das Tal der Tränen erst bevorsteht. Dennoch ist eine Zukunft ohne massive und disruptive Änderungen durch KI undenkbar.

Dementsprechend oft wird für neue oder bestehende Software gefordert, dass diese KI Funktionalitäten enthalte, um z.B. einen Teil der Aufgaben der Benutzer zu übernehmen. Doch was kaum wer bedenkt: Sind KI Funktionalitäten auch legal und Stand der Technik?

Zunächst müssen bei der Betrachtung der Legalität von KI die oft bespochenen Urheberrechtsfragen geklärt werden. Dazu zählen insbesondere die folgenden 3 Fragen:

1. Nutzungsrecht der Trainingsdaten: Dürfen die für das Training der KI verwendeten Daten auch dafür genutzt werden?
2. Bearbeitungsrecht: Ist die Schöpfungshöhe der Unterscheidungen von den Trainingsdaten genügend um als eigene Schöpfung zu gelten oder benötigt man ein Bearbeitungsrecht?
3. Urheberrecht des Outputs: Wer ist Urheber und somit Rechteinhaber des Outputs der KI?

Darüber hinaus gibt es aber noch weitere rechtliche Fragen, die beim Einsatz der KI oft missachtet werden:

• Ist die Sammlung und Verknüpfung der Trainingsdaten ("Data-Mining") legal? Personenbezogene Daten bzw. Informationen über das Verhalten der Benutzer sind beispielsweise aus daten- und arbeitnehmerschutzrechtlichen Gründen diesbezüglich problematisch.
• Ist das in der KI vorhandene, aus den Daten intelligent abgeleitete Wissen legal? Beispielsweise muss eine KI neu trainiert werden, wenn das Recht auf Vergessenwerden auf die Trainingsdaten angewandt wird.
• Ist das Ergebnis der KI legal? Was wenn die KI "haluziniert" - also Informationen als Ergebnis liefert, die nicht stimmen, rufschädigend sind oder Gesetze verletzen? Was wenn die KI für Deepfakes verwendet wird, da können Persönlichkeitsrechtsverletzungen und ebenfalls Rufschädigungen entstehen.
• Ist es überhaupt legal die KI einzusetzen? Das ist nicht nur im Ausbildungsbereich bei z.B. Hausaufgaben oder Prüfungen fraglich, sondern auch bei Dienstleistungen, wo Kunden vielleicht darauf vertrauen, dass die Dienstleistung von einem Menschen erbracht wird.
• Ist die bei KIs übliche Nicht-Nachvollziehbarkeit, wie sie zu ihren Antworten kommt legal? "Die KI hat entschieden/erkannt dass X, kann aber nicht sagen, wie sie auf X gekommen ist" ist in vielen Branchen nicht ausreichend für eine Erklärung.
• Was, wenn die Ergebnisse der KI fehlerhaft oder nicht gut genug sind? Wer kommt z.B. für den Schaden auf, wenn die KI eine gefälschte Unterschrift als korrekt identifiziert? Ab wieviel % derartiger false-positives gilt eine KI als "nicht gut genug"?

Auch hinsichtlich der Frage, ob KI Funktionalitäten dem Stand der Technik entsprechen, gibt es jede Menge Punkte, die beachtet werden müssen. Näheres dazu im nächsten Blogpost "Ist Künstliche Intelligenz am Stand der Technik?".