Wird Künstliche Intelligenz im beruflichen oder privaten Kontext genutzt, greifen bei der Verarbeitung personenbezogener Daten die Vorgaben der Datenschutz-Grundverordnung (DSGVO). Das betrifft etwa persönliche Daten, Informationen über Mitarbeitende oder E-Mails. Da viele Cloud-basierte KI-Anbieter eingegebene Daten standardmäßig speichern und zum weiteren Modelltraining verwenden, stellt das Senden von sensiblen, personenbezogenen Daten an externe Server oft einen datenschutzrechtlichen Verstoß dar. Um die DSGVO einzuhalten, müssen Anwender*innen darauf achten, dass eine Rechtsgrundlage (z. B. eine Einwilligung der Betroffenen oder ein berechtigtes Interesse) vorliegt, Daten möglichst anonymisiert oder pseudonymisiert werden und Verträge zur Auftragsverarbeitung (AVV) mit den KI-Anbietern bestehen. Viele kommerzielle Dienste bieten mittlerweile spezielle Enterprise- oder API-Versionen an, bei denen zugesichert wird, dass die Inputs nicht zum Training verwendet und nur DSGVO-konform verarbeitet werden. 


 

Nicht nur personenbezogene Daten sind schützenswert, sondern auch sensible, kreative und wissenschaftliche Inhalte. Wer unveröffentlichte Manuskripte, Forschungsergebnisse, Quellcode oder Design-Entwürfe in öffentlich zugängliche KI-Tools eingibt, läuft Gefahr, dass diese Daten auf externen Servern gespeichert und im schlimmsten Fall zum Training künftiger Modelle verwendet werden. Dadurch kann wertvolles geistiges Eigentum unabsichtlich an Dritte weiter gereicht werden. Um dies zu verhindern, sollten für kreative und wissenschaftliche Arbeitsprozesse ausschließlich geschützte Umgebungen genutzt werden. Eine Möglichkeit Bilder vor KI Training zu schützen bietet das sogenannte „Data Poisoning“. Ein Artikel mit Informationen und Tools befindet sich hier: Link

Nach dem aktuellen Urheberrechtsgesetz (UrhG) (Link) sind diejenigen verantwortlich, die das Werk erstellt haben, oder / und es ( bspw. auf ihrer Webseite) veröffentlichen. Wer mithilfe einer KI gewaltverherrlichende oder andere illegale Motive, Videos oder Audio-Botschaften produziert und / oder teilt, kann rechtlich dafür belangt werden. Ein Urheberrecht an einem KI generierten Bild oder Song existiert nur dann, wenn die KI im schöpferischen Prozess eine untergeordnete Rolle gespielt hat. Der eigene Prompt ist dafür bisher nicht ausreichend. Das bedeutet, dass mit KIs wie Dall-E, Midjourney oder Stable Diffusion oder auch Musik-Generatoren wie Suno generierte Werke urheberrechtlich nicht geschützt sind. Die Frage, wie man einen ausreichenden schöpferischen Prozess nachweisen kann, ist noch nicht geklärt.

Durch KI generierte Bilder, Videos oder Audio-Deepfakes die real existierende Menschen zeigen oder deren Stimmen imitieren (Voice-Cloning) müssen immer als KI generiert gekennzeichnet werden. Mit dem EU AI Act wird diese Transparenzpflicht für KI-generierte Medien künftig sogar gesetzlich verankert, um Desinformation zu vermeiden. Verschiedene Anbieter*innen von KI haben zur Frage der Kennzeichnungspflicht unterschiedliche Regelungen, die beachtet werden sollten. Meistens reicht es, den bzw. die Anbieter*in der Software unter dem Werk zu benennen. 


 

KI-Modelle benötigen Millionen von Bildern, Videos, Texten und Audio-Dateien , um zu funktionieren. Der Datensatz, auf dessen Basis Stable Diffusion trainiert wurde, umfasst bspw. mehr als 5,8 Milliarden Verweise auf Bilder und deren Beschreibungen. Diese Bilder stammen aus dem Internet, gesammelt von sogenannten “Crawlern”. Diese durchsuchen das Internet und sammeln große Mengen an Daten und deren Beschreibungen, um sie als Rohmaterial für das Training von KI-Modellen zu nutzen. Unter diesen Inhalten sind nicht nur allgemeine Inhalte, sondern auch sensible, personenbezogene Daten wie Nacktbilder und Bankinformationen oder urheberrechtlich geschützte Werke von Gestalter*innen und Kreativen . Das Training von KI-Anwendungen mit den Bilddateien individueller Künstler*innen ermöglicht es der Allgemeinheit, sogenannte “Mimikrys”, also Nachbildungen des spezifischen Stils der*des Künstler*ins zu erstellen. 

Eigene Bilder zu schützen ist durch sogenanntes “Data Poisoning” möglich. Einen Artikel zu zwei Tools zum Schutz der eigenen Bilder befindet sich hier: Link 

Der Trainingssatz von Stable Diffusion ist einer der wenigen, die öffentlich zugänglich sind. Unter der  Webseite haveibeentrained.com (Link) kann der Datensatz danach durchsucht werden, ob eigene Fotos oder Werke darin verwendet wurden. Der AI-Act der Europäischen Union ist ein erster Schritt in die Richtung, die Offenlegung der Trainingsdaten von KI Modellen für alle Anbieter*innen verpflichtend zu machen. (Stand 2024)

• Wer eigene Modelle trainieren will, sollte entweder nur eigene Bilder, Videos und Audio-Dateien nutzen oder sich das Einverständnis der Urheber*innen besorgen. Auch ist es möglich, Werke zu nutzen, die dies durch eine Lizenz erlauben (bspw. CC Lizenzen)
• Durch KI generierte Bilder und Musikstücke sind meistens urheberrechtsfrei. Dennoch haben verschiedene KI-Dienste eigene Regeln, was die Nutzung von generierten Werken betrifft - daher sollten die Richtlinien der jeweiligen Anbieter geprüft werden.
• Wer  sich in KI-generierten Inhalte auf bereits existierende Werke, wie Bilder, Filme, Romane oder bekannte Melodien bzw. fiktive Charaktere bezieht, können das Urheberrecht der ursprünglichen Schöpfer*innen verletzen. Dabei gilt jedoch die “pastiche Schranke”: Parodien, Karikaturen und Pastichen (bspw. Hommage oder Satire) sind erlaubt, auch wenn sie sich auf urheberrechtlich geschützte Werke beziehen
• Das Klonen einer echten menschlichen Stimme berührt nicht nur das Urheberrecht, sondern das allgemeine Persönlichkeitsrecht ("Recht am eigenen Wort" und "Recht an der eigenen Stimme"). Für die Nachbildung realer Stimmen ist zwingend die Einwilligung der jeweiligen Person erforderlich.