Auch wenn die Entwicklung Künstlicher Intelligenz (KI) rasant und vielerorts unkontrolliert vonstatten geht: Es gibt rechtliche Regeln. KI tangiert das Urheberrecht, Datenschutz und Persönlichkeitsschutz, aber das ist noch nicht alles. Friederike Michael, Referentin Digital Content & Recht beim Digitalverband Bitkom beantwortet für bürgerAktiv die wichtigsten Fragen.

Vorbemerkung: Grundsätzlich hängt immer viel von den Details des Einzelfalls ab. Wir können keine Rechtsberatung geben, aber eine allgemeine generelle Einschätzung liefern. Im Zweifelsfall bietet es sich für Vereine und Verbände an, den speziellen eigenen Fall mit externer Expertise prüfen zu lassen.

Muss ich kennzeichnen, wenn ich Texte, Bilder, Videos oder Audios mit KI generiere?
Für Nutzerinnen und Nutzer von generativer KI gibt es derzeit keine grundsätzliche rechtliche Verpflichtung, KI-generierten Output als solchen zu kennzeichnen. Nach Art. 50 der KI-Verordnung haben aber Generative KI-Systeme (z.B. ChatGPT) in einem maschinenlesbaren Format erkennbar zu machen, dass ein Inhalt künstlich erzeugt ist. Das heißt, diese Kennzeichnungspflicht, die ab dem 2. August 2026 gilt, ist durch die Anbieter und Betreiber der KI-Systeme umzusetzen. Der von Nutzerinnen und Nutzern generierte Output wird damit bereits (technisch) gekennzeichnet sein und diese Kennzeichnung ist nicht zu manipulieren.

Sind Bilder, Texte, Videos oder Audios, die ich mit KI generiere, urheberrechtlich geschützt oder dürfen Andere sie kopieren?
Der sogenannte Output ist urheberrechtlich nicht geschützt. Das Urheberrecht schützt „persönliche, geistige Schöpfungen“ und setzt damit ein menschliches Handeln voraus. Das heißt auch, dass andere einen solchen Output kopieren dürfen.
Allerdings kann der Output unter Umständen je nach weiterer Verwendung über die sogenannten Leistungsschutzrechte geschützt werden (zum Beispiel nach Fixierung auf einem Tonträger über das Tonträgerherstellerrecht).

Ab wann ist ein bearbeiteter KI-Text oder ein bearbeitetes KI-Bild ein eigenständiges menschliches Werk mit entsprechenden Urheberschutz?
Dies kann dann der Fall sein, wenn die Nutzerin oder der Nutzer die KI lediglich als technisches Hilfsmittel nutzt. Dann kann nach Urheberrechtsgesetz eine persönliche, geistige Schöpfung vorliegen. Hierfür ist die menschliche Eingabe maßgeblich, also die Frage, inwiefern eine Person in besonderem Maße (über das einfache Prompten hinaus) steuernd tätig wird. Das lässt sich leider nicht so einfach definieren und wird im Zweifelsfall in der Entscheidung von Gerichten liegen.

Darf ich Werke anderer Urheber in KI-Tools laden, um sie analysieren, zusammenfassen oder übersetzen zu lassen und diese Bearbeitung dann veröffentlichen?
Das Hochladen geschützten Materials in ein KI-Tool, das nicht isoliert – zum Beispiel vollständig auf dem eigenen Computer – läuft, ist unter Umständen unzulässig. Wenn die Server des KI-Anbieters das eingegebene Material nicht löschen, sondern speichern, veranlasst man eine urheberrechtliche Vervielfältigungshandlung, die unzulässig ist. Man sollte sich also informieren, was die genutzten KI-Tools mit den Daten machen. Das faktische Haftungsrisiko bleibt jedoch gering, da eine Rückverfolgung nicht ohne Weiteres möglich ist.

Darf ich Bilder, die andere Menschen zeigen, in KI hochladen und dort bearbeiten?
Wenn die abgebildeten Menschen identifizierbar sind, handelt es sich um die Verarbeitung personenbezogener Daten. Außerhalb des rein privaten Bereichs findet die europäische Datenschutz-Grundverordnung (DS-GVO) Anwendung, also auch bei Vereinen oder Verbänden. Dann ist eine entsprechende Rechtsgrundlage zur Bearbeitung der Daten erforderlich, wie man das auch für die Nutzung von solchen Bildern zum Beispiel für Social Media kennt.
Beim bearbeiteten Ergebnis sind zudem gegebenenfalls die Persönlichkeitsrechte der abgebildeten Person zu beachten: man darf zum Beispiel eine Person nicht in einer fiktiven, degradierenden Situation darstellen. Hierbei sind die Grenzen zur zulässigen Satire zu beachten. Das betrifft allerdings nicht nur KI-generierte Inhalte, sondern auch wenn man Bilder mit klassischen Tools selbst bearbeitet oder verändert.

Darf ich Daten von anderen Menschen mit KI verwalten, beispielsweise Bewerbungen, Anträge, Mitgliederdaten, Spenderdaten?
Auch hier liegen personenbezogene Daten vor. Eine solche Verwaltung ist nur unter Wahrung der Anforderungen der DS-GVO möglich. Es kann nötig sein, als Verantwortlicher einen Auftragsdatenverarbeitungsvertrag mit dem KI-Anbieter abzuschließen, wenn dieser im Auftrag des Verwenders die Daten bearbeitet. Unter Umständen kann auch eine Datenschutz-Folgeabschätzung erforderlich werden.

Hafte ich, wenn ich KI generierten Content verwende, der gegen Gesetze verstößt oder plagiiert?
Ja. Bei der Verwendung KI generierten Contents, der zum Beispiel ein klar wiedererkennbares, urheberrechtlich geschütztes Werk darstellt, haftet man aufgrund der Rechtsverletzung. Das ist unabhängig davon, ob das Training der KI durch den Anbieter mit dem urheberrechtlich geschützten Material erfolgen durfte oder nicht.

Hafte ich, wenn die KI-Bilder, Texte, Töne Dritter, die ich hochgeladen habe, weitergibt bzw. andernorts verwendet?
Wenn der Input geschützt ist und keine Einwilligung vorliegt, haftet man grundsätzlich für die Veranlassung der unzulässigen Vervielfältigung. Wenn dann aber anderswo der Output in hoher Ähnlichkeit wieder verwendet wird, dürfte der jeweilige Verwender verantwortlich sein.

Muss ich dulden, wenn Bücher, Broschüre, Fotos von mir bzw. meiner Organisation zum Training von KI-Modellen verwendet wird? Kann ich das verhindern oder Gebühren dafür verlangen?
Das KI-Training an sich ist über die sogenannte „Text und Data Mining Schranke“ abgedeckt und nicht vergütungspflichtig. Bei Material, das online veröffentlicht wurde, muss wirksam ein maschinenlesbarer Hinweis gesetzt werden, dass einer Verwendung zum Training widersprochen wird (Opt-Out). Dann darf ein Crawler eines KI-Anbieters, der die Daten für das Training der Künstlichen Intelligenz zusammenträgt, meine Daten nicht abrufen. Bei Verstößen können lizenzrechtliche Ansprüche bestehen. Die Durchsetzbarkeit solcher Ansprüche dürfte jedoch schwierig sein, zum Beispiel auch wenn die Identität des Verwenders verdeckt ist oder im Ausland sitzt.

Der Beitrag ist Teil des Fokus Künstliche Intelligenz – Trends, Praxis, Grenzen der bürgerAktiv – Nachrichten für Engagierte April 2025 der Stiftung Aktive Bürgerschaft.

Foto: Bitkom