Medienanwalt Carsten Ulbricht erklärt im AllSocial-Interview die wichtigsten Punkte zur KI-Verordnung der EU und dem Urheberrecht.
Am 12. September wird er auch bei uns in Berlin auf der #ASMC-Bühne sein und über aktuelle Rechtsthemen wie „Threads“ sprechen. Er wird uns erklären, warum es Threads noch nicht in Deutschland gibt und voran es auf rechtlicher Seite hapert. Seid mit dabei!
Last-Minute-Tickets für die AllSocial Marekting-Conference gibt es noch HIER unter diesem LINK.
KI-Verordnung der EU: Was haben wir zu erwarten? Und wann?
Carsten Ulbricht: Die KI-Verordnung (oder englisch auch AI Act) ist von der Europäischen Union noch nicht final beschlossen worden. Aktuell werden noch verschiedene Änderungsvorschläge diskutiert.
Derzeit ist davon auszugehen, dass die KI-Verordnung noch dieses Jahr beschlossen und dann mit einer Umsetzungsfrist von ein oder zwei Jahre gelten wird. Man kann nach derzeitigem Stand also davon ausgehen, dass die Vorgaben der KI-Verordnung ab Ende 2024 bzw. Ende 2025 zu beachten sind.
AI Act ist auch für Nutzer*innen relevant
Relevant ist dies nicht nur für die Anbieter von KI-Systemen, sondern auch für Nutzer, die ebenfalls konkrete Vorgaben beachten müssen.
Dabei verfolgt die KI-Verordnung einen risikobasierten Ansatz, nach dem die konkreten Anforderungen davon abhängen, ob man ein
- Verbotenes System
- Hochrisikoystem
- System mit geringem Risiko
anbieten oder einsetzen möchte.
Für sogenannte Hochrisikosystemen werden umfassende technische und organisatorische Standards, hohe Anforderungen an die Data Governance und die jeweilige Dokumentation der Anbieter wie auch der Nutzer gestellt. Bei KI-Systemen mit geringen Risiken sind lediglich bestimmte Kennzeichnungspflichten zu beachten.
Die Anforderungen, die die noch nicht beschlossene KI-Verordnung zukünftig an die Anbieter und Nutzer von KI-Systemen stellt, hängt stark von der Risikokategorie ab, in die das angebotene oder eingesetzte System fällt. Angesichts der erheblichen Bußgeldrisiken von 6% des Jahresumsatzes sollten Unternehmen sich frühzeitig damit auseinandersetzen, in welche Kategorie das angebotene oder eingesetzte KI-System fällt und welche Anforderungen insofern umzusetzen sind.
Deine Einschätzung: Was wäre die ideale „Regulierungswelt“: Wie viel sollte reguliert werden, wie viel sollte Grauzone bleiben?
Carsten Ulbricht: Die Frage ist schwierig zu beantworten. Einerseits sollten die den rechtliche Rahmen in der EU so ausgestalten, dass auch beim einsatz von KI unsere Grundwerte und Grundrechte gewahrt bleiben. Andererseits bergen zu „enge“ Vorgaben das Risiko, die weitere Entwicklung dieser Zukunftstechnologien in Europa „abzuwürgen“. Gegebenenfalls würden die besten Technologien dann wohl in Asien und den USA entstehen.
Insofern ist der Ansatz der EU, Systeme mit höheren Risiken eher streng zu regulieren und Systemen mit geringerem Risiko mehr Gestaltungs- und Entwicklungsspielraum zu belassen.
Haftung für KI in der KI-Verordnung nicht abgebildet
Gleichwohl muss man sagen, dass der derzeitige Entwurf der KI-Verordnung viele zentrale Fragen (wie z.B. den Umgang mit sog Multi-Purpose-KI) nicht sinnvoll adressiert bzw. löst. So ist auch das Thema Haftung für KI in der KI-Verordnung nicht abgebildet und soll eher durch die KI-Haftungsrichtlinie gelöst werden. Der weitere Gesetzgebungsprozess sollte daher auf jeden Fall weiter aufmerksam beobachtet werden.
Urheberrecht und KI: Wie kann ich mich hier als Unternehmen oder Personal Brand aufstellen, um die eigenen Daten zu schützen?
Carsten Ulbricht: Urheberrechtliche Fragen spielen nicht nur bezüglich der Eingaben in KI-Systemen (sog. Input) eine Rolle, sondern auch bezüglich der Verwendung der Ausgaben (sog. Output).
Um Muster und Korrelationen zu erkennen, muss das KI-System zunächst mit einer möglichst großen Menge von Daten (sog. Trainingsdaten) trainiert werden. Die Anbieter von KI-Systemen haben daher schon bei der Erstellung des KI-Systems sicherzustellen, dass der Verwendung der jeweiligen Trainingsdaten keine Urheberrechte entgegenstehen. Exemplarisch sei hier ChatGPT angeführt. Der Anbieter OpenAI hat das KI-System mit im Internet verfügbaren Textbeiträgen Dritter trainiert. Die Schrankenregelung des §44b UrhG erlaubt, dies nach deutschem Recht, soweit der Inhaber der Rechte an den Texten (also z.B. der Webseitenbetreiber) der entsprechenden Verwendung nicht in maschinenlesbarer Form widersprochen hat.
Anbieter von KI-Systemen sollten also stets sicherstellen, dass der Verwendung der jeweiligen Trainingsdaten keine Rechte Dritter entgegenstehen. Umgekehrt sollten diejenigen, die eigene Texte, Bilder oder andere Inhalte auf eigenen Webseiten im Internet veröffentlichen, für sich entscheiden, ob das „Auslesen“ der eigenen Inhalte durch KI-Systemen weiter erlaubt werden soll. Andernfalls sollte der vorgesehene Nutzungsvorbehalt in maschinenlesbarer Form auf der eigenen Webseite in der sog. robots.txt hinterlegt werden.
Nutzer von KI-Systemen, die derzeit primär als SaaS-Plattform im Internet angeboten werden, sollten sicherstellen, dass die eigenen Eingaben im Einklang mit dem Urheberrecht stehen. Während die Eingabe eigener Werke des Nutzers (also z.B. Texte, Bilder, Videos) in aller Regel urheberrechtlich unproblematisch, kann die Eingabe von Texten Dritter (also z.B. von Kunden oder Lizenzgebern) zu urheberrechtlichen Problemen führen. Diese potentiellen Risiken resultieren daraus, dass die meisten KI-Systeme den Input zum eigenen Training verwenden. Hierfür sollte sich der jeweilige Nutzer vorher die notwendigen Rechte zur Eingabe in KI-Systeme einräumen lassen, wenn dort (auch) Werke Dritter eingegeben werden können sollen.
Meistens mangels „menschlicher Schöpfung“ urheberrechtsfrei
Zentral ist für die meisten Nutzer von KI-Systemen aber, ob sie den jeweiligen Output, also z.B. einen mit ChatGPT erstellten Text, zulässigerweise verwenden können oder ob hier Urheberrecht entgegenstehen könnte. Grundsätzlich ist zu sagen, dass Werke (z.B. Texte, Bilder oder Videos), die von einem KI-System erstellt worden sind, nach den meisten nationalen Rechtsordnungen mangels „menschlicher Schöpfung“ grundsätzlich urheberrechtsfrei sind. Damit könnten die jeweiligen KI-werke also rechtlich unbedenklich verwendet werden. In diesen Fällen verbleibt lediglich ein Restrisiko, dass das KI-generierte werke wesentliche Teile eines Werkes eines Menschen enthält. Während dieses Risiko bei KI-generiertem Texten verschwindend gering ist, können relevante Restrisiken – je nach Eingabe und jeweils geltendem nationalen Recht – bei anderen Werken (z.B. KI-generierte Bilder oder Software) nicht gänzlich ausgeschlossen werden. Bei Verwendung entsprechender KI-Werkzeuge, die z.B. Software erstellen, sollten zur Reduzierung ebendieser Risiken Prüfprozesse eingeführt werden, die diese Risiken vor Verwendung der jeweiligen Werke reduzieren (siehe dazu auch ChatGPT & Co – Urheberrecht bei Werken der Künstlichen Intelligenz (KI)).
Disclaimer: Dieser Text stellt keine Rechtsberatung dar und ist auch nicht als solche zu verstehen. Die Informationen dienen lediglich zur Orientierung.
