BERICHT über die Rechte des geistigen Eigentums bei der Entwicklung von KI-Technologien

BEGRÜNDUNG

Künstliche Intelligenz (KI) ist ein Bereich der wissenschaftlichen Forschung, dessen Ursprung bis in die Mitte des 20. Jahrhunderts zurückreicht. Es wird ein ehrgeiziges Ziel verfolgt: zu verstehen, wie das menschliche kognitive System funktioniert, um es zu reproduzieren und so vergleichbare Entscheidungsprozesse zu schaffen. In den letzten Jahren hat für KI dank des Zusammentreffens einer hohen Rechenleistung, einer wesentlich größeren Anzahl von Datensätzen und leistungsfähiger Algorithmen eine neue Ära begonnen.

Diese neue Dynamik fördert die Entwicklung und den Einsatz von KI in vielen Bereichen. So kann beispielsweise die Analyse klinischer Proben automatisiert werden, und Ampelschaltungen können ohne menschliches Eingreifen an die Verkehrssituation angepasst werden. Das Innovationspotenzial dieser Technologie ist daher enorm, und die Europäische Union muss einen funktionierenden Rechtsrahmen für die Entwicklung einer europäischen KI schaffen sowie öffentliche Maßnahmen umsetzen, die den Herausforderungen gerecht werden, insbesondere im Hinblick auf die Ausbildung der Europäer und die finanzielle Unterstützung der angewandten Forschung und der Grundlagenforschung. Dieser Rahmen muss unbedingt Überlegungen zu den Rechten des geistigen Eigentums umfassen, um Innovation und Kreativität in diesem Bereich zu fördern und zu schützen.

Auch wenn über die Definition von KI noch diskutiert wird, dürfte Rechtssicherheit die notwendigen Investitionen in diesem Bereich in der EU ankurbeln. Daher muss eine gewisse Flexibilität bei der Rechtsetzung gefördert werden, um der vielgestaltigen Realität von KI Rechnung zu tragen und zukunftssicher (und für den weiteren technologischen Fortschritt gerüstet) zu sein.

Im Vorfeld muss zunächst eine Bewertung des Patentrechts im Lichte der Entwicklung der KI in Betracht gezogen werden. Patente schützen technische Erfindungen, d. h. Produkte, die eine neue technische Lösung für ein bestimmtes technisches Problem bieten. Auch wenn Algorithmen, mathematische Methoden und Computerprogramme als solche nicht patentierbar sind, können sie also Teil einer technischen Erfindung sein, die patentierbar ist. Für die Verbreitung der europäischen KI ist es von entscheidender Bedeutung, dass sich die Wirtschaftsakteure, insbesondere die europäischen Start-ups, dieser Chance bewusst sind.

Die beim Europäischen Patentamt registrierten Patentanmeldungen für Erfindungen, die unmittelbar die Funktionsweise der KI („KI-Kerntechnologien“) betreffen, haben sich im Laufe des Jahrzehnts mehr als verdreifacht: von 396 im Jahr 2010 auf 1 264 im Jahr 2017. Es ist jedoch anzumerken, dass es in einigen Drittstaaten mehr Anmeldungen gibt und dass in diesem strategisch wichtigen Bereich ein scharfer internationaler Wettbewerb herrscht.

KI wird auch von den Patentämtern genutzt, um die Erforschung des Stands der Technik zu erleichtern. In diesem Zusammenhang muss daran erinnert werden, dass die Technologie hilfreich ist, dass sie jedoch die Analyse eines menschlichen Prüfers bei der Erteilung von Rechten nicht ersetzen sollte. In Bezug auf Patente ist auch darauf hinzuweisen, dass die Komplexität der Argumente bestimmter KI-Technologien die Überprüfung der Übereinstimmung dieser Erfindungen mit den geltenden Vorschriften erschweren kann.

Im nachgelagerten Bereich kann die zunehmende Eigenständigkeit bestimmter Entscheidungsprozesse zu technischen oder künstlerischen Schöpfungen führen. Die Bewertung aller Rechte des geistigen Eigentums vor dem Hintergrund dieser Entwicklungen muss eine Priorität für diesen Bereich des Unionsrechts sein, um durch die Belohnung der Urheber ein günstiges Umfeld für die Entfaltung von Kreativität und Innovation zu schaffen. Die Rolle menschlicher Eingriffe ist bei der Programmierung von KI-gestützten Geräten, der Auswahl von Input-Daten und der Anwendung der erzielten Ergebnisse nach wie vor von entscheidender Bedeutung. Die Aussicht auf eine „starke“ KI, d. h. eine KI, die sich ihrer selbst bewusst ist, scheint immer noch sehr futuristisch.

Was das Urheberrecht betrifft, könnte die Voraussetzung der Originalität, durch die der Urheber dem Werk den Stempel seiner Persönlichkeit aufdrückt, ein Hindernis für den Schutz der durch KI erzeugten Schöpfungen darstellen. Hinsichtlich dieser Voraussetzung gibt es jedoch tendenziell eine Entwicklung hin zu einem objektiven Verständnis, das auf eine relative Neuheit abzielt, die es ermöglicht, das geschützte Werk von bereits geschaffenen Werken zu unterscheiden. Das gemeinsame Ziel der Schöpfung durch KI und der „traditionellen“ Schöpfung ist nach wie vor die Ausweitung des kulturellen Erbes, auch wenn die Schöpfung auf andere Weise erfolgt. Während es mehr Fälle künstlerischer Schöpfungen gibt, die durch KI entstanden sind (als Beispiel könnte das Bild „The Next Rembrandt“[12] angeführt werden, das nach der Digitalisierung von 346 Werken des Malers zur Verarbeitung durch KI entstand), wird mittlerweile offenbar eingeräumt, dass ein durch KI erzeugtes Produkt ein Kunstwerk sein kann, wenn man das kreative Ergebnis und nicht den kreativen Prozess zugrunde legt. Es sei auch darauf hingewiesen, dass ein fehlender Schutz der durch KI erzeugten Produkte deren Urheber ohne Rechte lassen könnte, da der Schutz durch das System der verwandten Schutzrechte das Bestehen eines Urheberrechts an dem Werk, das interpretiert wird, voraussetzt.

Daher wird vorgeschlagen, zu prüfen, ob es zweckmäßig ist, die Urheberrechte an einem solchen „Kunstwerk“ der natürlichen Person zuzuweisen, die es rechtmäßig erstellt und veröffentlicht, sofern der oder die Entwickler der zugrunde liegenden Technologien dieser Nutzung nicht widerspricht bzw. widersprechen. Dies entspräche dem gleichen Ansatz wie bei der europäischen Regelung zum Schutz von „Werksdaten“. Diese können als Trainingsdaten für KI-Technologien genutzt werden, die dann Sekundärschöpfungen, auch für gewerbliche Zwecke, erzeugen, sofern die Rechteinhaber eine solche Verwendung nicht ausdrücklich vorbehalten haben.

Schließlich stellen sich in Anbetracht der Schlüsselrolle von Daten und ihrer Auswahl bei der Entwicklung von KI-Technologien verschiedene Fragen in Bezug auf die Zugänglichkeit dieser Daten, insbesondere die Abhängigkeit von Daten, Lock-in-Effekte, die marktbeherrschende Stellung bestimmter Unternehmen und allgemein einen unzureichenden Datenfluss. Daher wird es wichtig sein, die gemeinsame Nutzung von in der Europäischen Union erzeugten Daten zu fördern, um Innovationen im Bereich der künstlichen Intelligenz anzuregen. Kurzfristig kann dies unter anderem durch die Umsetzung der Richtlinie über offene Daten und die Förderung der Nutzung von Lizenzverträgen erfolgen, um Anreize für die gemeinsame Nutzung von industriellen Daten zu schaffen. Mittelfristig ist der künftige Vorschlag der Kommission für einen allgemeinen Rechtsrahmen für die Verwaltung der gemeinsamen europäischen Datenräume von entscheidender Bedeutung, insbesondere für den Zugang zu sensiblen Datenbanken, wie beispielsweise im Gesundheitsbereich.

STELLUNGNAHME DES AUSSCHUSSES FÜR BINNENMARKT UND VERBRAUCHERSCHUTZ (9.7.2020)

für den Rechtsausschuss

zu den Rechten des geistigen Eigentums bei der Entwicklung von KI-Technologien

(2020/2015(INI))

Verfasser der Stellungnahme: Adam Bielan

VORSCHLÄGE

Der Ausschuss für Binnenmarkt und Verbraucherschutz ersucht den federführenden Rechtsausschuss, folgende Vorschläge in seinen Entschließungsantrag zu übernehmen:

1. weist erneut auf das Potenzial, das die künstliche Intelligenz (KI) birgt, hin, wenn es um innovative Dienstleistungen für Unternehmen, Verbraucher und den öffentlichen Sektor geht; betont die maßgebliche Rolle, die KI-Technologien bei dem digitalen Wandel der Wirtschaft in vielen Branchen etwa der Industrie, dem Gesundheitswesen, dem Bauwesen und dem Verkehrswesen einnehmen kann, woraus neue Geschäftsmodelle entstehen können; hebt hervor, dass sich die Union die Entwicklungen in diesem Bereich aktiv zu eigen machen muss, um den digitalen Binnenmarkt voranzubringen; hebt hervor, dass die Entwicklung und Verwendung von KI im Binnenmarkt von einem zuverlässigen, ausgewogenen und wirksamen System der Rechte des geistigen Eigentums profitieren wird; stellt fest, wie wichtig es ist, zwischen KI-gestützten Anwendungen bzw. Algorithmen, KI-erzeugten Technologien und Produkten, Datenbanken und Einzeldaten zu differenzieren, da sie unterschiedliche Formen von Rechten erfordern;

2. ist der Ansicht, dass bahnbrechende Technologien wie KI sowohl kleinen als auch großen Unternehmen die Möglichkeit bieten, marktführende Produkte zu entwickeln; vertritt die Auffassung, dass alle Unternehmen bzw. Eigentümer solcher Produkte einen gleichermaßen guten und wirksamen Schutz ihrer Rechte des geistigen Eigentums genießen sollten; ist der Ansicht, dass dies die Gründung europäischer kleiner und mittlerer Unternehmen (KMU) begünstigen und zu einem erheblichen Wettbewerbsvorteil in der Union führen kann; fordert eine Analyse der Auswirkungen, die missbräuchliche Praktiken von „Patent-Trollen“ und strategische Rechtsstreitigkeiten im Zusammenhang mit Rechten des geistigen Eigentums haben, die als eine künstliche Hürde für den Markteintritt wirken und etablierte Marktteilnehmer schützen können; weist auf den wichtigen Beitrag hin, den KI-Technologien zu einer transparenteren, effizienteren und verlässlicheren Handhabung von mit geistigem Eigentum verbundenen Aspekten von Transaktionen leisten;

3. betont, wie wichtig Maßnahmen und Informationskanäle sind, mit denen KMU und Start-up-Unternehmen geholfen wird, den Schutz von Rechten des geistigen Eigentums bei KI-Technologien erfolgreich zu nutzen; fordert die Kommission und die Mitgliedstaaten auf, Start-up-Unternehmen und KMU über das Binnenmarktprogramm und Zentren für digitale Innovation Unterstützung bei der Entwicklung und dem Schutz ihrer Produkte anzubieten und sie so in die Lage zu versetzen, ihr Potenzial im Hinblick auf Wachstum und die Schaffung von Arbeitsplätzen in Europa voll auszuschöpfen; betont, wie wichtig es ist, dass sich die Kommission und die Mitgliedstaaten bei der Entwicklung der KI um eine Abstimmung mit anderen wichtigen globalen Akteuren im Bereich der Rechte des geistigen Eigentums bemühen, um ein weltweit kompatibles Konzept zu entwickeln, das sowohl für KMU als auch für Start-up-Unternehmen von Vorteil wäre;

4. betont, wie wichtig es ist, die Rechte des geistigen Eigentums sowie auch Geschäftsgeheimnisse in jedwedem Regelungsrahmen für KI zu schützen, insbesondere was detaillierte Anforderungen an den begrenzten Anteil von als „hochriskant“ geltenden Anwendungen betrifft, und räumt gleichzeitig ein, dass diese mit der Anwendung anderer Ziele der öffentlichen Politik, darunter auch mit der Achtung der Grundrechte und Grundfreiheiten, in Einklang gebracht werden müssen; ist der Ansicht, dass die Rechtsvorschriften über Hinweisgeber wirksam umgesetzt werden müssen, um die Entwicklung einer auf den Menschen ausgerichteten, vertrauenswürdigen KI sicherzustellen;

5. betont, dass es neben dem Schutz der Rechte des geistigen Eigentums auch im Interesse der Verbraucher liegt, Rechtssicherheit bezüglich der gestatteten Verwendung geschützter Werke zu haben, insbesondere wenn es um komplizierte algorithmische Produkte geht; fordert die Kommission auf, Maßnahmen für die Rückverfolgbarkeit von Daten vorzuschlagen, wobei sowohl die Rechtmäßigkeit des Datenerwerbs als auch der Schutz von Verbraucher- und Grundrechten zu berücksichtigen ist;

6. ist der Ansicht, dass die Herausforderung im Hinblick auf die Bewertung von KI-Anwendungen die Entwicklung neuer Methoden und angemessene Verwaltungskapazitäten der Marktaufsichtsbehörden voraussetzt; stellt fest, dass adaptive Lernsysteme nach jeder Eingabe eine Neukalibrierung vornehmen, wodurch bestimmte Vorabangaben allein zwecklos werden;

7. ist der Ansicht, dass KI-Anwendungen, die zertifiziert werden, transparent und so weit wie möglich nachvollziehbar sein sowie ethischen Normen entsprechen sollten; stellt fest, dass dieses Ziel, wenn überhaupt, nicht allein durch die bloße Offenlegung des Algorithmus oder des Codes erreicht werden kann; weist darauf hin, dass in diesem Prozess auch Datensätze wichtig sind;

8. fordert die Kommission auf, Möglichkeiten zu prüfen, wie Produkte getestet werden können, etwa in modularer Weise oder mithilfe von Überprüfungsinstrumenten, die einen angemessenen Test von Produkten unter Wahrung der Vertraulichkeit ermöglichen, um die Geschäftsgeheimnisse der Inhaber von Rechten des geistigen Eigentums zu schützen;

ANGABEN ZUR ANNAHME IM MITBERATENDEN AUSSCHUSS

NAMENTLICHE SCHLUSSABSTIMMUNG IM MITBERATENDEN AUSSCHUSS

Erläuterungen:

+ : dafür

- : dagegen

0 : Enthaltungen

STELLUNGNAHME DES AUSSCHUSSES FÜR VERKEHR UND TOURISMUS (14.7.2020)

für den Rechtsausschuss

zu den Rechten des geistigen Eigentums bei der Entwicklung von KI-Technologien

(2020/2015(INI))

Verfasser der Stellungnahme: Andor Deli

VORSCHLÄGE

Der Ausschuss für Verkehr und Tourismus ersucht den federführenden Rechtsausschuss, folgende Vorschläge in seinen Entschließungsantrag zu übernehmen:

Einleitung

1. begrüßt die von der Kommission in ihren Mitteilungen vom 19. Februar 2020 sowie in ihrem Weißbuch zur Künstlichen Intelligenz – „Ein europäisches Konzept für Exzellenz und Vertrauen“ und in der europäischen Datenstrategie bekräftigten Ziele im Bereich der künstlichen Intelligenz (KI) und Daten; stellt jedoch fest, dass die Frage nach dem Schutz der Rechte des geistigen Eigentums im Zusammenhang mit der Entwicklung von KI-Technologien und verwandten Technologien ernster genommen werden muss;

2. betont, dass die Entwicklung und der Einsatz von KI-Technologien und verwandten Technologien eine Auseinandersetzung mit technischen, sozialen, wirtschaftlichen, ethischen und rechtlichen Fragen – unter anderem mit den Rechten des geistigen Eigentums – sowie bereichsübergreifenden Auswirkungen in unterschiedlichen Politikbereichen erforderlich machen und dass hier Antworten und Strategien auf europäischer Ebene gefunden werden müssen;

3. hebt hervor, dass die Entwicklung der KI und verwandter Technologien in den Bereichen Verkehr und Tourismus Innovation, Forschung, Mobilisierung von Investitionen und erhebliche wirtschaftliche, gesellschaftliche, ökologische, öffentliche und sicherheitstechnische Vorteile mit sich bringen und gleichzeitig die Branche für kommende Generationen attraktiver machen und neue Beschäftigungsmöglichkeiten und nachhaltigere Geschäftsmodelle schaffen wird, dadurch jedoch keine Beeinträchtigungen oder Schäden für die Menschen und die Gesellschaft entstehen dürfen;

4. nimmt den globalen Wettbewerb zwischen Unternehmen und Wirtschaftsregionen bei der Entwicklung von KI-Lösungen für den Verkehrssektor zur Kenntnis; betont, dass die internationale Wettbewerbsfähigkeit der europäischen Unternehmen, die im Verkehrssektor tätig sind, gestärkt werden muss, indem in der EU ein für die Entwicklung und den Einsatz von KI-Lösungen förderliches Umfeld geschaffen wird; hebt zudem hervor, dass KI – sowohl im städtischen als auch in ländlichen Raum – auch in allen Verkehrsmitteln eingesetzt werden sollte, was einen ganzheitlichen, technologieneutralen und flexiblen Ansatz erforderlich macht, damit alle Herausforderungen in den Bereichen Verkehr und Mobilität auf geeignete Weise bewältigt werden;

5.  bekräftigt, dass die Festlegung eines geeigneten Rechtsrahmens auf EU-Ebene für Rechte des geistigen Eigentums für Innovationen in den Bereichen KI und Konnektivität sowie für den Zugang zu und die Sicherheit von Daten von entscheidender Bedeutung für die Entwicklung und reibungslose, sichere und allgemeine Verbreitung von KI-Technologien in den Verkehrs- und Tourismusökosystemen sein wird;

6.  ist der Auffassung, dass sich die Strategien zum Schutz der Rechte des geistigen Eigentums im Laufe der Zeit im Zuge der Entwicklung der KI ständig weiterentwickeln werden und dass es notwendig sein wird, Fragen wie die Anpassung an diese sich verändernden Umstände durch flexible Regeln für Urheberrecht, Patentschutz, Schutz von Marken und Mustern oder sogar Geschäftsgeheimnisse zu berücksichtigen und zu prüfen, wie Innovatoren die umfassendsten und zuverlässigsten Mittel zum Schutz der Rechte des geistigen Eigentums zur Verfügung gestellt werden können, die Rechtssicherheit gewähren und dabei neue Investitionen in private Unternehmen, Universitäten, KMU und Cluster fördern, die auf die öffentlich-private Zusammenarbeit zurückgreifen, um Forschung und Entwicklung zu fördern;

7. fordert die Kommission auf, die sieben Kernanforderungen zu berücksichtigen, die in den Leitlinien der hochrangigen Expertengruppe genannt und von ihr in ihrer Mitteilung vom 8. April 2019[13] in allen Rechtsvorschriften über KI begrüßt wurden, und sie ordnungsgemäß umzusetzen;

8. erkennt an, dass es in zunehmendem Maße erforderlich ist, KI-Technologien und verwandte Technologien in Systemen zur Fernerkennung und zur biometrischen Erkennung einzusetzen, etwa bei Kontaktnachverfolgungs-Apps in der Verkehrs- und Tourismusbranche, die eine neue Möglichkeit für den Umgang mit COVID-19 und anderen möglichen künftigen Gesundheits- oder Sanitärkrisen bieten, wobei der Schutz der Grundrechte sowie der Privatsphäre und der personenbezogenen Daten berücksichtigt werden muss;

Rechte des geistigen Eigentums und KI-Innovationen

9. stellt fest, dass der derzeitige fragmentierte Rechtsrahmen für Rechte des geistigen Eigentums und die Rechtsunsicherheit die Entwicklung von KI-Technologien und verwandten Technologien im Verkehr beeinträchtigen; fordert die Kommission daher auf, die Eignung ihrer Regelungen zum Schutz des geistigen Eigentums für die Entwicklung von KI-Technologien zu bewerten und nach einer gründlichen Analyse und Überprüfung der geltenden Rechtsvorschriften die Legislativvorschläge vorzulegen, die sie als notwendig erachtet, um für Vertrauen, Rechtssicherheit und Transparenz zu sorgen und so Investitionen in diese Technologien zu fördern;

10. stellt fest, dass mithilfe von KI zwar große Mengen an Daten bezüglich der Rechte des geistigen Eigentums verarbeitet werden können, dass KI jedoch den Menschen nicht ersetzen kann, wenn es um die Gewährung von Rechten des geistigen Eigentums und die Feststellung der Haftung bei Verletzungen der Rechte des geistigen Eigentums geht;

11. stellt fest, dass in Bezug auf die Nutzung von Daten durch KI die Nutzung urheberrechtlich geschützter Daten vor dem Hintergrund der in der Richtlinie über das Urheberrecht und verwandte Schutzrechte im digitalen Binnenmarkt vorgesehenen Ausnahmen in Bezug auf die Text- und Datenauswertung sowie vor dem Hintergrund aller Nutzungen, für die Einschränkungen des Rechts an geistigem Eigentum und Ausnahmen davon gelten, zu bewerten ist;

12. fordert die Kommission auf, die Möglichkeit und die Relevanz der Erlangung von Patenten für Software oder Algorithmen für Unternehmen – auch für KMU – zu prüfen, um sowohl den Innovationsschutz als auch die für vertrauenswürdige KI erforderliche Transparenz zu gewährleisten, sowie Algorithmen öffentlich zugänglich zu machen; hebt hervor, dass für gleiche Wettbewerbsbedingungen für diese Unternehmen gesorgt und dass das Wettbewerbsrecht geachtet werden muss;

13. ist sich voll und ganz der Tatsache bewusst, dass Fortschritte im Bereich der KI mit öffentlichen Investitionen in die Infrastruktur, dem Ausbau der digitalen Kompetenzen und erheblichen Verbesserungen der Konnektivität einhergehen müssen, sowie mit Interoperabilität, um ihre volle Wirkung zu entfalten; betont daher die Bedeutung sicherer und nachhaltiger 5G-Netze für die vollständige Einführung von KI-Technologien, vor allem aber die notwendigen Arbeiten auf der Ebene der Infrastruktur und deren Sicherheit in der gesamten Union; nimmt die hohe Zahl der Patentanmeldungen im Verkehrssektor im Bereich KI zur Kenntnis; bringt seine Besorgnis darüber zum Ausdruck, dass dies zu massiven Rechtsstreitigkeiten führen könnte, die der gesamten Branche schaden werden und auch die Verkehrssicherheit beeinträchtigen könnte, wenn nicht umgehend auf europäischer Ebene die dringend erforderlichen Rechtsvorschriften im Zusammenhang mit der Entwicklung von KI-bezogenen Technologien erlassen werden;

14. weist darauf hin, dass standardessenzielle Patente (SEP) eine Schlüsselrolle bei der Entwicklung und Verbreitung neuer KI-Technologien und verwandten Technologien und der Gewährleistung der Interoperabilität spielen; fordert die Kommission auf, die Entwicklung branchenübergreifender Normen und formaler Standardisierung zu fördern; verweist in diesem Zusammenhang auf die Mitteilung der Kommission vom 29. November 2017 über die Lizenzierung von standardessenziellen Patenten und die von ihr festgelegten Grundprinzipien für Transparenz in SEP, nämlich faire, angemessene und nicht diskriminierende Lizenzierung und Durchsetzung (FRAND); weist insbesondere auf SEP hin, mit denen die Barrierefreiheit, die Sicherheit im Straßenverkehr und die Sicherheit für die Verkehrsnutzer verbessert werden können;

Rechte des geistigen Eigentums und Daten

15. begrüßt die Bereitschaft der Kommission, dafür zu sorgen, dass Daten unter uneingeschränkter Einhaltung der allgemeinen Datenschutzverordnung der EU und sonstiger strenger Datenschutzvorschriften erhoben und verwendet werden; betont, dass die Daten der europäischen Bürger weiterhin geschützt werden müssen, ist jedoch der Ansicht, dass ein ausgewogenes Verhältnis zwischen den Vorschriften zum Datenschutz und den Vorschriften zum Schutz des geistigen Eigentums erforderlich ist, um den Innovatoren von KI die notwendige Flexibilität zu gewähren;

16. begrüßt das Ziel der Kommission, einen einheitlichen europäischen Datenraum mit Investitionen in Normen, Instrumente und Infrastruktur zu schaffen; unterstützt insbesondere die Schaffung eines gemeinsamen europäischen Raums für Mobilitätsdaten, wobei der bestehende europäische Rechtsrahmen für den Datenschutz zu berücksichtigen ist;

17. fordert die Kommission auf, die Frage im Zusammenhang mit dem Schutz von Daten und geistigem Eigentum angemessen und umgehend anzugehen und entsprechende Legislativvorschläge vorzulegen, wobei für faire und angemessene Flexibilität und die Einhaltung des Grundsatzes der Technologieneutralität zu sorgen ist, auch indem sie Initiativen für den Austausch bewährter Verfahren auf den Weg bringt und in die Forschung in diesem Bereich investiert;

18. begrüßt die künftige Schaffung eines flexiblen und wirksamen Rechtsrahmens für die Verwaltung gemeinsamer europäischer Datenräume sowie die Bereitschaft der Kommission, die gemeinsame Nutzung von Daten zwischen Unternehmen und Regierung sowie zwischen Unternehmen untereinander zu fördern und den obligatorischen Zugang zu Daten unter FRAND-Bedingungen auf die Fälle zu beschränken, in denen dies aufgrund besonderer Umstände erforderlich ist; betont, dass des wichtig ist, dass alle Akteure im Mobilitätsbereich Zugang zu fahrzeuggenerierten Daten erhalten, damit die Entwicklung innovativer datengesteuerter Dienste gefördert wird;

19. fordert die Kommission auf, dem Zugang von KMU und Clustern zu Daten, die ihre Tätigkeit ankurbeln könnten, sowie der Förderung der Forschungsprogramme von Technologiezentren und Universitäten besondere Aufmerksamkeit zu widmen;

20. unterstützt die Bereitschaft der Kommission, die wichtigsten Akteure des verarbeitenden Gewerbes – Hersteller von Verkehrsmitteln, KI-Innovatoren und Innovatoren im Bereich Konnektivität, Dienstleister in der Tourismusbranche, und andere an der Wertschöpfungskette in der Automobilbranche Beteiligte – aufzufordern, sich auf die Bedingungen zu einigen, unter denen sie bereit wären, ihre Daten weiterzugeben;

ANGABEN ZUR ANNAHME IM MITBERATENDEN AUSSCHUSS

NAMENTLICHE SCHLUSSABSTIMMUNG IM MITBERATENDEN AUSSCHUSS

Erklärung der benutzten Zeichen:

+ : dafür

- : dagegen

0 : Enthaltung

STELLUNGNAHME DES AUSSCHUSSES FÜR KULTUR UND BILDUNG (3.9.2020)

für den Rechtsausschuss

zu den Rechten des geistigen Eigentums bei der Entwicklung von KI-Technologien

(2020/2015(INI))

Verfasserin der Stellungnahme: Sabine Verheyen

VORSCHLÄGE

Der Ausschuss für Kultur und Bildung ersucht den federführenden Rechtsausschuss, folgende Vorschläge in seinen Entschließungsantrag zu übernehmen:

1. weist darauf hin, dass künstliche Intelligenz (KI) und damit zusammenhängende Technologien im weiteren Sinne im Dienst der Menschheit stehen und dass ihre Vorteile umfassend und unterschiedslos geteilt werden sollten; betont, dass die KI eine sich ständig verändernde Sammlung von Technologien ist, die mit großer Geschwindigkeit entwickelt werden, und dass sie, da sie nach und nach immer mehr Aufgaben erfüllen kann, die üblicherweise von Menschen ausgeführt werden, auf lange Sicht in einigen Bereichen sogar die menschliche intellektuelle Kapazität übertreffen kann; betont daher die Notwendigkeit, angemessene Sicherheitsvorkehrungen zu treffen, darunter, wenn angemessen, Entwurfsysteme mit Kontroll- und Überprüfungsprozessen mit Beteiligung des Menschen („human-in-the-loop“), Transparenz und Verifizierung von KI-Entscheidungen; erkennt an, dass Schaffende im Kultur- und Kreativbereich bereits in großem Umfang neue KI-Technogien zur Herstellung ihrer Werke nutzen;

2. betont, dass die Union eine wesentliche Rolle bei der Festlegung von Grundprinzipien für die Entwicklung, den Einsatz, die Programmierung und die Nutzung von KI spielen sollte, ohne ihren Fortschritt oder den Wettbewerb zu behindern, insbesondere in den Vorschriften und Verhaltenskodizes der Union; weist darauf hin, dass Richtlinie (EU) 2019/790 einen Rechtsrahmen für die Nutzung urheberrechtlich geschützter Werke in Verfahren des Text und Data Mining bietet, die bei allen Prozessen im Zusammenhang mit KI von zentraler Bedeutung sind; bekräftigt daher seine Forderung, dass der Zugriff auf jedes genutzte Werk rechtmäßig erfolgen muss und dass Rechteinhabern das Recht garantiert werden muss, die Nutzung ihrer Werke in einem KI-bezogenen Prozess ohne ihre Einwilligung vorsorglich zu unterbinden; betont auch die Notwendigkeit eines ethischen Rahmens und einer ethischen Strategie für digitale Daten, die erforderlichenfalls mit Rechtsvorschriften einhergehen, in denen die Grundrechte und die Werte der Union verankert sind;

3. unterstreicht, wie wichtig es ist, KI in Schulen und Universitäten einzusetzen und es ihnen dadurch zu ermöglichen, neue und effizientere Lernmethoden einzuführen, mit denen die Erfolgsquoten der Schülerinnen und Schüler und Studierenden gesteigert werden; hält es für geboten, die Verankerung von KI in Lehrplänen zu fördern, um Schülerinnen, Schüler und Studierende beim Erlangen des für die Arbeitsplätze der Zukunft erforderlichen Know-hows zu unterstützen; betont, dass KI-Technologien für Bildungs- und Forschungszwecke allgemein verfügbar sein sollten;

4. unterstreicht, dass der offene und gleichberechtigte Zugang zu KI in der gesamten Union und innerhalb der Mitgliedstaaten von allerhöchster Wichtigkeit ist; betont, dass die Unterstützung der Union für Innovation und Forschung im Bereich KI in der gesamten Union flächendeckend verfügbar sein sollte; hebt hervor, dass KI-Entwicklern und Bezugsberechtigten aus Gruppen benachteiligter und behinderter Menschen besondere Unterstützung zuteil werden sollte;

5. ist der Ansicht, dass für Entwickler und Nutzer von KI Beratungs- und Begleitangebote in Bezug auf den Schutz von Rechten des geistigen Eigentums weithin zur Verfügung stehen sollten;

6. weist darauf hin, dass KI nicht nur Tätigkeiten ausüben kann, die früher ausschließlich von Menschen durchgeführt werden konnten, sondern durch Erfahrungslernen oder Lernen durch Verstärkung auch autonome und kognitive Merkmale erwerben und entwickeln kann; weist mit Nachdruck auf den Begriff der Verantwortung in Bezug auf KI-Systeme hin, die zu Lernen durch Verstärkung in der Lage sind; betont, dass trainierte KI-Systeme sozusagen autonom kulturelle und kreative Werke schaffen und erzeugen können, wobei nur ein Mindestmaß an menschlicher Beteiligung erforderlich ist; stellt darüber hinaus fest, dass sich KI-Systeme in unvorhersehbarer Weise entwickeln können, indem sie Originalwerke schaffen, die selbst ihren ursprünglichen Programmierern unbekannt sind, eine Tatsache, die ebenfalls berücksichtigt werden sollte, wenn ein Rahmen für den Schutz der aus solchen Werken abgeleiteten Verwertungsrechte geschaffen wird; weist jedoch darauf hin, dass die KI den schöpferischen Geist des Menschen unterstützen und nicht ersetzen sollte;

7. stellt fest, dass KI-Systeme softwarebasiert sind und auf einer Analyse ihrer Umgebung gestütztes intelligentes Verhalten zeigen; unterstreicht, dass diese Analyse auf statistischen Modellen gründet, die zwangsläufig fehlerhaft sind, bisweilen mit Feedbackschleifen, die schon bestehende Verzerrungen, Fehler und Annahmen replizieren, verstärken und verlängern; stellt fest, dass sichergestellt werden muss, dass Systeme und Methoden vorhanden sind, die es ermöglichen, Algorithmen zu verifizieren und zu erklären und eventuelle Probleme zu lösen;

8. ist der Ansicht, dass Rechte des geistigen Eigentums (IPR) für die Entwicklung von KI-Technologien von den IPR für KI-generierte Inhalte unterschieden werden sollten; betont, dass unnötige rechtliche Hindernisse für die Entwicklung von KI beseitigt werden müssen, um das Potenzial dieser Technologien in Kultur und Bildung freizusetzen;

9. betont, dass Fragen des Urheberrechts im Zusammenhang mit kulturellen und kreativen Werken, die von KI erzeugt wurden, angegangen werden müssen; betont, dass menschliches Schaffen als Autor und Erzeuger von Werken die Grundlage für das System der Rechte des geistigen Eigentums bilden muss (IPR); stellt darüber hinaus fest, dass der Frage, inwieweit das von der KI geschaffene Werk auf einen menschlichen Urheber zurückgeführt werden kann, zentrale Bedeutung zukommt; weist darauf hin, dass geprüft werden muss, ob es so etwas wie eine „ursprüngliche Schöpfung“ gibt, die kein menschliches Eingreifen erfordert; ist der Ansicht, dass gründliche Untersuchungen erforderlich sind, um zu verstehen, ob die automatische Übertragung des Urheberrechts an KI-generierten Werken an den Inhaber des Urheberrechts der KI-Software, des KI-Algorithmus oder des KI-Programms der beste Weg ist, da ein Mensch als Urheber eines neuen kreativen Werkes anerkannt werden muss; begrüßt die Forderung der Kommission nach einer Studie über Urheberrecht und neue Technologien;

10. ist besorgt über das potenzielle Vakuum zwischen den Rechten des geistigen Eigentums und der Entwicklung der KI, wodurch die Kultur- und Kreativbranche sowie der Bildungsbereich anfällig für von KI geschaffene urheberrechtlich geschützte Werke werden könnten; ist besorgt über mögliche Verletzungen der Rechte des geistigen Eigentums und betont die Notwendigkeit, auftretendes Marktversagen oder Schäden zu überwachen; fordert die Kommission auf, einen horizontalen, faktengestützten und technologieneutralen Ansatz für gemeinsame, einheitliche Urheberrechtsbestimmungen für KI-generierte Werke in der Union zu unterstützen, der deren Wachstum steigern und auch Investitionen des Privatsektors in die technologische und wirtschaftliche Entwicklung des KI- und Robotiksektors anziehen würde;

11. nimmt die Entwicklung der KI-Kapazitäten bei der Verbreitung von Fehlinformationen und der Schaffung von Desinformationen zur Kenntnis; ist besorgt, dass dies zu zahlreichen Verstößen gegen die Rechtsvorschriften über geistiges Eigentum führen könnte, und ist darüber hinaus äußerst besorgt über die Möglichkeit einer Massenmanipulation von Bürgern, die zur Destabilisierung von Demokratien benutzt werden könnte; fordert in diesem Zusammenhang die Stärkung der Medien- und Informationskompetenz, die dem digitalen Wandel Rechnung tragen muss; fordert, den Schwerpunkt auf die Entwicklung von Software zur Überprüfung von Fakten und Informationen zu legen;

12. weist darauf hin, dass Daten das zentrale Element in der Entwicklung und im Training eines jeden KI-Systems sind; betont, dass dazu strukturierte Daten wie Datenbanken, urheberrechtlich geschützte Werke und andere den Schutz des geistigen Eigentums genießende Schöpfungen gehören, die üblicherweise nicht als Daten betrachtet werden; unterstreicht daher, dass es auch wichtig ist, sich mit dem Begriff der für geistiges Eigentum relevanten Verwendungen auseinanderzusetzen, die im Zusammenhang mit dem Einsatz von KI-Technologien stehen;

13. weist darauf hin, dass der wirksamste Weg, Verzerrungen in KI-Systemen zu verringern, darin besteht, für die Verfügbarkeit eines möglichst großen Datenbestands zu sorgen, um die Systeme zu trainieren; weist daher darauf hin, dass keine unnötigen Hemmnisse für Text und Data Mining geschaffen werden dürfen und die grenzübergreifende Nutzung erleichtert werden sollten;

14. betont, dass das geltende Urheberrecht in Fällen, in denen KI nur als Werkzeug zur Unterstützung eines Autors im Schaffungsprozess verwendet wird, ohne Berücksichtigung des Beitrags der KI weiterhin auf das geschaffene Werk Anwendung findet;

15. empfiehlt, dass spezielle Sicherheitsfunktionen und -regeln eingeführt werden, um Datenschutzrechte durch KI-Technologien zu schützen; betont, dass Datenschutz-Audits von KI-Technologien zwingend vorgeschrieben werden sollten;

16. erinnert ferner daran, dass mit der Reform des Urheberrechts der Union eine Ausnahme für Text und Data Mining eingeführt wurde, der zufolge wissenschaftliche Forschung von einer freien Datennutzung profitieren kann, und dass Text und Data Mining für andere Zwecke im Rahmen der neuen Ausnahme ebenfalls zulässig ist, wenn weitere Voraussetzungen erfüllt werden;

17. betont, dass KI auch ein wirksames Mittel sein kann, um das Vorhandensein urheberrechtlich geschützter Online-Inhalte zu erkennen und zu melden; betont auch, dass die Frage der Haftung für Urheberrechtsverletzungen und andere Verstöße im Bereich des geistigen Eigentums durch KI-Systeme sowie die Frage des Dateneigentums angegangen werden muss; betont jedoch, dass deutlich zwischen eigenständigen Rechtsverletzungen und der Vervielfältigung von Werken Dritter, die durch den Betreiber der KI-Software ermöglicht oder nicht verhindert wurde, unterschieden werden muss; unterstreicht, dass die Nachverfolgbarkeit eine unerlässliche Voraussetzung für die Zuweisung der Haftung ist, sofern sie es ermöglicht, einerseits einen Rechtsbehelf einzulegen und andererseits Fehlfunktionen zu erkennen und zu beheben;

18. betont die Bedeutung von Transparenz und Rechenschaftspflicht bei der Verwendung von Algorithmen durch Streaming-Dienste, um den Zugang zu kulturellen und kreativen Inhalten in verschiedenen Formen und verschiedenen Sprachen sowie einen fairen Zugang zu europäischen Werken besser sicherzustellen;

19. weist darauf hin, dass die Union ethisch verpflichtet ist, Entwicklung weltweit durch die Förderung grenzübergreifender Zusammenarbeit im Bereich KI zu unterstützen, auch durch Beschränkungen und Ausnahmen für Forschung und Text und Data Mining über Landesgrenzen hinweg; fordert daher nachdrücklich dazu auf, internationale Maßnahmen im Rahmen der Weltorganisation für geistiges Eigentum zu beschleunigen;

20. erkennt an, dass für die EU aufgrund des technologischen Fortschritts einiger Staaten eine grundlegende Verpflichtung besteht, mithilfe diverser Instrumente, darunter Investitionen in die Forschung in allen Mitgliedstaaten, die Teilhabe an den Vorteilen der KI zu fördern;

ANGABEN ZUR ANNAHME IM MITBERATENDEN AUSSCHUSS

NAMENTLICHE SCHLUSSABSTIMMUNG IM MITBERATENDEN AUSSCHUSS

Erläuterungen:

+ : dafür

- : dagegen

0 : Enthaltungen

ANGABEN ZUR ANNAHME IM FEDERFÜHRENDEN AUSSCHUSS

NAMENTLICHE SCHLUSSABSTIMMUNG IM FEDERFÜHRENDEN AUSSCHUSS

Erklärung der benutzten Zeichen:

+ : dafür

- : dagegen

0 : Enthaltung