Die Vision bezieht sich ausdrücklich auf generative KI, d. h. sie umfasst KI-Modelle, die eigene Inhalte generieren (i. d. R. sog. Multi-Purpose-AI-Modelle).
Zunächst betont die AP den wachsenden Einfluss generativer KI-Systeme auf den Alltag der Menschen sowie auf die Arbeitswelt. Mehr als 10 Prozent der Menschen nutzen allein den KI-Dienst ChatGPT von OpenAI. Die Systeme würden nach einer Zeit der Stagnation immer präziser werden und so ihr Einsatzspektrum vergrößern; gleichzeitig steige die persönliche sowie wirtschaftliche Abhängigkeit. Dies könne zu erheblichen negativen Auswirkungen auf die Gesellschaft führen:
Vor diesem Hintergrund werden von der AP 4 Szenarien beschrieben, wie sich der Einsatz generativer KI in Europa entwickeln könnte:
- Im „Wild-West-Szenario“ wird ein Europa beschrieben, in dem zwar in hohem Maße KI-Systeme eingesetzt werden, jedoch eine schwache EU-Gesetzgebung zu einem unregulierten Markt geführt hat, in dem die Rechte des Einzelnen nur unzureichend gewahrt werden. Es wird ein dystopisches Bild einer von Misstrauen geprägten Gesellschaft gezeichnet, in der das Vertrauen in die Politik erodiert ist, KI-Bots viele Tätigkeiten ersetzt haben und große Tech-Firmen enorme Macht besitzen.
-
In dem Szenario der „missed opportunities“ trifft eine schwache EU-Regulierung auf Misstrauen der Nutzer sowie einen insgesamt reduzierten Einsatz von KI. Europa spielt auf dem Markt für generative KI keine Rolle, die Nutzung ist eingeschränkt, Spezialwissen ist nur unzureichend vorhanden und Start-ups wandern aus Europa ab. Die EU wird abgehängt, die Wirtschaft schrumpft.
- Im dritten Szenario „in the bunker“ führt eine starke und funktionierende EU-Gesetzgebung zwar dazu, dass die Gefahren durch KI für die europäische Bevölkerung effektiv eingedämmt werden (Deepfakes, Beeinflussung, Jobverlustdurch KI), jedoch werden nur wenige KI-Systeme eingesetzt, die ausländischen Modellen zudem stark unterlegen sind. Aufgrund einer einschneidenden Gesetzgebung werden europäische sowie außereuropäische Anbieter davon abgeschreckt, ihre Systeme in der EU zu vertreiben und an lokale rechtliche Gegebenheiten anzupassen. Infolgedessennimmt die Attraktivität der europäischen Wirtschaft ab; es kommt zu erheblichen Standort- sowie Effizienznachteilen. Eine schrumpfende Wirtschaft birgt Gefahren für Freiheits- sowie Menschenrechte.
- Das von der AP favorisierte Szenario „values at work“ ist eines, in dem eine effektive EU-Gesetzgebung zu einem großflächigen, aber gleichzeitig wirksam regulierten Einsatz wertebasierter KI-Tools führt und diese zu nützlichen Werkzeugen für die Menschen in Europa werden. Die zunächst als verhindernd wahrgenommene strenge Regulierung hat zu einem europäischen Standortvorteil geführt, der sich in einem hohen Maß an Vertrauen sowie Innovation niederschlägt. Dabei ist eine DSGVO-konforme Nutzung der KI-Systeme möglich; es findet eine für den Menschen nützliche Integration in alle Lebensbereiche statt, die ihm zum Vorteil gereicht.
Die AP geht auf die aktuell maßgeblichen Regelungsregime ein:
Die DSGVO, durch die ein höchstmögliches Maß an Schutz der individuellen Rechte bezweckt wird, sowie den AI Act, der ein sektorspezifisches Regelungsinstrumentarium zur effektiven Regulierung von KI-Systemen darstellt. Dieser soll die Entwicklung vertrauenswürdiger KI-Systeme in der EU fördern sowie klare und einschneidende rechtliche Regelungen – abhängig von dem jeweils von dem spezifischen KI-System ausgehenden Risiko – einführen.
Von der Konzeptionsphase an soll die Beachtung der Regeln eine entscheidende Rolle bei der Entwicklung einnehmen, um gesetzeskonforme Systeme auf den Markt zu bringen.
Um das „values at work“-Szenario Wirklichkeit werden zu lassen, formuliert die AP Charakteristika auf zwei Ebenen:
I. Auf gesellschaftlicher Ebene bedarf es insbesondere folgender Entwicklungen:
- Europäische digitale Autonomie: Die EU muss fähig sein, die Technologie unabhängig von externem Druck zu lenken und eigene verantwortungsvolle Anbieter zu fördern.
- Wissen und Resilienz: Die breite Gesellschaft muss ein grundlegendes Verständnis für KI aufbauen („AI literacy“), um realistische Erwartungen zu haben und die Technologie kritisch hinterfragen zu können. Dies gilt gleichermaßen für die Judikative und die Legislative.
- Demokratische Steuerung: Öffentliche Diskurse und demokratische Prozesse müssen die Richtung vorgeben.
- Funktionierender Markt für verantwortungsvolle Lösungen: Monopole müssen verhindert werden. Interoperabilität soll es Nutzern erleichtern, zwischen Diensten zu wechseln und "Lock-in"-Effekte zu vermeiden.
- Korrekturfähigkeit: Schwachstellen oder illegale Ergebnisse (wie persönliche Daten in einem Modell) müssen nachträglich entlang der gesamten KI-Kette korrigiert werden können (z. B. durch „Machine Unlearning“).
II. Auf Anwender- bzw. Unternehmerseite sind folgende Punkte von besonderer Relevanz:
- Offenheit und Transparenz: Nutzer müssen stets wissen, dass sie mit einer KI interagieren. Nur durch Transparenz kann Vertrauen entstehen.
- Risiken identifizieren und mindern: Vor dem Einsatz muss eine gründliche Risikobewertung, einschließlichethischer und rechtlicher Fragen, stattfinden. Diese Fragen müssen während der gesamten Entwicklung im Vordergrund stehen.
- Klarer Zweck: Die Anwendung darf nur für genau definierte Zwecke genutzt werden. Die Mitarbeitenden müssen die Grenzen des Systems kennen.
- Kontrolliertes Management: Die Daten und das Systemumfeld müssen unter der eigenen Kontrolle bleiben (z. B. durch private Cloud-Lösungen oder lokale Modelle).
- Rechtmäßigkeit: Die strikte Einhaltung aller Gesetze (DSGVO, AI Act) ist in der gesamten Entwicklungskette zwingend erforderlich.
Um diese Vision voranzutreiben, will die AP aktiv Hilfestellung leisten, indem sie als Ansprechpartnerin für Entwickler zur Verfügung steht, Leitlinien und Überlegungen veröffentlicht und eine Sandbox bzw. ein Reallabor bereitstellt.Gleichzeitig wird weiterhin nach potenziellen Rechtsverstößen im Bereich generativer KI gesucht, um eine sichere Umgebung zu schaffen.