Verbrauchergruppe fordert EU auf, „generative KI-Risiken“ dringend zu untersuchen

Die europäischen Regulierungsbehörden stehen an einem Scheideweg darüber, wie die KI – und letztendlich die kommerzielle und nichtkommerzielle Nutzung – in der Region reguliert werden soll, und heute bezieht die größte Verbrauchergruppe der EU, BEUC, ihre eigene Position: Hören Sie auf, langsamer zu werden, und leiten Sie dringende Untersuchungen ein die Risiken. Generative Künstliche Intelligenz“ jetzt.

Generative KI wie ChatGPT hat den Verbrauchern alle möglichen Möglichkeiten eröffnet, es bestehen jedoch ernsthafte Bedenken darüber, wie diese Systeme Menschen täuschen, manipulieren und schädigen können. „Sie können auch zur Verbreitung von Fehlinformationen, zur Aufrechterhaltung bestehender Vorurteile, die die Diskriminierung verstärken, oder zum Betrug genutzt werden“, sagte die stellvertretende Generaldirektorin des BEUC, Ursula Paschl, in einer Erklärung. „Wir fordern die Sicherheits-, Daten- und Verbraucherschutzbehörden auf, jetzt Untersuchungen einzuleiten und nicht tatenlos auf alle Arten von Schäden für Verbraucher zu warten, bevor sie Maßnahmen ergreifen. Diese Gesetze gelten für alle Produkte und Dienstleistungen, unabhängig davon, ob sie mit KI betrieben werden oder nicht, und für Behörden.“ muss sie umsetzen.“

BEUC, der Verbraucherorganisationen in 13 Ländern der Europäischen Union vertritt, gab den Aufruf zeitgleich mit einem heute veröffentlichten Bericht eines seiner Mitglieder, Forbrukerrådet in Norwegen, heraus.

Dieser norwegische Bericht ist in seiner Position eindeutig: KI fügt den Verbrauchern Schaden zu (der Titel des Berichts sagt alles: „Geist in der Maschine: Adressierung von Verbraucherschäden durch generative KI“) und wirft mehrere problematische Fragen auf.

Während einige Technologen Alarmglocken läuten, weil KI ein Werkzeug zur Ausrottung der Menschheit ist, geht es in der Debatte in Europa deutlicher um die Auswirkungen von KI in Bereichen wie fairer Zugang zu Dienstleistungen, Fehlinformationen und Wettbewerb.

Darin wird zum Beispiel hervorgehoben, wie „einige KI-Entwickler, darunter große Technologieunternehmen“, Systeme vor externer Kontrolle abschotten, was es schwierig macht, zu wissen, wie Daten gesammelt werden oder Algorithmen funktionieren; Die Tatsache, dass einige Systeme genauso oft falsche Informationen wie korrekte Ergebnisse liefern, wobei die Benutzer oft nicht die geringste Ahnung haben, was das sein könnte; Künstliche Intelligenz, die darauf abzielt, Benutzer in die Irre zu führen oder zu manipulieren; das Problem der Voreingenommenheit basierend darauf, welche Informationen in ein bestimmtes KI-Modell eingespeist werden; und Sicherheit, insbesondere wie KI als Waffe eingesetzt werden kann, um Menschen auszutricksen oder Systeme zu durchbrechen.

Obwohl die ChatGPT-Version von OpenAI KI und ihre Zugänglichkeit in das öffentliche Bewusstsein gerückt hat, ist der Fokus der EU auf die Auswirkungen von KI nicht neu. Er erwähnte, im Jahr 2020 erneut über „Risikothemen“ zu sprechen, obwohl diese ersten Bemühungen als Grundlage für ein zunehmendes „Vertrauen“ in die Technologie dienten.

Im Jahr 2021 ging es konkreter um „risikoreiche“ KI-Anwendungen, und etwa 300 Organisationen haben sich zusammengeschlossen, um ein vollständiges Verbot einiger Formen der KI zu fordern.

Die Stimmung ist im Laufe der Zeit wichtiger geworden, da die Europäische Union ihre Gesetze auf Gebietsebene umsetzt. Letzte Woche sprach EU-Wettbewerbschefin Margrethe Vestager konkret darüber, dass KI bei der Anwendung in sensiblen Bereichen wie Finanzdienstleistungen wie Hypotheken und anderen Kreditanträgen das Risiko einer Verzerrung birgt.

Ihre Kommentare kamen, nachdem die Europäische Union ihr eigenes formelles Gesetz zur künstlichen Intelligenz verabschiedet hatte, das KI-Anwendungen vorübergehend in Kategorien wie „inakzeptabel“, „hohes Risiko“ und „begrenztes Risiko“ einteilt und eine breite Palette von Kriterien abdeckt, um zu bestimmen, in welche Kategorie sie fallen.

Wenn das KI-Gesetz umgesetzt wird, wird es der weltweit erste Versuch sein, eine Art rechtliches Verständnis und die Durchsetzung dessen zu kodifizieren, wie KI kommerziell und nichtkommerziell genutzt werden kann.

Der nächste Schritt in diesem Prozess besteht darin, dass die EU mit den einzelnen EU-Staaten zusammenarbeitet, um die endgültige Form des Gesetzes festzulegen – insbesondere um festzulegen, was (und wer) in seine Kategorien passt und was nicht. Die Frage wird sein, wie einfach es für verschiedene Nationen ist, zusammenzupassen. Sie fügte hinzu, dass die Europäische Union diesen Prozess bis Ende dieses Jahres abschließen wolle.

„Es ist von entscheidender Bedeutung, dass die Europäische Union dieses Gesetz so wasserdicht wie möglich macht, um die Verbraucher zu schützen“, sagte Paschl in ihrer Erklärung. Alle KI-Systeme, einschließlich der generativen KI, bedürfen einer öffentlichen Kontrolle, und die Behörden müssen die Kontrolle über sie wiedererlangen. Der Gesetzgeber sollte verlangen, dass die Ergebnisse jedes Produktions-KI-Systems für Verbraucher sicher, fair und transparent sind.“

BEUC ist dafür bekannt, in kritischen Momenten einzugreifen und wirkungsvolle Entscheidungen zu treffen, die letztendlich die Richtung widerspiegeln, die die Regulierungsbehörden einschlagen. Er war beispielsweise einer der ersten, der sich gegen Google in den langjährigen Kartelluntersuchungen gegen den Such- und Mobilfunkgiganten äußerte, und mischte sich jahrelang ein, bevor er gegen das Unternehmen vorging. Dieses Beispiel verdeutlicht jedoch noch etwas anderes: Die Debatte über KI und ihre Auswirkungen sowie die Rolle, die Regulierung dabei spielen könnte, dürfte sich noch lange hinziehen.