Die EU übernimmt bei der Regulierung von KI eine Vorreiterrolle: Der AI Act ist das umfassendste KI-Gesetz der Welt. Die EU-Regierung in Brüssel arbeitet seit 2021 an dem Gesetz. Das KI-Gesetz wird KI-Anwendungen in Risikoklassen einteilen: Je riskanter die KI, desto strenger die Gesetze. Aber ist das wirklich in allen Fällen gerechtfertigt? Wir wollen den aktuellen Stand des KI-Gesetzes und vor allem die Rolle der Werbeindustrie genauer unter die Lupe nehmen. Wurde sie falsch eingestuft?
Die EU AI Act Risikoklassifizierung
Anfang Dezember 2023 haben die Mitgliedstaaten der Europäischen Union und die Mitglieder des Europäischen Parlaments eine politische Einigung über das KI-Gesetz erzielt. Es wurde vereinbart, zwischen Anwendungen mit geringem, begrenztem, hohem und inakzeptablem Risiko zu unterscheiden. Die Details werden jetzt ausgearbeitet. Aber so viel steht bereits fest:
KI-Systeme zur gezielten Massenmanipulation oder zur Unterdrückung von Menschenrechten, wie etwa Social-Scoring-Systeme, gelten als unannehmbares Risiko und sind komplett verboten.
KI-Anwendungen zur Bewertung von Bewerbern, zum Kreditscoring, zum autonomen Fahren oder zur medizinischen Diagnostik gelten als Hochrisikoanwendung. An die Anbieter werden strenge Anforderungen gestellt, wie z.B. Risiko- und Qualitätsmanagementsysteme, Datenmanagement, menschliche Aufsicht, Führung der erforderlichen technischen Dokumentation und vieles mehr.
Chatbots, manipulierte Bild-, Audio- oder Videoinhalte (Deepfakes) und personalisierte Werbung gelten als begrenzt riskant, solange sie die Transparenzanforderungen erfüllen. Diese Mindestanforderungen an die Transparenz ermöglichen es den Nutzern, informierte Entscheidungen zu treffen. Die Nutzer sollten darauf hingewiesen werden, wenn sie mit KI interagieren.
Das Minimale Risiko umfasst alle anderen KI-Systeme, die nicht in die oben genannten Kategorien fallen. Für diese Systeme gibt es keine Einschränkungen oder verbindlichen Verpflichtungen, aber freiwillige Maßnahmen, die allgemeinen Grundsätzen wie Nichtdiskriminierung und Fairness folgen, werden empfohlen.
Manipulation durch Werbung - ein begrenztes Risiko?
Die Klasse "hohes Risiko" bezieht sich auf KI-Anwendungen, die für die Grundrechte und das Wohlergehen der Menschen sehr gefährlich sind. Eines ist klar: Um in diesen Bereichen bestmögliche und vor allem sichere Ergebnisse zu erzielen, müssen bestimmte Regeln eingehalten werden. Aber muss dann nicht auch die Werbeindustrie als hochriskant eingestuft werden?
KI-gestützte Werbetechnologien können mit Hilfe von Algorithmen das Verhalten von Konsumentinnen und Konsumenten analysieren und gezielt steuern. Durch die genaue Analyse von Nutzerdaten können Werbetreibende personalisierte Inhalte erstellen, die darauf abzielen, Emotionen und Verhalten zu manipulieren. KI kann auch eingesetzt werden, um irreführende oder falsche Informationen in Werbeanzeigen einzublenden. Dies kann die Verbraucher irreführen und ihre Fähigkeit beeinträchtigen, informierte Entscheidungen zu treffen. KI kann eingesetzt werden, um personalisierte Inhalte zu erstellen, die suchtartiges Verhalten verstärken. Dies gilt insbesondere für Plattformen, die darauf ausgelegt sind, die Aufmerksamkeit der Nutzer zu maximieren und sie zur wiederholten Nutzung zu animieren. Um diesen Gefahren zu begegnen, muss der AI Act möglicherweise Regeln und Standards für den ethischen Einsatz von KI in der Werbeindustrie festlegen, einschließlich Transparenzregeln, Datenschutzbestimmungen und Maßnahmen zur Verhinderung von Manipulation. Reichen Informationen über den Einsatz von KI wirklich aus, um informierte Entscheidungen zu treffen? Ein schmaler Grat.
Letztlich bleibt zu hoffen, dass sich diejenigen Anbieter durchsetzen, die KI wirklich wertschöpfend einsetzen. Auch wenn der AI Act noch nicht endgültig verabschiedet ist, können Unternehmen bereits jetzt damit beginnen, Risiken abzuschätzen und ein entsprechendes Management aufzubauen. Wer KI entwickelt, sollte sich mit grundlegenden ethischen Fragen auseinandersetzen.
Um mehr darüber zu erfahren, was die Änderungen durch das KI-Gesetz für Start-ups wie IQONIC.AI bedeuten, lesen Sie diesen Artikel von The Pioneer.
Comentarios