China war das erste Land der Welt, das begonnen hat, künstliche Intelligenz per Gesetz einzuschränken, gefolgt von der Europäischen Union, die der zweite ist, der einen echten Versuch unternimmt. Das KI-Gesetz ist das Ergebnis jahrelanger harter Arbeit, und von nun an werden Maßnahmen in Kraft treten, die den Missbrauch von KI in vielen Bereichen bereits strikt verbieten.
Die KI-Gesetzgebung der EU nahm bereits vor 2020 Gestalt an und erreichte im Jahr 2023 eine nahezu endgültige Form. Das KI-Gesetz wurde im März 2024 verabschiedet und trat am 1. August 2024 in Kraft. Es enthält jedoch eine Reihe von Verboten, die von den Behörden nur noch bis zum 2. Februar durchgesetzt werden können.
Von diesem Zeitpunkt an können Unternehmen, die in irgendeiner Weise gegen das KI-Gesetz verstoßen, mit sehr hohen Geldstrafen belegt werden. Die Europäische Union geht vor allem gegen KI-Dienste vor, die etwas tun, was als inakzeptabel angesehen wird. Die schlimmsten Formen des Missbrauchs wurden von der Europäischen Kommission ins Visier genommen.
Es gilt nun als gesetzeswidrig, wenn ein Unternehmen die ihm zur Verfügung stehenden Daten in irgendeiner Form zur Profilerstellung nutzt. KI-Systeme dürfen nicht dazu verwendet werden, Risikobewertungen von Nutzern zu erstellen, indem Informationen über ihr Verhalten überwacht und analysiert werden. In der EU ist es illegal, künstliche Intelligenz einzusetzen, um zu versuchen, die Entscheidungen von Menschen zu beeinflussen. Entwicklern, die versuchen, sie zu manipulieren, drohen empfindliche Geldstrafen.
Es wird illegal sein, künstliche Intelligenz einzusetzen, um sozial Benachteiligte zu täuschen. Angriffe auf junge, behinderte und benachteiligte Menschen könnten ebenfalls mit hohen Strafen geahndet werden. Das KI-Gesetz verbietet es auch jedem Unternehmen, vorausschauende Verbrechensbekämpfung zu betreiben. Nutzerdaten dürfen nicht analysiert werden, um die Neigung einer Person zur Begehung von Straftaten zu ermitteln.
Auch dürfen KI-Tools in der EU nicht eingesetzt werden, um Personen oder Gruppen aufgrund ihrer sexuellen Orientierung zu verfolgen. Auch die Erhebung biometrischer Daten in Echtzeit ist eine kriminelle Handlung. So können beispielsweise Algorithmen zur Gesichtserkennung nicht massenhaft auf Sicherheitskameras eingesetzt werden. Auch können keine Datenbanken mit Hilfe der Gesichtserkennung aufgebaut werden. Darüber hinaus ist auch die Überwachung der Stimmungen von Menschen verboten, und es ist nicht möglich, Menschen am Arbeitsplatz - oder sogar in Schulen - auf dieser Grundlage zu überwachen.
Die Europäische Union hat in den letzten Jahren kontinuierlich daran gearbeitet, flexible und wirksame Rechtsvorschriften zu schaffen. Nach dem DSA und dem DMA wird das KI-Gesetz eines dieser Gesetze sein, wenn alles nach Plan läuft.
Wir sind gespannt, welche Verfahren auf der Grundlage dieses Gesetzes eingeleitet werden. Sicher ist, dass auf dieser Grundlage in Zukunft gigantische Bußgelder verhängt werden könnten. Unternehmen, die sich in der Grauzone bewegen, werden mit bis zu 35 Mio. USD oder 7 % ihres Jahresumsatzes bestraft. Das bedeutet, dass beispielsweise Meta mit bis zu 11,5 Milliarden Dollar bestraft werden könnte.
Die Unternehmen müssen nicht befürchten, dass die ersten Bußgelder in nächster Zeit verhängt werden. Wie uns mitgeteilt wurde, ist der Hintergrund, vor dem die Behörden diese Verfahren durchführen können, noch nicht völlig klar. Dies wird erst im August offiziell festgestellt werden.
Die Europäische Union ist zuversichtlich, dass diese Regeln von den Unternehmen nicht gebrochen werden. Es hat bereits mehrere Vereinbarungen gegeben, in denen sich die Unternehmen selbst verpflichtet haben, keine inakzeptablen und gefährlichen Entwicklungen wie diese vorzunehmen. Wir brauchen jedoch strenge Rechtsvorschriften, um sicherzustellen, dass jeder Missbrauch bestraft wird.
