Künstliche Intelligenz

Das erste KI-Gesetz für Europa ist da

Am 1. August ist die Verordnung über künstliche Intelligenz, der sogenannt AI-Act, in Kraft getreten. Es ist der weltweit erste Rechtsrahmen für KI und befasst sich mit deren Risiken und schreibt Regulierungsmechanismen vor.

Was ist Künstliche Intelligenz?

Künstliche Intelligenz (KI) ist die Fähigkeit einer Maschine, menschliche Eigenschaften zu imitieren. Dazu zählen:

  • Logisches Denken
  • Lernen
  • Planen
  • Kreativität

KI ermögicht es technischen Systemen, ihre Umwelt wahrzunehmen, mit dem Wahrgenommenen umzugehen und Probleme zu lösen, um ein bestimmtes Ziel zu erreichen.

Warum brauchen wir Regeln in Bezug auf KI?

Das neue Gesetz der EU zielt darauf ab, sicherzustellen, dass eingesetzte KI-Systeme

  • Illustration. Eine Mikrochip-Platine mit orangenen Lämpchen auf denen eine Illustration eines Gehirns leuchtet.
    sicher,
  • transparent,
  • nachvollziehbar,
  • nichtdiskriminierend
  • und umweltfreundlich

sind. Ebenfalls sollen KI-Systeme von Menschen und nicht von der Technologie selbst überwacht werden, um schädliche Ergebnisse zu verhindern.

Was beinhaltet der AI-Act?

Die neuen Vorschriften legen Verpflichtungen für Anbieter und Nutzer fest, die sich nach dem Risiko, das von dem KI-System ausgeht, richten. Der Rechtsrahmen definiert drei Risikostufen:

  1. Das Entwickeln und der Einsatz von KI-Systemen mit unannehmbarem Risiko werden verboten.
    Dazu zählen z.B. Sozialkredit-Systeme oder sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert.
  2. KI-Systeme mit hohem Risiko unterliegen strengen Verpflichtungen, wie beispielsweise:
  • Eine Konformitätsprüfung, bevor das System auf den Markt kommt;
  • Die Einführung von Qualitäts- und Risikomanagementsystemen;
  • Die Eintragung in eine öffentliche EU-Datenbank.

Dazu zählen z.B. KI zur Auswertung und Klassifizierung von Notrufen oder zur Bewertung von Kreditwürdigkeit.

  1. KI-Systeme mit minimalem Risiko werden nicht eingeschränkt, müssen jedoch Verhaltensregeln einhalten, die nun ausgearbeitet werden.

Für bestimmte KI-Systeme gelten besondere Transparenzanforderungen, z. B. wenn ein eindeutiges Risiko der Manipulation besteht (z. B. durch den Einsatz von Chatbots oder Deepfakes).

Schon gewusst …?

 

Deepfakes sind realistisch wirkende Medieninhalte, die durch Techniken der künstlichen Intelligenz abgeändert, erzeugt bzw. verfälscht worden sind.

Mehr Kontrolle für EU-Bürger

Mit dem Gesetz bekommen die Nutzer das Recht, bei den zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen. Welche Behörde das in Belgien sein wird, muss noch entschieden werden.

Das bei der Europäischen Kommission eingerichtete „Europäische Amt für KI“ überwacht die Durchsetzung und Umsetzung der Verordnung in den Mitgliedstaaten. Ziel ist es, ein Umfeld zu schaffen, in dem KI-Technologien die Menschenwürde, die Rechte und das Vertrauen respektieren.

Die EU-Mitgliedstaaten haben nun zwei Jahre Zeit, die vorgegebenen Verpflichtungen in nationales Recht umzusetzen.

Die EU-Verordnung finden Sie in den weiterführenden Links unter „Mehr zum Thema“.

Alle Medien-News