Der Artificial Intelligence Act (AI-Act) ist ein Gesetz über Künstliche Intelligenz (KI), das von der EU-Kommission Mitte Juni 2023 beschlossen wurde. Es liegt als Entwurf vor und dient der Regulierung von Künstlicher Intelligenz in Europa. In wiefern dies auch die Schweiz betreffen wird resp. ob der AI-Act in unsere Gesetztgebung adaptiert wird, ist noch nicht bekant.

Bei der Nutzung von KI bestehen verschiedene Risiken. Das neue KI-Gesetz stuft KI-Systeme in vier verschiedene Risikoklassen ein. Es steckt den Rechtsrahmen für KI ab und soll helfen, vertrauenswürdige KI zu schaffen. Frühestens 2026 soll das Gesetz in Kraft treten.

Schon heute wird KI in verschiedenen Bereichen von Wissenschaft, Technik und Medizin eingesetzt. Sie wird Wirtschaft und Technik revolutionieren und immer mehr Bereiche des täglichen Lebens durchdringen.

Was ist der AI-Act?

AI ist die englische Abkürzung für Artificial Intelligence, was Künstliche Intelligenz bedeutet. Der AI-Act wurde im Juni 2023 von der EU-Kommission beschlossen und ist die erste gesetzliche Grundlage für mehr Vertrauen in KI. Der AI-Act liegt gegenwärtig als Entwurf vor und soll frühestens 2026 in Kraft treten. Unternehmen können sich bis dahin bereits an die veränderten Rahmenbedingungen anpassen.

Der AI-Act betrifft Anbieter, die KI-Systeme entwickeln, vertreiben und in Betrieb nehmen. Er gilt auch für natürliche und juristische Personen, die KI-Systeme nutzen.

Einstufung von KI-Systemen in Risikogruppen

Kern des AI-Acts ist die Einstufung von KI-Systemen in vier Risikogruppen:

  • Geringes Risiko: ohne Einschränkungen erlaubt, doch wird ein Code of Conduct empfohlen
  • Limitiertes Risiko: unter Einhaltung der Informations- und Transparenzpflichten zulässig
  • Hohes Risiko: zulässig nach vorheriger Konformitätsprüfung und unter Einhaltung von Auflagen
  • Unannehmbares Risiko: verboten, da solche Anwendungen geeignet sind, menschliches Verhalten zu manipulieren

Die Risikogruppe kann die Prinzipien vertrauenswürdiger KI bedrohen. Damit KI-Systeme rechtlich zulässig sind, müssen sie rechtliche Auflagen erfüllen.

Tipp: Schon jetzt sollten Unternehmen prüfen, ob sie vom AI-Act betroffen sind, da sie mit KI-Systemen arbeiten oder an Entwicklung und Vertrieb von KI-Anwendungen beteiligt sind.

Was macht vertrauenswürdige KI aus?

Der AI-Act legt die Prinzipien für vertrauenswürdige KI fest. Um vertrauenswürdig zu erscheinen, werden KI-Anwendungen nach technischen, sozialen und ethischen Faktoren bewertet. Das sind die Prinzipien für die Vertrauenswürdigkeit:

  • Unterstützung der Entscheidungsfindung durch menschliches Handeln und Aufsicht
  • Gewährleistung von Genauigkeit, Zuverlässigkeit und Sicherheit durch technische Robustheit
  • Rechtssicherheit und Datenschutz
  • Transparenz bei der Nutzung von KI-Systemen
  • Fairness und Vermeidung unfairer Verzerrungen
  • Sicherung des ökologischen und gesellschaftlichen Wohlergehens
  • Rechenschaftspflicht bei der Entwicklung, Nutzung und Instandhaltung der Systeme

Aktuelle Nutzung von KI-Systemen

Schon jetzt werden KI-Systeme von Unternehmen und Privatpersonen genutzt. Ein Beispiel ist der sprach- und textbasierte Chatbot ChatGPT. Dieser Chatbot wird zur Verfassung von Texten, Hausarbeiten von Schülern und Studenten sowie zum Schreiben von Reden genutzt. Die Nutzung von ChatGPT ist einfach. Nutzer müssen sich lediglich mit E-Mail-Adresse, Telefonnummer und Namen registrieren.

Monocam ist ein weiteres Anwendungsbeispiel. Dabei handelt es sich um eine spezielle Kamera, die zumeist auf einer Brücke platziert wird. Die Kamera filmt das Innere von vorbeifahrenden Fahrzeugen. Die Aufnahmen werden mit KI gesichtet. So lässt sich feststellen, ob Fahrer am Steuer ein Handy benutzen. In den Niederlanden wird dieser Handyblitzer bereits genutzt. In Deutschland laufen in einigen Städten Pilotprojekte.

KI wird in der Wirtschaft in der Schweiz bereits zur Analyse von Daten und zur Entwicklung intelligenter Systeme verwendet. Ein Beispiel für die Nutzung von KI in der Schweiz ist die Hypothekarbank Lenzburg, die KI zur Analyse von Transaktionsdaten nutzt. Das System kann Kreditkartenbetrug erkennen, doch werden die Ergebnisse noch von Fachpersonen geprüft.

Der Zugbauer Stadler Rail nutzt KI für die Digitalisierung von Schienenfahrzeugen. Autonom fahrende Züge gewinnen immer mehr an Bedeutung. Die Automatisierung lässt sich mit KI immer weiter erhöhen.

Die Schweizer Bundesbahnen nutzen KI zur Optimierung des Zugbetriebs. Die Züge sollen pünktlicher werden. KI kann auch helfen, die Wartung zu verbessern und die Züge zuverlässiger zu machen.

Veränderungen durch den AI-Act

Ein wichtiger Aspekt, der sich künftig mit dem AI-Act ändern könnte, ist der Datenschutz. KI-Systeme sammeln grosse Mengen an Daten (Big Data) und werten sie aus. Der AI-Act soll Vertrauen schaffen und ist daher mit strengen Auflagen für den Datenschutz verbunden.

Schweizer Unternehmen müssen künftig mit strengeren Auflagen rechnen, wenn sie KI-Systeme nutzen. Sie müssen Sanktionen befürchten, wenn sie gegen die Auflagen verstossen, da sie beispielsweise nicht transparent genug arbeiten oder Systeme mit unannehmbarem Risiko nutzen.

KI kann in der Industrie angewendet werden. Ein wichtiges Anwendungsbeispiel ist das Internet der Dinge (Internet of Things, IoT). Über lernfähige Systeme können Maschinen miteinander kommunizieren, um den Produktionsprozess zu verbessern. Die Produktivität lässt sich steigern, die Qualität der Produkte verbessern. Möchten Schweizer Unternehmen KI in der Produktion nutzen, könnten sie künftig mit schärferen Kontrollen rechnen. Handelt es sich nicht um Systeme mit einem hohen oder unannehmbaren Risiko, dürften jedoch keine Bedenken bei der Anwendung bestehen.

Höhere Sicherheitsauflagen könnten für Unternehmen gelten, die an KI-Systemen für private und öffentliche Dienstleistungen, beispielsweise die Bewertung der Kreditwürdigkeit von Personen, oder für die kritische Infrastruktur erarbeiten oder nutzen. Überall dort, wo grundrechtssensible Entscheidungen über Menschen getroffen werden, könnte es künftig Einschränkungen geben.

Wir danken Datenschutz.org herzlich für diesen Gast-Beitrag!