Startseite/Gesellschaft/Digitalisierung/Künstliche Intelligenz
21 Oktober 2022 / Lesezeit: 2 minuten

EU will Auflagen für KI-Systeme

Kann man einer Künstlichen Intelligenz vertrauen?

Künstliche Intelligenz (KI) spielt eine große Rolle in der Digitalisierung. Sie kann Risiko, aber auch Lösung für viele Probleme sein.

Künstliche Intelligenz (KI) kommt bei der Strafverfolgung oder der Erkennung von Tumoren zum Einsatz. Dafür muss sie vertrauenswürdig sein. Die EU will ein neues Gesetz.

Die Grundlage für Künstliche Intelligenz bilden maschinelles Lernen und die Simulation kognitiver Prozesse. Lernende Algorithmen können automatisierte Entscheidungen treffen, indem sie in großen Datenmengen Muster und Gesetzmäßigkeiten erkennen und diese in unbekannten Zusammenhängen anwenden. Doch je komplexer, desto undurchsichtiger. Und: Maschinen sind nicht per se neutral oder objektiv. Algorithmen werden von Menschen geschrieben und mit einer Datenauswahl gefüttert, die nicht immer die Gesamtheit der Gesellschaft abbildet. Das hat Folgen: Algorithmen zur Gesichtserkennung machen bei Gesichtern Schwarzer Menschen etwa deutlich mehr Fehler als bei weißen. Der Grund: Die Trainings-Daten wurden meist mit mehr weißen als Schwarzen Gesichtern gespeist.

Auch auf enorm: Plauschen mit einer KI

Neue Regeln für Künstliche Intelligenz

Wie können wir das künftig verbessern und KI mehr vertrauen? Die EU möchte dafür einen gesetzlichen Rahmen schaffen, gestützt auf ethische Prinzipien: KI soll unsere menschliche Autonomie respektieren, sprich uns weiterhin selbstbestimmt handeln lassen, keinen Schaden verursachen, fair und erklärbar sein. Vergangenes Jahr hat die EU-Kommission eine Verordnung für Künstliche Intelligenz (Artificial Intelligence Act) vorgeschlagen: Es geht darin um Auflagen für KI-Systeme je nach ihrem Risiko für Sicherheit, Gesundheit und Grundrechte. Anders als bei einfachen und weniger riskanten KI-Systemen wie Chatbots soll die Zulassung von Hochrisiko-Systemen wie biometrischer Identifikation streng geregelt werden. Ist das Risiko aus ethischer und rechtlicher Sicht zu hoch, sollen Anwendungen verboten werden.

Hilf enorm!

Unterstütze konstruktiven Journalismus

Um möglichst viele Menschen zu erreichen, möchten wir die Inhalte auf enorm-magazin.de frei zugänglich halten und auf Bezahlschranken verzichten. Hilf uns mit deinem Beitrag dabei!

Hilf enorm!

Ein europäisches Gesetz sei notwendig und könnte weltweit als Vorbild dienen, sagt Bernd Beckert, Leiter der KI-Gruppe am Fraunhofer-Institut für System- und Innovationsforschung. Denn es kann helfen, unser Vertrauen in KI zu stärken: „Verlässliche Zertifikate und Gütesiegel sind ein wichtiger Schritt, um Ängste abzubauen.“ Schon jetzt ist KI in unserem Alltag präsent. „Sie wird in Zukunft noch wichtiger. Wir müssen uns damit auseinandersetzen, wie wir sie gestalten wollen.“