Monitoring von Künstlicher Intelligenz: Chancen nutzen, Risiken minimieren


Pour Demain und das Franxini-Projekt von Reatch präsentieren einen Vorschlag für ein Monitoring von künstlicher Intelligenz (KI) in der Schweiz. Das Whitepaper ist während der Sommersession 2022 in einem offenen Austausch zwischen Nationalrät*innen und Vertreter*innen aus der Wissenschaft, Verwaltung und Wirtschaft erarbeitet worden.


Anwendungen von künstlicher Intelligenz (KI) kommen in immer mehr Lebensbereichen zum Einsatz und werden die Gesellschaft in den nächsten Jahrzehnten massiv beeinflussen. Einerseits haben sie das Potenzial, das Gemeinwohl signifikant zu stärken, z.B. durch Verbesserung von medizinischen Diagnosen. Andererseits können KI-Systeme materielle und/oder immaterielle Schäden an Sachen oder Personen anrichten.

Der Bund kann die Chancen und Risiken von KI besser verstehen, wenn er die Entwicklung des KI-Sektors unmittelbar mitverfolgt. Wir empfehlen dazu, rasch Pilotprojekte zum KI-Monitoring zu lancieren, um die aktuellen Fähigkeiten und Auswirkungen von KI-Anwendungen systematisch zu erfassen und dadurch zeitnah eine relevante Faktenbasis für politische Entscheidungen zu gewährleisten.


Vier Grundziele sollen mit einem KI-Monitoring erreicht werden

  1. Chancen identifizieren: Es wird ersichtlich, welche Bereiche von zukünftigen KI-Anwendungen profitieren können.

  2. Risiken einordnen: Sicherheitsrisiken von KI-Anwendungen werden erfassbar.

  3. Transparenz schaffen: Es wird offengelegt, welche Alltagsentscheide von KI-Systemen und nicht von Personen getroffen werden.

  4. Entscheidungsgrundlagen schaffen: Gesellschaft und Politik erhalten eine bessere Grundlage, um über den Einsatz von KI zu entscheiden.

Die konkreten Handlungsempfehlungen lauten

  • Schrittweises Vorgehen via Pilotprojekte, um anhand erster Ergebnisse den konkreten Nutzen von KI für Politik und Gesellschaft abzuschätzen und zu optimieren.

  • Pilotprojekt 1 “Kritische Infrastrukturen”: Ein erstes Pilotprojekt sollte in einem sicherheitskritischen Bereich wie dem Gesundheitswesen umgesetzt werden, da das Gemeinwohl hier besonders betroffen ist.

  • Pilotprojekt 2 “Meta-Monitoring”: Dieses Projekt klärt ab, in welchen Themenbereichen ein künftiges Monitoring besonders nötig ist und welche Methoden dafür geeignet sind.

Für die erfolgreiche Umsetzung eines KI-Monitorings ist eine klare Rollenverteilung der Akteure entscheidend

  • Verwaltung: Sie soll die Hoheit über die Monitoring-Projekte haben, damit Monitoring-Ergebnisse auf den politischen Entscheidungsprozess zugeschnitten sind.

  • Wissenschaft: Die Schweizer Hochschulen können aufgrund ihrer KI-Expertise Monitoring-Projekte effektiv und interdisziplinär im Auftrag der Verwaltung umsetzen.

  • Wirtschaft: Sie profitiert von Monitoring durch eine erhöhte Nachfrage von KI-Anwendungen in Bereichen, welche erweitertes Anwendungspotenzial aufweisen. Gleichzeitig wird sie stärker für Risiken sensibilisiert, ähnlich wie heutzutage im Bereich der Cybersicherheit durch das Nationale Zentrum für Cybersicherheit.