Ausfälle, Haftungsfragen und Hacker-Angriffe sind gemäss Umfrage ungeklärte Herausforderungen
Die Schweizer Energie- und Gesundheitsbranche setzt bereits künstliche Intelligenz ein und wird entsprechende Anwendungen in den nächsten Jahren ausbauen. Dies ist das Ergebnis einer Umfrage des unabhängigen Think-Tanks Pour Demain mit Fachpersonen aus knapp 40 Unternehmen des Energie- und Gesundheitssektors. Neben grossem Potenzial sehen die Befragten erhebliche Herausforderungen.
Es gibt mehr als nur ChatGPT: Zwei der für das Wohlergehen der Schweizer Bevölkerung kritischen Sektoren, Gesundheit und Energie, nutzen längst ein breites Spektrum von KI-Anwendungen künstliche Intelligenz (KI) – von Prototypen zur Vorhersage der Energieverfügbarkeit bis hin zu unverzichtbaren medizinischen Tools zur Diagnose von Hautveränderungen.
Der Schweiz fehlt bisher eine Übersicht zum Einsatz von KI in Wirtschaft und Gesellschaft. Daher hat der Think-Tank Pour Demain, als Pilotprojekt, eine Umfrage mit Expert:innen von 38 Unternehmen aus der Energie- und Gesundheitsbranche durchgeführt.
Die Umfrage zeigt einen Wachstumstrend: Vier von fünf Befragten gehen davon aus, dass KI in den nächsten zwei Jahren in diesen Sektoren umfangreicher eingesetzt werden wird.
Potenzial bei Krebserkennung und Wartung von Kraftwerken
Die Befragten erwarten viele Vorteile, wobei verbesserte fachliche Entscheidungsprozesse in der klinischen Praxis und vorausschauende Analysen für Kraftwerke und Stromnetze besonders hervorgehoben werden. Mehrere Spitäler verwenden KI für die Bilderkennung in der Radiologie und Dermatologie, während Energieversorger sie z. B. für Produktionsprognosen und die Wartung von Kraftwerken einsetzen.
Erhebliche Herausforderungen und Risiken
Die befragten Expert:innen sind jedoch besorgt über erhebliche Herausforderungen und Risiken, die im Zusammenhang mit KI-Systemen auftreten können: Unerwartete Ausfälle, Cyberangriffe, reproduzierte Diskriminierung, Haftungsfragen oder unerklärbare Empfehlungen.
Ruf nach Klarheit der Rahmenbedingungen
Der Bedarf an eindeutigen KI-Rahmenbedingungen und -Richtlinien auf wirtschaftlicher und politischer Ebene sowie Datenschutz und Transparenz werden im Hinblick auf ausstehende Regulierungsmassnahmen am häufigsten genannt. Ärzt:innen etwa brauchen Klarheit über Haftungsfragen beim Einsatz von KI-Systemen, die sich unmittelbar auf die Patient:innengesundheit auswirken; Stromnetzbetreiber sind auf eindeutige Richtlinien angewiesen, um beim Datenaustausch mit anderen Akteuren Vertrauen zu schaffen.
Empfehlungen für Branchen und Politik
Auf Grundlage dieser erstmals durchgeführten Umfrage hat der Think-Tank Pour Demain folgende Empfehlungen erarbeitet.
Monitoring statt Blindflug: Bund und Kantone benötigen ein besseres Verständnis zu Einsatz, Chancen und Risiken von KI in der Schweiz. So wie bei Krankheiten oder Energieversorgung bereits Kennzahlen erhoben und veröffentlicht werden, braucht es auch bezüglich KI ein schweizweites Monitoring. So können Innovationen besser gefördert und Herausforderungen schneller bewältigt werden.
Überprüfung bestehender Gesetze: Es sollte geklärt werden, ob die aktuelle Gesetzgebung auf den Umgang mit KI-Systemen im Energie- und Gesundheitssektor ausgelegt ist. Der Schwerpunkt sollte dabei auf leistungsstarken Systemen wie ChatGPT liegen. Politische Entscheidungsträger:innen können Bedenken zur Erklärbarkeit von KI-Entscheidungen, reproduzierte Diskriminierung und unvorhersehbare Systemausfälle durch Leitlinien ausräumen und so die Unsicherheit für Organisationen verringern, die KI verantwortungsvoll einsetzen wollen.
Festlegung klarer Standards: Unternehmen und Branchenverbände sollten laufende Standardisierungsprozesse für die vertrauenswürdige Entwicklung, die Beschaffung und den Einsatz von KI unterstützen. Die Bundesverwaltung kann diese Prozesse auf nationaler und internationaler Ebene begleiten und fördern.
Bildungsoffensive: Unternehmen und Branchenorganisationen sollten Schulungen zu KI weiter ausbauen. Zudem sehen Energie- und Gesundheitsexpert:innen ein KI-Wissensdefizit bei politischen Entscheidungsträger:innen. Entsprechende Weiterbildung könnte zu einem verantwortungsbewussten und vorausschauenden Umgang mit KI-Technologien auf nationaler Ebene beitragen.
Studie und Zusammenfassung
Für Rückfragen
David Marti, Programmbeauftragter künstliche Intelligenz Pour Demain
david.marti (at) pourdemain.ch
Über Pour Demain
Pour Demain ist ein gemeinnütziger Think-Tank, der zwischen Wissenschaft, Politik und Gesellschaft vermittelt. Wir greifen bislang vernachlässigte Themen wie künstliche Intelligenz auf und entwickeln konkrete, wissenschaftsbasierte Vorschläge – mit einer positiven Wirkung für die Schweiz und darüber hinaus. www.pourdemain.ch