Künstliche Intelligenz

Wenn Algorithmen für uns entscheiden: Chancen und Risiken der KI

Robotic Hand Assisting Person For Signing Document

Künstliche Intelligenz (KI) ist seit den 1960er-Jahren im Trend. Durch das Aufkommen der Deep-Learning-Technologie konkretisierten sich die Erwartungen an Algorithmen und an sogenannt intelligente Systeme im Allgemeinen. Heute befindet sich die Algorithmentechnologie mehrheitlich in der Hand amerikanischer Grosskonzerne und ist über deren Dienstleistungen allgemein zugänglich.
Die interdisziplinäre TA-Studie bewertet die Chancen und Risiken von KI anhand von fünf Schwerpunkten: Arbeitswelt, Bildung, Konsum, Verwaltung und Medien. Dabei werden die technologischen, rechtlichen und ethischen Aspekte übergreifend behandelt und ihre Auswirkungen in den fünf aufgeführten Anwendungsfeldern analysiert.

Chancen und Risiken

Künstliche Intelligenz ist ein wichtiger Treiber des digitalen Wandels und kommt in immer mehr Gebieten zum Einsatz. Aufgrund des breiten Anwendungsfelds können Chancen und Risiken der Basistechnologie KI nicht generell beurteilt werden; ein allgemeines «KI-Gesetz» ist deshalb nicht zielführend. Stattdessen sollen durch KI verursachte Probleme und Fehlentwicklungen in bestehenden Gesetzen oder Verordnungen oder allenfalls mit freiwilligen Massnahmen geregelt werden.

KI-Systeme erledigen vieles schneller und oft auch präziser als Menschen und könnten diese bei komplexen Aufgaben in die Lage versetzen, verschiedene Tätigkeiten wesentlich effizienter als bisher auszuführen. Oft ermöglichen es KI-Systeme, Dienstleistungen und Angebote besser an die Bedürfnisse und Fähigkeiten der einzelnen Individuen anzupassen. In der Personalisierung der Angebote liegt eine grosse Stärke von KI.

Viele KI-Systeme müssen mit riesigen Datensätzen trainiert werden, damit sie die von ihnen gewünschten Fertigkeiten erlangen. Privatsphäre und Datenschutz laufen Gefahr, vom immensen Datenbedarf der KI ausgezehrt zu werden. Wenn die der KI zugrundeliegenden Datensätze Fehler enthalten, sind auch die Ergebnisse falsch. Problematisch sind zudem unausgewogene Daten, die zwar zu mathematisch korrekten, inhaltlich aber verzerrten Resultaten führen, die unter Umständen bestimmte Personengruppen systematisch benachteiligen. Sodann entwickeln sich selbstlernende KI-Systeme weiter und kommen unter Umständen zu Ergebnissen, die für ihre Urheber, vor allem aber auch für die Betroffenen undurchsichtig und nicht nachvollziehbar sind.

Empfehlungen

Der Einsatz von KI-Systemen sollte deutlich und auf einfache Weise kenntlich gemacht werden, damit Betroffene wissen, dass die Interaktion mit einem KI System stattfindet und nicht mit einem Menschen.

Wichtige Entscheidungen, die Personen betreffen, sollen nicht ohne reifliche Abwägungen der Vor- und Nachteile einem KI-System überlassen werden. Geht es um relevante personenbezogene Fragen, muss das Ergebnis des Systems durch einen Menschen nachgeprüft und begründet werden.

Der Einsatz von KI hat Folgen, die weit über die technischen Implikationen hinausreichen. Wer KI entwickelt, einsetzt oder mit ihren Ergebnissen weiter arbeitet, sollte daher auch über Kenntnisse in Ethik und Recht verfügen und darüber hinaus zu interdisziplinärer Zusammenarbeit mit Vertretern anderer Wissenschaftsgebiete bereit und fähig sein.

Links und Downloads

Organisation

Projektdauer

April 2018 bis April 2020

Projektbeauftragte

  • Dr. Markus Christen, UZH Digital Society Initiative, Universität Zürich
  • Dr. Clemens Mader, Abteilung Technologie und Gesellschaft, Eidgenössische Materialprüfungs- und Forschungsanstalt Empa
  • Johann Čas, Institut für Technikfolgen-Abschätzung , Österreichische Akademie der Wissenschaften

Begleitgruppe

  • Dr. Jean Hennebert, Präsident der Begleitgruppe, Informatikdepartement, Universität Freiburg, Mitglied des Leitungsausschusses von TA-SWISS
  • Benjamin Bosshard, Eidgenössische Kommission für Kinder- und Jugendfragen
  • Sabine Brenner, Geschäftsstelle Digitale Schweiz, Bundesamt für Kommunikation BAKOM
  • Dr. Christian Busch, Staatssekretariat für Bildung, Forschung und Innovation SBFI
  • Dr. Christine Clavien, Institut für Ethik, Geschichte und Geisteswissenschaften, Universität Genf
  • Daniel Egloff, Staatssekretariat für Bildung, Forschung und Innovation SBFI
  • Andy Fitze, SwissCognitive – The Global AI Hub
  • Matthias Holenstein, Stiftung Risiko-Dialog
  • Dr. Marjory Hunt, Schweizerischer Nationalfonds SNF
  • Manuel Kugler, Schweizerische Akademie der Technischen Wissenschaften SATW
  • Thomas Müller, Redaktor, Schweizer Radio SRF, Mitglied des Leitungsausschusses von TA-SWISS
  • Katharina Prelicz-Huber, Gewerkschaft VPOD, Mitglied des Leitungsausschusses von TA-SWISS
  • Prof. Ursula Sury, Hochschule Luzern HSLU
  • Dr. Stefan Vannoni, Cemsuisse, Mitglied des Leitungsausschusses von TA-SWISS