Die perfekte Schweiz: Eine kleine Zukunftsgeschichte

Marlène da Silva war nervös. In einer Viertelstunde würde sie vor der Sicherheitspolitischen Kommission des Ständerats ihr App mit dem Namen Perfecto vorstellen dürfen. Gemeinsam mit einem Team aus ehemaligen Studienkolleginnen und -kollegen war ihnen gelungen, was vorher noch niemand geschafft hatte: Persönliche Daten von Bürgerinnen und Bürgern so zu kombinieren, dass ein anonymes Datenprofil entstand, dessen ausgeklügelte Verschlüsselung nur über mehrmalige Verifizierungsschritte für Dritte zugänglich war.

Trotz dieses grösstmöglichen Datenschutzes war die App Perfecto in der Lage, kontinuierlich Daten über die Aktivitäten der Userin oder des Users zu sammeln. Zum Beispiel wenn die Person Twint benutzte oder im Internet surfte. Zusätzlich aber – und das war der Clou! – registrierte sie auch Verhaltensdaten, die von anderen Personen beobachtet und bewertet werden konnten. Marlène war überzeugt, dass solche Datenprofile den Menschen helfen würden, sich respektvoller gegenüber anderen und ihrer Umwelt zu verhalten. Sie wollte nicht tatenlos herumsitzen, während die Überschwemmungen und Waldbrände häufiger wurden und während –

«Frau da Silva, bitteschön, Sie dürfen eintreten.» Abrupt hatte sie die Stimme des Sekretärs aus den Gedanken gerissen. Sie atmete einmal tief ein und aus. Los geht’s. Wenige Minuten später präsentierte sie den Ständeratsmitgliedern der Sicherheitspolitischen Kommission, woran sie und ihr Team in den letzten Monaten fast Tag und Nacht gearbeitet hatten. Ihr Produkt war erst seit 5 Wochen auf dem Markt, hatte aber bereits hohe Wellen geschlagen. Zuerst hatten sie den renommierten Preis der Stiftung für Konsumentenschutz gewonnen, der seit 2028 ethische Standards in der Entwicklung Künstlicher Intelligenz prämierte. Kurz darauf trafen die ersten Hass-Botschaften via Social Media ein und auch die Presse bezichtigte sie der Augenwischerei, ja sogar noch abschätziger, als gewissenlose Wegbereiterin des Schweizer Schnüffelstaats.

Trotz diesem Gegenwind, tönte ihre Stimme nun selbstbewusst durch den holzgetäfelten Raum: «Wie Sie auf dieser Illustration erkennen können, handelt es sich bei dem von uns entwickelten System um eine sehr simple, aber genau deshalb sehr präzise und sichere Methode zur Erstellung von Bürgerprofilen.» Dann erklärte sie den Aufbau Schritt für Schritt. Zuerst die Datensammlung. Die Ständerätinnen und -räte liessen sich von Marlène erläutern, wie ihre App Perfecto es erlaubt, Personen im Umkreis von 25 Metern zu orten und anonym ihr Verhalten zu bewerten: Der Typ auf der anderen Strassenseite hat gerade seine Kippe achtlos weggeworfen? Mit Perfecto gibt es endlich eine adäquate Sanktionsmöglichkeit. Eine Mittfünfzigerin half einem jungen Vater den Kinderwagen in den Zug zu hieven? Perfecto gibt einem die Möglichkeit, solches Verhalten anständig zu verdanken.

Dann die Datenauswertung. Ein Zusammenspiel vieler robuster Algorithmen berechnet, gewichtet, und aktualisiert laufend das aus den Daten entstehende Datenprofil. In einem kleinen wissenschaftlichen Feldexperiment mit 200 Studentinnen und Studenten konnten Marlène und ihr Team beweisen, dass sich typische Schweizer Tugenden wie Sauberkeit, Hilfsbereitschaft und Fleiss innerhalb von 3 Monaten unter den Nutzerinnen und Nutzern deutlich häuften.
Zum Abschluss sagt Marlène da Silva: «Wie gesagt, der Datenschutz ist auf dem absolut neuesten Stand, weshalb ich Ihnen empfehle, meine App flächendeckend in unserem Land einzuführen. Für eine perfekte Schweiz.»

Als Marlène gegen Abend auf dem Sofa liegt, kommt ihr Sohn von der Schule nach Hause. Auf ihre Frage, wie es ihm gehe, entgegnet er sichtlich schlecht gelaunt: «Diese blöden Verhaltensnoten. Ich habe immer noch ungenügend. Aber Hauptsache Anna ist wieder Klassenbeste, diese dumme Kuh. Ihre Noten sind nur so gut, weil sie alle hübsch finden.» Bevor Marlène beschwichtigen kann, verschwindet er wutentbrannt in seinem Zimmer.

Schon ein bisschen unfair, wenn sich Schülerinnen und Schüler gegenseitig bewerten müssen, denkt Marlène. Und auf einmal läuft es ihr kalt den Rücken hinunter. Was, wenn ihre App Perfecto plötzlich der Vetternwirtschaft dient? Wäre das möglich? Eigentlich hatten sie solche Mechanismen rechnerisch ausgeschlossen. Ausserdem sollte es immer möglich sein, schlechtes Verhalten mit gutem zu kompensieren. Was aber würde passieren, wenn die guten Taten niemand wahrnehmen und in der App vermerken würde? Es war schliesslich verboten sich selbst zu bewerten.
Im Hintergrund liefen auf Spotify derweil die letzten Zeilen von Mani Matter’s Klassiker:

«Louf i am Bundeshus sider verby
Mues i gäng dänke, s’steit numen uf Zyt
S′länge fürs z’spränge paar Seck Dynamit.»

«Oder eine App», murmelte Marlène leise vor sich hin.

Museumsnacht Bern 2024

Zusammen mit Science et Cité konnten wir an der Museumsnacht Bern einen Einblick in unsere Studie «Ersatzprodukte für Fleisch, Milch & Co.» geben. Die Apérohäppchen luden ein zum Probieren, Verweilen und Diskutieren.

TA-SWISS Themen 2024

Projekte und Themen, die TA-SWISS im 2024 beschäftigen

Die Technologiefolgen-Abschätzung beschäftigt sich mit den Auswirkungen neuer Technologien auf Gesellschaft und Umwelt. Eine ihrer Aufgaben ist das Monitoring, d. h. die frühzeitige Auseinandersetzung mit aktuellen technologischen Entwicklungen. Nachfolgend die Themen und Fragen, mit welchen sich TA-SWISS derzeit befasst.

Laufende Projekte und anstehende Publikationen

Wenn Künstliche Intelligenz Bilder manipuliert

Deepfakes sind authentisch wirkende, aber durch Techniken des Deep Learnings unter grossem Rechenaufwand hergestellte oder abgeänderte Medieninhalte. Erpressung, Identitätsdiebstahl oder Manipulation der öffentlichen Meinung und demokratischer Prozesse einerseits, neue Unterhaltungsangebote, Kosten- und Zeiteinsparungen oder die Verbesserung von Bildungsangeboten andererseits: TA-SWISS analysiert die zu erwartenden Auswirkungen von Deepfakes auf Politik, Medien, Wirtschaft und die Rechtsprechung in der Schweiz und ermittelt, wo Handlungsbedarf besteht. Die Studie wird am 18. Juni 2024 publiziert.

Sterben, Trauer und ‘Weiterleben’ im Netz

Es gibt ein digitales Leben nach dem Tod. Wer heute stirbt, lässt eine Menge Daten, Nutzerkonten und -profile sowie virtuelle Besitztümer zurück (deren Essenz die Künstliche Intelligenz extrahieren und ‹weiterleben› lassen kann). TA-SWISS setzt sich damit auseinander, wie digitale Technologien den Umgang mit Tod, Sterblichkeit, Trauer und Bestattungskultur verändern, und welche rechtlichen, datenschützerischen und ethischen Fragen damit verbunden sind. Die Studie wird voraussichtlich im Juli 2024 publiziert.

Ersatzprodukte für Fleisch, Milch & Co.

Fleisch und Milchprodukte kommen bei vielen selten oder gar nicht mehr auf den Tisch. Stattdessen wird zu Ersatz aus pflanzlichen Rohstoffen gegriffen. Aber werden diese Produkte ihrem Image des Gesunden, Tier- und Umweltfreundlichen tatsächlich gerecht? Und welchen Beitrag können sie zu einer  nachhaltigeren Ausrichtung des Ernährungssystems leisten? Die interdisziplinäre Studie wird am 3. September 2024 publiziert.

Kultur und Digitalisierung

Die Kultur mit ihren vielfältigen Ausprägungen ist ein wichtiger Bestandteil der Identität eines Landes. Ihr steter Wandel wird derzeit auch von der Digitalisierung wesentlich geprägt. Im Auftrag von TA-SWISS untersuchen der Schweizer Musikrat, die Hochschule Luzern und der Think & Do Tank Dezentrum in einer interdisziplinären Studie, wie Kulturschaffende aus verschiedenen Branchen mit den neuen, digitalen Möglichkeiten umgehen, sowie deren Einfluss auf Authentizität, Einzigartigkeit und Reichweite kulturellen Schaffens. Die dreiteilige Studie wird im August oder September 2024 publiziert.

Digitaler Franken

Angetrieben von der globalen Digitalisierung, dem Rückgang der Verwendung von Bargeld, und den Entwicklungen in der Kryptowelt, hat das Interesse an digitalen Währungen in den letzten Jahren zugenommen. TA-SWISS analysiert die Chancen und Risiken der möglichen Einführung eines «Digitalen Frankens» für das Schweizer Finanzsystem. Diese Studie wird 2025 publiziert.

Neue Themen

Social Scoring-Systeme

 

Sobald wir uns im Internet bewegen, hinterlassen wir digitale Spuren. Mithilfe immer leistungsstärkerer Analysetools fügen sich solche Datenspuren zur Kundenprofilen zusammen. Was in der Privatwirtschaft eine gängige Praxis ist, um Dienstleistungen zu personalisieren, könnte in Zukunft auch vermehrt über die Zuteilung von Ressourcen (Bankkredite, Mietobjekte, CO2-Verbrauch usw.) entscheiden. TA-SWISS interessiert sich dafür, inwiefern die Anwendung solcher Datenprofile soziale Ungleichheit vergrössern oder im Spannungsverhältnis mit demokratischen Grundwerten stehen kann. Die Ausschreibung läuft bis zum 28. März 2024.

 

Gesundheitsdaten

Effizientere und kostengünstigere Methoden der genetischen und biochemischen Analyse sowie der Bildgebung sollen es in Zukunft ermöglichen, viel mehr gesundheitsrelevante Daten für Forschung, Früherkennung von Krankheiten und Prävention auszuwerten als heute. Über den realisierbaren Nutzen besteht allerdings Unklarheit. Zudem wirft der Appell an die Allgemeinheit, persönliche Daten aus Gründen der Solidarität zur Verfügung zu stellen, rechtliche und ethische Fragen auf. TA-SWISS schreibt eine interdisziplinäre Studie zum Thema aus. Einreichefrist ist der 28. März 2024.

Generative KI und Kompetenzverschiebungen

KI-Tools wie ChatGPT werden bald fester Bestandteil von Alltag, Arbeitswelt und Hochschulen sein und sich massiv darauf auswirken, wie wir uns informieren, wie wir kommunizieren, arbeiten, lernen, denken und Wissen produzieren. TA-SWISS interessiert sich dafür, welche Kompetenzen die möglichst optimale Nutzung grosser Sprachmodellen voraussetzt. Welche Fähigkeiten werden an Bedeutung gewinnen, wer gewinnt und wer verliert?

Neue Nukleartechnologien

Vor dem Hintergrund von Klimawandel und Energiekrise wird der Bau neuer Atomkraftwerke in der energiepolitischen Debatte in der Schweiz von verschiedener Seite wieder erwogen. TA-SWISS sieht das als Anlass, die Chancen und Risiken von Nukleartechnologien der vierten Generation (z. B. kleiner modularer Reaktoren, Thoriumreaktoren oder Fusionsreaktoren der neusten Generation) zu analysieren und damit einen sachlichen Input für die absehbaren demokratischen Auseinandersetzungen zu liefern.

Alle aktuell laufenden TA-Projekte finden Sie hier.

Intelligenza artifiziala en il focus

Kann KI unsere Demokratie bedrohen? Elisabeth Ehrensperger, die Geschäftsführerin von TA-SWISS hat sich beim RTR  (Radiotelevisiun Svizra Rumantscha) mit Fragen zur Künstlichen Intelligenz auseinandergesetzt. Die Beiträge, die aus dem Gespräch entstanden sind, können hier nachgehört werden:

https://www.rtr.ch/novitads/svizra/intelligenza-artifiziala-ia-democraz-ia
https://www.rtr.ch/novitads/svizra/ia-sin-il-martga-da-lavur-quant-clever-ston-ins-anc-esser
https://www.rtr.ch/novitads/svizra/controllar-il-sistem-la-maschina
https://www.rtr.ch/novitads/svizra/intelligenza-artifiziala-ia-co-duai-la-svizra-regular-ia