KI an der Schnittstelle von Sicherheit und Freiheit

Mit Vorstellungen von Freiheit ist ein grundlegendes und tief verwurzeltes Bedürfnis nach Sicherheit verflochten. Die Menschen sehnen sich nach sicheren Wohnungen, Gemeinschaften, Schulen und Arbeitsplätzen. Wir wünschen uns Räume, in denen wir Ideen und Meinungen ohne Angst austauschen können. Wir wollen das Gefühl haben, dass die Zukunft genügend Stabilität bietet, um unsere Ziele und Träume zu verfolgen, wie etwa den Aufbau einer Karriere oder den Kauf eines Hauses. KI-Systeme beginnen, jeden Aspekt unserer Sicherheit neu zu gestalten: wie wir Ideen austauschen und kommunizieren, wie wir wirtschaftliche Entscheidungen treffen und wie wir unsere grundlegendste physische Sicherheit gewährleisten, vom Haushalt über die Gemeinschaft bis hin zwischen Staaten.

KI verändert Schlafzimmer, Märkte und öffentliche Orte

In der öffentlichen Debatte über KI stehen meist eine Handvoll dramatischer Bedrohungen im Mittelpunkt: übermenschliche allgemeine künstliche Intelligenz, Killerroboter oder Massenarbeitslosigkeit. Diese Bedrohungen – wie wahrscheinlich oder unwahrscheinlich sie auch sein mögen – verdrängen eine Reihe dringender und wichtigerer Fragen: Wie verändert KI unsere Sicherheit in den Räumen, in denen wir schlafen, in den Märkten, in denen wir unser Geld verdienen, und an den öffentlichen Orten, an denen wir uns austauschen? Wie können KI-Systeme uns schützen und wo macht uns ihr Einsatz verwundbar? Letztendlich sind die Auswirkungen der KI auf die menschliche Sicherheit – und damit auch auf die Freiheit – weitreichender als gedacht, da sie bereits viele Facetten des täglichen Lebens umgestaltet, die in direktem Zusammenhang mit menschlichen Entscheidungen und Urteilen stehen.

Normalerweise stellen wir uns eine Bedrohung der Freiheit als Zwang vor: Jemand zwingt uns, gegen unseren Willen zu handeln. Dieses Bild ist jedoch zu eng gefasst, um das zu beschreiben, was KI bereits tut. Niemand zwingt uns, eine Dating-App zu nutzen, auf eine Online-Werbung zu klicken oder einem bestimmten Influencer in unserem Social-Media-Feed zu folgen. Dennoch werden die uns angezeigten Informationen algorithmisch gesteuert und verändern auf fast unmerkliche Weise die Grundlage unserer Entscheidungen. Dies unterscheidet sich von traditioneller Werbung oder Marketing, da die Kuratierung von Informationen durch KI-Systeme individualisiert und kontinuierlich erfolgt. Eine Titelseite einer Zeitung oder ein Fernsehspot können das niemals leisten. Einfach ausgedrückt zeigt derselbe von KI kuratierte Feed jedem von uns eine andere Welt, passt sich in Echtzeit an und hinterlässt keine gemeinsamen Spuren, auf die man verweisen könnte.

Wenn sich die Anreize des Systems wie unsere eigenen anfühlen

Der subtile Einfluss, der hier ausgeübt wird, ist von Bedeutung, weil unsere individuelle Freiheit darauf beruht, echte Alternativen zu haben. Entscheidungsfreiheit erfordert verlässliche Informationen, damit unsere Entscheidungen der Welt entsprechen, wie sie ist. Wir benötigen auch Raum zum Nachdenken und den mentalen Freiraum, eine Option abzuwägen, bevor wir uns für sie entscheiden. Wir sind nicht wirklich frei, wenn unsichtbare Hindernisse unsere Sicht und unsere Optionen versperren. Doch KI, die unverantwortlich oder willkürlich eingesetzt wird, kann unseren Weg vorgeben. Jedes Mal, wenn wir scrollen, etwas suchen oder eine vorgeschlagene Route akzeptieren, hat ein Algorithmus bereits entschieden, welche Inhalte wir sehen und welche uns nie begegnen. Die Systeme haben gelernt, dass gegensätzliche Ansichten das Engagement verringern. Daher neigen sie dazu, unsere bestehenden Überzeugungen zu bestätigen. Dieselbe Logik greift auch beim Einkaufen, beim Dating und bei Nachrichten, die uns informieren sollen. Sie filtert Informationen und verdrängt den Raum, den wir einst nutzten, um über Optionen und Möglichkeiten nachzudenken.

Eine freie Entscheidung ist eine, die auf der Grundlage vertrauenswürdiger Informationen und mit Zeit zum Nachdenken aus echten Optionen getroffen wird. Nach diesem Massstab kann Freiheit auch ohne absichtliche Böswilligkeit verloren gehen. Die Gefahr geht von Systemen aus, die unsere Welt so gestalten, dass sich die Anreize des Systems wie unsere eigenen anfühlen. Doch dieselben leistungsstarken KI-Systeme, die dazu genutzt werden können, unsere Welt zu verkleinern, könnten sie auch erweitern und Alternativen aufzeigen, die wir in der Vergangenheit niemals gefunden hätten. Damit diese Option Realität wird, müssen wir gewillt sein, uns herausfordern zu lassen, und die einfache Bestätigung unserer Meinungen eher mit Skepsis als mit Zustimmung betrachten. Eine freie Gesellschaft braucht Bürgerinnen und Bürger, die Reibungspunkte suchen, sowie Werkzeuge, die dafür geschaffen sind. Staatliche Regulierung zur Gewährleistung verantwortungsvoller KI-Systeme kann helfen. Wir müssen jedoch bereit sein, uns herausfordern zu lassen und die präsentierten Informationen bewusst mit menschlichem Urteilsvermögen zu bewerten.

Werden wir belauscht?

Um die Auswirkungen von KI auf unser Leben zu verstehen, können wir den stetigen Datenstrom betrachten, den wir alle täglich produzieren und der von KI-Systemen aufbereitet und verkauft wird. Zum Beispiel hat mich letzte Woche ein Energieberater zu Hause besucht. Eines der Themen, über die wir sprachen, waren Wärmepumpen. Ich habe mich noch nie mit Wärmepumpen beschäftigt und auch online keine Informationen darüber gesucht, doch am nächsten Tag waren alle Anzeigenplätze in den Nachrichten mit Werbung für Wärmepumpen belegt. Das Gefühl, dass wir abgehört werden, entsteht, wenn wir eine Werbung nach einem privaten Gespräch sehen. Dahinter steckt jedoch nicht ein Mikrofon, sondern die Fähigkeit, aus unseren Daten Rückschlüsse zu ziehen. Die Standortdaten des Energieberaters (mein Zuhause) in Verbindung mit der Tageszeit (Arbeitszeit) halfen einem KI-System dabei, Werbeflächen gezielt an Wärmepumpenhersteller zu verkaufen, sodass ich diese Anzeigen zu sehen bekam.

Ein weiteres Beispiel betrifft direkt die Sicherheit unserer Zuhause. Eine smarte Türklingel mit Gesichtserkennung kann Fremde an Ihrer Haustür identifizieren. Doch diese Funktion geht auf Kosten der Privatsphäre aller Personen, die in das Blickfeld der Kamera geraten – einschliesslich Nachbarn, die niemals zugestimmt haben, gefilmt zu werden, und deren Bilder ohne ihr Wissen an Dritte weitergegeben werden können. Ein Smart Home kann zudem die Beleuchtung eines bewohnten Hauses nachahmen. So werden Einbrecher abgeschreckt. Gleichzeitig eröffnet das System einem Eindringling einen neuen Weg zum Eindringen. Tatsächlich bringt der breite Einsatz von KI auf jeder Ebene gleichzeitig neue Risiken und Chancen mit sich. Wenn wir über unsere individuellen Entscheidungen und unsere eigenen vier Wände hinausblicken und betrachten, wie sich KI auf unsere Gemeinschaften auswirken kann, wird diese Tatsache sehr deutlich. In unseren Gemeinden können wir beispielsweise die hochauflösenden Überwachungskameras betrachten, die im Namen der Sicherheit an öffentlichen Orten wie dem Marktplatz in St.Gallen installiert sind. Die gleiche Fähigkeit, die Schutz verspricht, verschiebt die Grenzen des öffentlichen Lebens neu – ohne jemals die Frage zu stellen, was wir eigentlich wollen. Diese Beispiele verdeutlichen den Verlust an Selbstbestimmung: eine Entscheidung mit realen Risiken und realen Alternativen, die ohne unser Wissen in unserem Namen getroffen wird.

Kaum ein KI-System ist einfach nur gut oder schlecht

Betrachtet man das Thema aus einer noch breiteren Perspektive, kann man den Fall von «Volt Typhoon» heranziehen. Dabei erlangte eine von China unterstützte Hackergruppe mithilfe von KI-Systemen einen dauerhaften, verborgenen Zugriff auf kritische Infrastrukturen – darunter Wasser- und Stromversorgungssysteme – in Gemeinden in den gesamten USA. In diesem Beispiel nutzten die Angreifer KI-Tools, um vernetzte Infrastrukturen zu kartieren und nach Schwachstellen zu suchen, die ausgenutzt werden könnten. Es überrascht nicht, dass dieselben KI-Tools, die zum Eindringen in die kritische Infrastruktur genutzt wurden, auch dazu eingesetzt werden können, ein Eindringen zu erkennen und die Gemeinde zu schützen.

Mit anderen Worten: Kaum ein KI-System ist einfach nur gut oder schlecht. Aufgrund der Vielseitigkeit von KI kann eine freie und sichere Gesellschaft KI-Tools nicht einfach in erlaubte und verbotene kategorisieren und die Angelegenheit damit als erledigt betrachten. Denn genau dieselbe Fähigkeit kann je nach Einsatz und Zweck hilfreich oder schädlich sein. In einer freien und sicheren Gesellschaft liegt unsere Aufgabe nicht darin, ein bestimmtes System zu genehmigen oder zu verbieten. Stattdessen müssen wir die Vor- und Nachteile der Nutzung eines Systems verstehen und dann unter Berücksichtigung dieser Vor- und Nachteile entscheiden, wie wir mit dem System umgehen. Der vielseitige Einsatz von KI steht in direktem Zusammenhang mit Freiheit, da er bedeutet, dass wir wählen können, wie, wann, wo und warum wir ein bestimmtes System nutzen. Diese Wahl aufzugeben, bedeutet an sich schon den Verlust der Handlungsfähigkeit. Um diese Entscheidungen zu treffen, ist jedoch ein gewisses Mass an technischer Kompetenz erforderlich, die wir noch nicht in grossem Umfang aufgebaut haben. Es verlangt auch, dass wir die Entscheidung als unsere eigene betrachten und Verantwortung für dafür übernehmen. Sich dieser Auseinandersetzung zu entziehen, indem man sich auf die Standardeinstellung eines Anbieters oder einer Behörde verlässt, ist ebenfalls eine Entscheidung – in der Regel jene, bei der man am meisten Handlungsfähigkeit aufgibt.

Wenn es um Leben und Tod geht

Die durch KI-Systeme aufgeworfenen Abwägungen wiegen in bewaffneten Konflikten am schwersten. Hier konzentriert sich die Diskussion allzu oft auf «Killerroboter». Tatsächlich durchdringt KI mittlerweile jeden Bereich militärischer und verteidigungspolitischer Operationen – ähnlich wie das zivile Leben. Plattformen, die Daten aus zahlreichen Sensoren zusammenführen, unterstützen Entscheidungen mit schwerwiegenden Folgen, indem sie eine Flut von Informationen zu einer einzigen Empfehlung verdichten. In Medienberichten wurde beschrieben, dass in Gaza KI-Tools namens «Gospel» und «Lavender» eingesetzt werden. Diese kennzeichnen Gebäude und Personen als potenzielle Ziele und übermitteln einem menschlichen Benutzer eine Empfehlung mit einer beigefügten Risikobewertung.

Wir müssen uns fragen: Was wird aus dem menschlichen Urteilsvermögen, wenn ein KI-System die Entscheidung darüber prägt, wann ein Leben genommen werden soll? Das humanitäre Völkerrecht verlangt, dass eine Person abwägt, ob ein Angriff in einem angemessenen Verhältnis zu einem legitimen militärischen Ziel steht und welche konkreten Maßnahmen den Schutz der Zivilbevölkerung gewährleisten. Wie eine geschätzte Wahrscheinlichkeit diese Verantwortung tragen soll, ist keineswegs klar. Eine Zahl wie neunzig Prozent ist eine Systemangabe, die keinerlei Aufschluss darüber gibt, was dabei abgewogen wurde oder was das verbleibende Zehntel beinhaltet. Bestenfalls kann eine solche Zahl dem Menschen, der die Entscheidung trifft, als Anhaltspunkt dienen.

Dies ist jedoch kein Argument gegen Technologie. Keine Armee kann es sich leisten, auf Fähigkeiten zu verzichten, die seine Gegner nutzen werden. Der Krieg in der Ukraine zeigt, wie schnell beide Seiten mittlerweile innovativ sind. Sich gegen den Einsatz von KI-Tools zu entscheiden, wenn der Gegner dies tut, ist gefährlich. Vielmehr müssen Länder militärisch wettbewerbsfähig bleiben und gleichzeitig den Prinzipien treu bleiben, für die ihre Gesellschaft angeblich steht – wie Demokratie und Freiheit. Denn ein Staat, der diese Prinzipien aufgibt, um sich zu verteidigen, hat den eigentlichen Grund für die Verteidigung ausgehöhlt. Gut konzipiert und eingesetzt können dieselben KI-Systeme Informationen über die Zivilbevölkerung und humanitäre Einsätze in ihre Analyse einbeziehen und so Zivilisten schützen statt gefährden. Genau wie in unserem Alltag, in unseren Häusern und Gemeinschaften entscheidet nicht die Technologie, die zur Verteidigung unserer Gesellschaft eingesetzt wird, über ihre Nutzung – sondern wir.

Unsere Aufgabe und Verantwortung

Für mich gibt es keine einfachen Antworten darauf, wie KI die menschliche Sicherheit neu gestalten wird oder wie sich die Kompromisse, die wir eingehen, auf unsere Freiheit auswirken werden. Nahezu jedes KI-System kann uns schützen oder gefährden – je nach Entwicklungsprozess, Anwendungsfall, Kontext und den beteiligten Personen.

Klar ist, dass Freiheit im Zeitalter der KI nicht nur die Abwesenheit von Zwang bedeutet, sondern auch die aktive Wahrung echter Alternativen und verlässlicher Informationen sowie den Freiraum, bewusste Entscheidungen zu treffen. Unsere Aufgabe ist es, die Technologien gut genug zu verstehen, um zu erkennen, was sie uns im Verhältnis zu dem, was sie bieten, kosten – um dann bewusst zu entscheiden, wie, wann, wo und warum wir sie einsetzen, um uns im wahrsten Sinne des Wortes zu schützen.

Bild: Adobe Stock / Leon