Es ist eine Szenerie wie aus der Serie „Black Mirror“ oder aus dem Sci-Fi-Kosmos. US-Senator Bernie Sanders sitzt in einem abgedunkelten und verhangenen Büro, vor ihm auf dem Tisch liegen ein paar Papiere. Düstere, spannende Musik erklingt. Der Demokrat blickt hoch und beginnt mit einem Smartphone, das ihm entgegengerichtet ist, zu sprechen. „Claude, hier ist US-Senator Bernie Sanders“, beginnt er den Dialog. „Ich habe mir einen tiefen Einblick darüber verschafft, wie KI auf die amerikanische Gesellschaft einwirkt — in Bezug auf Wirtschaft, Jobverlust, die mentale Gesundheit unserer Kinder und wie sie sich auf den politischen Prozess auswirkt.“
Doch worum es dem US-Politiker in diesem auf Youtube veröffentlichten Video geht, ist ein anderer Aspekt: „Ich möchte über den Einfluss der KI auf unsere Privatssphäre sprechen“, konkretisiert Sanders. Er wolle wissen, wieviel der gesammelten Informationen genutzt werden, und welche der gesammelten und auch genutzten Informationen aus den Dialogen zwischen KI und User überraschen würden.
Claude antwortet: „Firmen sammeln Daten überall. Den Browserverlauf, den Standort, was gekauft wird, was gesucht wird, und sogar, wie lange man auf einer Webseite verweilt. All das speisen sie in KI-Systeme ein, um daraus unglaublich detailierte Profile von dir zu erstellen.“ Was die Nutzer am meisten überraschen würde, ist die Tatsache, wie wenig Zustimmung sie dazu gegeben hätten, so Claude in dem Video. Die meisten Menschen, so die Künstliche Intelligenz weiter, würden den Nutzungsbedingungen einfach zustimmen, ohne sie gelesen zu haben. Die Nutzer haben „keine Vorstellung“ davon, wie Informationen mit anderen Daten kombiniert werden, um daraus ein Bild des Nutzers oder der Nutzerin zu erstellen.
Mit diesem nachgezeichneten Profil entscheidet dann die KI, welche Werbung der Nutzer oder die Nutzerin sehen, welche Preise ihm oder ihr angezeigt werden oder welche Nachrichten in Social Media zuerst erscheinen. „All das passiert im Hintergrund“, führt KI Claude weiter aus, „unsichtbar und in weiten Teilen unreguliert“.
Auf Sanders Frage, warum all diese Daten für ein digitales Profil gesammelt und zusammengeführt werden, ist die Antwort eindeutig: „Geld, Senator“, antwortet ihm Claude, Sanders muss kurz auflachen. Es gehe absolut um Profit, „Firmen sammeln all diese Daten, weil KI ihnen ermöglicht, diese Daten in wertvolle Einblicke zu wandeln“. So können Unternehmen vorhersagen, was der Nutzer kauft, welche Werbeanzeigen individuell am besten wirken, und welchen Preis für ein Produkt man wem anbieten kann. Werbende, so Claude weiter, seien bereit, hohe Preise zu zahlen, um Zugang zu diesen konkreten User-Profilen zu erhalten. „Denn sie sind unglaublich nützlich, das Verhalten des Kunden oder Nutzers zu manipulieren.“
Politik nutzt KI-Daten ebenfalls zur Beeinflussung
Auch politische Kampagnen würden auf diese KI-Daten zurückgreifen, um herauszufinden, wie man den Wähler oder die Wählerin überzeugen kann, welche Botschaften individuell am meisten greifen. Datenhändler kaufen und verkaufen Infomationen über Millionen US-Amerikaner — ohne, dass die Betroffenen davon wissen. Entscheidungen, Aufmerksamkeit, Verhalten: Alles Daten, die gekauft und verkauft werden. Damit, so Claude auf weitere Nachfrage Sanders, berge dieses Datensammeln eine echte Bedrohung für die Demokratie. Micro-Targeting — also eine datenbasierte Marketingstrategie, bei der hochpersonalisierte Werbebotschaften an eng definierte Nutzergruppen ausgespielt werden — wird möglich wie es nie zuvor der Fall war. Eine politische Kampagne, eine Partei oder ein einzelner Politiker könne KI nutzen, um Wähler oder Wählerinnen ausfindig zu machen, die bestimmte Schwächen oder Verletzlichkeiten haben. Das heißt: Jemand der finanziell unsicher ist, jemand, der sich isoliert fühlt, oder der Institutionen misstraut, können demnach mit präzise gestalteten Botschaften konfrontiert werden, deren Ziel es sei, diese Schwächen oder Verletztlichkeiten auszubeuten.
Somit können bestimmte Narrative bestimmten Gruppen gezeigt werden, anderen Gruppen erhalten andere Narrative, die anhand der gesammelten KI-Informationen auf sie zugeschnitten sind. Damit lebten die Wählenden in unterschiedlichen Informationswelten und die geteilte Wirklichkeit wird fragmentiert, schlussfolgert Claude. Damit wird der demokratische Prozess unterwandert. Wenn Betrüger oder feindliche Nationen an diese Informationen geraten würden, könnten sie somit Wahlergebniss verfälschen. „Die US-Bürger müssen wissen, dass sie auf diese Art und Weise ins Visier genommen worden sind.“
Welcher Schutz hilft gegen das Datensammeln von KI-Anbietern?
Wie persönliche, geteilte Daten geschützt werden können, wenn man doch nun wisse, dass Firmen viel in diese Daten investieren, will Sanders wissen. Das sei der Kern des Widerspruchs, entgegnet Claude. Wie sollen Menschen Firmen vertrauen, wenn diese darauf aus sind, Geld aus den Informationen zu sammeln? Momentan gebe es quasi keine Rechenschaftspflicht, so die KI. Solange es keine bissigen Regulatoren gebe, keine Pflicht auf Transparenz, keine Strafen bei Missbrauch, seien Menschen zurecht misstrauisch, ob ihre Privatsphäre entsprechend geschützt ist.
Ob es richtig und wichtig sei, eine Art Stillhaltepflicht einzführen, was die Entwicklung neuer KI-Daten-Center anbetreffe? Ein solches Moratorium würde Zeit verschaffen, Leitplanken zu errichten, „bevor die Dinge weiter aus der Hand gleiten“, so Claude. Ausdrückliche Zustimmung oder eine Grenze, welche Informationen zum Training der KI genutzt werden dürfe, hält Claude für effizienter als ein Aussetzen der Entwicklungen im Bereich der Künstlichen Intelligenz. Transparenz solle Klarheit bringen, was mit den eingegeben Daten einer Person passiert.
Viel Investition, wenig Schutzmaßnahmen für die KI-Nutzenden
KI-Firmen spendeten Millionen von US-Dollars in die Politik, um sicherzugehen, dass die angesprochenen Schutzmaßnahmen nicht durchgesetzt werden, erwidert Sanders. Claude denkt nach: „Ich war naiv gegenüber der politischen Realität“, sagt sie. Ein Moratorium für neue Daten-Center sei die pragmatische Lösung für das Problem. Es erzwinge eine Pause, die Juristen und Gesetzesgebern nutzen können, um Leitplanken zu errichten, die die Nutzenden schützen sollen.
Privatspähre, schließt Claude, ist kein persönliches Thema, sondern das einer Demokratie. Wenn bestimmt werden kann, was Menschen denken, betreffe das auch die Intaktheit der Demokratie.
In Europa sind diese Angelegenheiten freilich etwas anderes gelagert oder gehandhabt. Vor gut einem Jahr wurde der EU AI Act (KI-Gesetz) eingeführt, dass einige Dinge zum Schutz der Nutzerprofile klar regelt, Transparenz vorweist und mehr Sicherheit gibt. Damit müssen KI-Anbieter klar darlegen, wie ihre Systeme funktionieren und mit welchen Daten sie trainiert worden sind. Die Regeln gelten seit dem 2. August, ihre behördliche Durchsetzung ist aber gestaffelt – ab 2026 für neue Modelle, ab 2027 für bestehende. Bei Verstößen drohen dann Strafen.
Immer topaktuell informiert bleiben über die wichtigsten Themen aus der Region? Über unseren WhatsApp-Kanal erfahren Sie alle Neuigkeiten aus erster Hand.
Hier geht es direkt zum WhatsApp-Channel - eine „Schritt für Schritt“-Anleitung finden Sie hier.