Menschenrechte: mit Algorithmen in die Datendiktatur?

Jan 3, 2022

5

min lesen

I

n der Allgemeinen Erklärung der Menschenrechte ist fixiert: „Der Wille des Volkes bildet die Grundlage für die Autorität der öffentlichen Gewalt.“ Somit gehen die Menschenrechte mit demokratischen Systemen einher. Was passiert jedoch mit diesen wertvollen Rechten, wenn wir von der Demokratie in eine Diktatur schlittern.

Du glaubst, das kann nicht passieren?

Zu sicher kannst du dir da nicht sein, denn durch Algorithmen und die damit einhergehenden Automatisierungsprozesse der Gesellschaft sowie dem Voranschreiten der künstlichen Intelligenz, ist der Weg dahin nicht weit.

Big Data: ein historischer Umbruch

Wir stecken mitten in der digitalen Revolution und genießen sie – zumindest in Teilen. Big Data ist ein Schlagwort unseres Zeitalters, welches entscheidend dazu beiträgt, dass sich Gesellschaft und Wirtschaft grundlegend neu organisieren sowie verändern. Philosophen und Sozialwissenschaftler sehen darin den bedeutendsten Umbruch der Menschheitsgeschichte seit Ende des 2. Weltkriegs.

Nach der automatisierten Serienproduktion und den selbstfahrenden Pkws kommt jetzt die Gesellschaftsautomatisierung.

Somit befindet sich der Mensch an einem Scheideweg: auf der einen Seite große Chancen und auf der anderen Seite erhebliche Gefahren. Werden vom Volk und den Machtinhabern die falschen Entscheidungen gefällt, könnte eine Bedrohung wichtigster gesellschaftlicher Errungenschaften anstehen. Darüber sollten wir uns in verantwortungsvoller Weise bewusst sein.

Die Zeichen der Zeit deuten

Wenn du mit Smartphone, Tablet oder PC im Internet surfst, dann hast du eines bereits längst entdeckt: Suchmaschinen und andere Tools zeigen dir personalisierte Vorschläge zu Serviceleistungen und Produkten. Sie erscheinen nicht zufällig, sondern sind individuell auf dich abgestimmt. Dafür wird auf Metadaten und persönliche Daten zurückgegriffen:

Suchanfragen
Konsumverhalten
Bewegungsverhalten
Soziale Umfeld
Standort

Algorithmen wissen, was du tust und teilweise, was du denkst. Da der Mensch über das Internet auch nach Dingen und Informationen sucht, die er ansonsten mit niemandem teilt, weiß der Algorithmus manchmal mehr über uns als Familie und Freunde. Die Vorschläge erscheinen uns wie eigene Entscheidungen, obgleich sie fremdbestimmt sind: smarte Fernsteuerung der schönen, neuen Welt. Doch selbst das ist nicht genug. Inzwischen gibt es das "Persuasive Computing", was für ausgeklügelte Manipulationstechnologien steht. Damit befinden wir uns auf dem nächsten Level: Es geht vom Programmieren der Computer zum Programmieren der Menschen. Das ist die Cybervision eines Paternalismus.

Alles nur für eine bessere Welt?

Politiker rund um den Globus sind von Technologien wie diesen angetan. Mithilfe des „Nudgings“ wird bereits versucht, die Verbraucher im großen Rahmen zu einem umweltverträglicheren und gesünderem Verhalten zu bewegen. Das hört sich nicht verwerflich an, ist es doch für ein großartiges Ziel. Aber ist das richtig? Ein Staat, der sich nicht mehr nur dafür interessiert, was wir tun, sondern auch die Bürger zum richtigen Verhalten drängt, ist gefährlich. Und Big Data + Nudging ergeben das moralisch fragliche Erfolgsrezept Big Nudging. Die Bürger müssen fortan nicht mehr in demokratische Verfahren einbezogen werden, sondern sie lassen sich über den digitalen Zauberstab autoritär regieren.

Zum Schiefgehen verurteilt

Gehen wir einen Moment davon aus, dass die Strippenzieher von Big Nudging es mit der Welt und uns gut meinen. Eine gezielte Meinungskontrolle ist dennoch nicht wünschenswert, da sie letztlich an der Komplexität des Problems scheitern werden. Die Dynamik hinter der Meinungsbildung steckt nämlich voller Überraschungen und niemand kann garantieren, dass die angelegten Manipulationen ihr gewünschtes Ziel erreichen.

Ein wichtiger Grund dafür sind die Rahmenbedingungen einer Situation und die unabsehbaren Konsequenzen für eine Handlungsaufforderung aufgrund von Unwissenheit.

‍Hierzu drei Beispiele:

Im 3. Reich lief die Kriegspropaganda auf Hochtouren. Sie führte dazu, dass Menschen passioniert Hitlers Zielen folgten. Das wurde in dem Zeitrahmen damals als richtig erachtet. Heute haben wir davon ein ganz anderes Bild.
Im Zuge der Schweinegrippeepidemie 2009 gab es Bestrebungen, möglichst rasch und weitflächig zu impfen. Später wurde bekannt, dass die Impfung bei einigen Menschen die unheilbare und stark lebenseinschränkende Narkolepsie ausgelöst hat.
Eine generelle Empfehlung für körperliche Bewegung im Alltag kann Herz-Kreislauf-Erkrankungen reduzieren und damit die Krankenkassen entlasten. Durch Vergünstigungen für den Versicherten könnte dieser verstärkt zum Training bewegt werden. Fitnessbänder könnten dies checken. Doch die Übereifer kann Schattenseiten haben. Mehr Sport kann bei manchen meist Ungeübten zu mehr Sportverletzungen und Hüft-OPs führen.

Pauschallösungen für komplexe Themen gibt es nicht. Daran scheitern auch die aufwendigsten Algorithmen. Selbst wenn sie dies noch bewerkstelligen könnten, gibt es zwei weitere große Probleme:

heimliche Manipulation des Big Nudgings durch Terroristen und Kriminelle
heimliche oder gekaufte Manipulation durch Machthaber oder Unternehmen bei fehlender Transparenz und demokratischer Kontrolle der Big Data

Resonanz- und Echokammereffekt

Der Mensch möchte ungern manipuliert werden. Am liebsten gefällt es ihm, wenn er selbstständig Entscheidungen trifft oder dies zumindest glaubt. Demnach muss das Big Nudging möglichst unauffällig erfolgen. Hierfür bedarf es den sogenannten Resonanzeffekt. Hiermit sind Vorschläge gemeint, die hinreichend kompatibel für den Einzelnen sind. Durch Wiederholung lassen sie sich verstärken, wodurch es letztlich zum Echokammereffekt kommen kann. Du bekommst also nur noch die Meinungen widergespiegelt, die deiner eigenen Meinung entsprechen. Konsequenzen daraus sind eine gesellschaftliche Polarisierung, die wiederum zu drastischen Problemen führen kann. Beispiele dafür findest du in der US-amerikanischen Politik ebenso wie in der Corona-Problematik hierzulande. Ein gegenseitiges Verstehen und eine Wissensbereicherung werden so ausgeschlossen.

Und ein weiterer Aspekt ist wichtig: Die Psychologie offenbart, wie langsam Resonanzeffekte Erfolge zeigen. Diese Verzögerung birgt Gefahren. So kann eine auf ein Thema abgezielte Wirkung plötzlich auf andere Aspekte einwirken, bei diesen diese eine Wirkung wenig wünschenswert ist.

Noch drastischer ist allerdings der Fakt, dass der Mensch durch gezielte, heimliche Manipulationen seine Entscheidungsfindung per se verändert.

Durch die digitalen Manipulationsmaßnahmen werden wichtige soziale und kulturelle Signale – zumindest für eine Zeit – obsolet. Daraus ergeben sich unabsehbare gesellschaftliche Schäden. Bereits jetzt warnen Experten weltweit vor einer Abnahme der Empathie der Menschen durch die Digitalisierung. Sie ist für die Verständigung der Gesellschaft jedoch unerlässlich.

Risiken für Recht und Privatsphäre

Big Data in Verbindung mit Nudging und unser digitales Leben im Allgemeinen werfen zahlreiche rechtliche Fragestellungen auf. Würde es zu einer komplexen Manipulation der Menschen kommen, werden Meinungs- und Entscheidungsfreiheit als bedeutende Menschenrechte eingeschränkt bzw. vernichtet. Eine Demokratie wird dann durch die Datendiktatur ausgetauscht. Und wer möchte schon ein digitaler Sklave sein und somit ein unmündiger Bürger? Haben unsere Vorfahren nicht eifrig und unter Bedrohung ihres Lebens für unsere Freiheit gekämpft? Ist die Freiheit unserer Gesellschaft in Deutschland damit nur eine Irritation der Zeit, die bald wieder ausradiert wird?

Derzeit verläuft das Big Nudging nur in primitiven Zügen. Dennoch ist erschreckend, wie viele Menschen es billigend in Kauf nehmen.

Weisheiten großer Philosophen längst vergangener Zeiten scheinen vergessen. Doch sie sind aktueller denn je. Bereits im 18. Jahrhundert wies Kant auf die Rolle des Staates als Despoten hin, wenn dieser das Glück seiner Bürger bestimmen will.

Um sich selbst zu entfalten, was eines der höchsten menschlichen Güter ist, bedarf es Kontrolle über das eigene Leben.

Hierfür ist eine informationelle Selbstbestimmung die Basis.

Zarte Maßnahmen gegen die Datendiktatur

Transparenz und Dezentralisierung der Daten sind zwei wichtige Maßnahmen, um sich gegen die Datendiktatur zu wehren. Algorithmen dürfen unsere Selbstbestimmung nicht limitieren. Auch darf die Gesellschaft nicht von ein paar Entscheidungsträgern kontrolliert werden, da wir uns ansonsten mit einer neuen Form des Feudalismus konfrontiert sehen.

Laut Umfrage sind 90 Prozent der Menschen nicht in der Lage, mehr als drei ihrer 30 Menschenrechte zu benennen. 👉 𝗦𝘁𝗮𝗿𝘁𝗲 𝗷𝗲𝘁𝘇𝘁 𝗱𝗮𝗺𝗶𝘁, 𝗗𝗲𝗶𝗻𝗲 𝗥𝗲𝗰𝗵𝘁𝗲 𝗮𝗹𝘀 𝗠𝗲𝗻𝘀𝗰𝗵 𝘇𝘂 𝗸𝗲𝗻𝗻𝗲𝗻 𝘂𝗻𝗱 𝘀𝗰𝗵𝗮𝘂 𝗗𝗶𝗿 𝗱𝗲𝗻 𝗩𝗶𝗱𝗲𝗼 𝗱𝗲𝗿 𝗚𝗲𝘀𝗰𝗵𝗶𝗰𝗵𝘁𝗲 𝗗𝗲𝗶𝗻𝗲𝗿 𝗠𝗲𝗻𝘀𝗰𝗵𝗲𝗻𝗿𝗲𝗰𝗵𝘁𝗲 𝗮𝗻 👉 [𝗩𝗜𝗗𝗘𝗢] Die Geschichte Deiner Menschenrechte