Streaming-Portal
Online-Kurse
Produkte
Gratis Geschenk erhalten
20.05.25
Allversum Magazin
  • Bewusstes Sein
  • Gesundheit
  • Inspirationen
  • Umwelt
  • Wissenschaft
  • Filme & Bücher
  • Autorenblogs
No Result
View All Result
  • Bewusstes Sein
  • Gesundheit
  • Inspirationen
  • Umwelt
  • Wissenschaft
  • Filme & Bücher
  • Autorenblogs
No Result
View All Result
Allversum Magazin
No Result
View All Result
Home Wissenschaft

Subliminale Manipulation – Vorsicht vor maschinellen Manipulationstechniken!

16. Juni 2023
Lesedauer: ungefähr 6 Minuten
Subliminale Manipulation – Vorsicht vor maschinellen Manipulationstechniken!
TelegramE-MailFacebookWhatsapp

Die Technologie künstlicher Intelligenzen hat uns in den vergangenen Jahren überrollt, wie eine Lawine, die den Berg herunterrast. Dabei werden erst jetzt Bedenken laut und es mehren sich insbesondere ethische Sorgen. Eine der Sorgen ist die Sorge nach Manipulation, vorwiegend Subliminale Manipulation. Also unterhalb der Bewusstseinsschwelle liegende Manipulation von Menschen durch KI. Wie können wir dieser Gefahr begegnen und vor allem wie lässt sich diese Entwicklung gesetzlich regeln?

Nadine Reuter – Multidimensional was bedeutet das?

Nadine Reuter – Multidimensional was bedeutet das?

Podiumdiskussion – Künstliche Intelligenz – Transhumanismus

Podiumdiskussion – Künstliche Intelligenz – Transhumanismus

Quantum Communication

Quantum Communication

Johann Nepomuk Maier – "The New Human" (Shift-Up Talk)

Johann Nepomuk Maier – "The New Human" (Shift-Up Talk)

Digital Soul – Schnittstelle ins Jenseits

Digital Soul – Schnittstelle ins Jenseits

Erich Hambach – Der Frieden verbindet unterschiedlichste Sichtweisen (Shift-Up Talk)

Erich Hambach – Der Frieden verbindet unterschiedlichste Sichtweisen (Shift-Up Talk)

Gehirn, Seele und Computer – Vortrag

Gehirn, Seele und Computer – Vortrag von Prof. Dr. rer. nat. Günter Ewald

UNESCO nimmt Empfehlung zur Ethik künstlicher Intelligenz an

Transhumanismus Transhumanismus
Krieg gegen die Menschheit
Mehr dazu

Erst im November 2021 haben auf globaler Ebene 193 Mitgliedstaaten der UNESCO eine Empfehlung zur Ethik künstlicher Intelligenz angenommen. Diese Empfehlung erkennt ausdrücklich die „tiefgreifenden und dynamischen positiven und negativen Auswirkungen der künstlichen Intelligenz (KI) auf Gesellschaften, Umwelt, Ökosysteme und Menschenleben einschließlich des menschlichen Geistes“ an. Dabei steht primär die Auswirkung künstlicher Intelligenz auf den menschlichen Geist im Vordergrund. Denn die Nutzung von KI beeinflusst nicht nur die Umwelt, sondern vor allem auch das menschliche Denken, die Interaktion und die Entscheidungsfindung.

Noch deutlicher aufmerksam auf diese Gefahren machte im April 2021 ein Vorschlag der Europäischen Kommission für ein Gesetz, welches allgemein das Ziel verfolgt, die Vertrauenswürdigkeit und Sicherheit von KI-Systemen zu gewährleisten. Hierbei sollen besonders schädliche KI-Praktiken, die gegen die Werte der Union verstoßen, verboten werden. Dazu gehören die, die 1. eine Schwäche bestimmter Gruppe von Personen ausnutzen, 2. zur Bewertung der Vertrauenswürdigkeit natürlicher Personen (social scoring systems) dienen, 3. zur biometrischen Echtzeit-Fernidentifizierung eingesetzt werden, und 4. KI-Systeme, die zur subliminalen (unterschwelligen) Beeinflussung außerhalb des Bewusstseins einer Person eingesetzt werden.

Subliminale Manipulation – Die Gefahren

In dem vorliegenden Legislativvorschlag ist vordergründig dem Punkt „subliminale KI-Systeme“ eine Schlüsselrolle beizumessen. Denn künstliche Intelligenz in Verbindung mit einer stetig wachsenden Zahl anderer fortschrittlicher Technologien wie etwa Hirn-Computer-Schnittstellen ist in der Lage, nicht nur unsere Gedanken zu manipulieren, sondern auch unser Verhalten maßgebend zu beeinflussen.

Diese Art der Manipulation durch Technik wurde bereits in Studien, die der österreichische Neurologe und Psychiater Otto Pötzl vor 1917 durchgeführt hat, nachgewiesen. In Europa führten die Bedenken hinsichtlich subliminaler Manipulation ab 1989 zu einem allgemeinen Verbot subliminaler Werbung im Fernsehen. Ein Beispiel für subliminale Manipulation sind Fälle aus den USA der 90er-Jahre im Zusammenhang mit mehreren Gerichtsprozessen gegen Rockmusiker, deren Songs durch Rückwärtsbotschaften (backward masking) mit subliminalen Nachrichten für den Freitod mehrerer Jugendlicher verantwortlich gewesen sein sollen.

alt="Subliminale Manipulation"

Heute, im Bereich des Neuromarketings, formuliert man die Frage nicht ob, sondern nur mehr wie effizient subliminale Manipulation ist, um die Menschen dorthin zu lenken, wo man sie haben will. Das lässt sich am besten durch sogenannte Gehirn-Spionagesoftwares (brain spyware) veranschaulichen. Denn die erlauben es, mittels subliminaler Techniken und eines maschinellen Lernmodells im Gehirn auf private Daten wie Bankinformationen, PIN-Codes, Wohnort oder Geburtsdatum zuzugreifen.

Dann gibt es da noch die sogenannten „dunklen Muster“ (dark patterns). Sie bezeichnen die manipulative Gestaltung von Webseiten und Social Media Posts mit nicht erkennbaren irreführenden Elementen, um uns durch verschiedene Methoden zu manipulieren, wie z. B. durch verschleierte Werbung, Angstauslösung oder „Bait and Switch“ (locken und wechseln). Dazu zählen auch „Deep Fakes“ oder eine Kombination von gezielter Werbung mit versteckten Algorithmen, die von Suchmaschinen gezielt eingesetzt werden. Nicht nur um den Erfolg eines Unternehmens, sondern auch den Ausgang von beispielsweise Wahlen zu bestimmen, wie der Cambridge-Analytica-Skandal zeigte.

Buchtipp: Transhumanismus
Krieg gegen die Menschheit
Ein Buch von Stefan Magnet

Algorithmen und subliminale Manipulation treiben vorhandene gesellschaftliche Strukturen an

Was wir auch nie vergessen sollten, ist die Tatsache, dass künstliche Intelligenz immer noch nichts anderes ist als eine maschinelle Ansammlung von Daten, herbeigeführt vom Menschen. Was ich damit sagen will, ist, dass eine KI im Grunde nur das Spiegelbild vorherrschender gesellschaftlicher Strukturen ist. So kann die unreflektierte Eingabe verzerrter oder unangemessener Daten, etwa die vorherrschende gesellschaftliche Diskriminierung widerspiegeln und gesellschaftlich unerwünschte Resultate mit ungewollten Spätfolgen erzeugen.

Ein unschönes Beispiel hierfür ist ein Fall, bei welchem der Algorithmus von Google Photos Afroamerikaner auf Bildunterschriften als Gorillas bezeichnete. Und auch ein Social-Media-Chatbot von Microsoft äußerte sich bereits rassistisch. So etwas passiert aufgrund fehlerhafter Programmierungen und den unreflektierten Rückgriff auf bestehende Daten. Ein weiteres Beispiel hierfür ist ein Amazon-Algorithmus, der neue Bewerber mit der aktuellen Belegschaft verglich und daraufhin mehr Männer als Frauen zum Vorstellungsgespräch lud, weil Amazon zu diesem Zeitpunkt bereits mehr Männer als Frauen beschäftigte.

Auf diesem Weg sorgen Algorithmen dafür, vorhandene falsche gesellschaftliche Strukturen zu befeuern. Die Mathematikerin Cathy O’Neil hat in ihrem Buch „Angriff der Algorithmen“ ein ähnliches Beispiel beschrieben – PredPol, ein Programm, das die Wahrscheinlichkeit von Straftaten in bestimmten Regionen Pennsylvanias (USA) vorhersagt. Dieses Programm schickt basieren auf Statistiken bisheriger Festnahmen Polizeistreifen in die jeweiligen Gebiete. Folglich stieg in diesem Gebieten auch die Anzahl der Festnahmen, was wiederum in die Datenbank des Algorithmus einfloss und die Tendenz dahin gehend verstärkte.

Die KI bestätigt also Vorurteile und verstärkt gesellschaftliche Benachteiligung. Weil wir es ihr ermöglichen, zentrale Aspekte sozialer Teilhabe mitzuentscheiden.

Exklusiver Newsletter:

Künstliche Intelligenz

Trage jetzt Deinen Namen sowie Deine E-Mail-Adresse hier unten ein und klicke auf den Button, damit Du Beiträge zum Thema „Künstliche Intelligenz“ erhältst!

*256-Bit SSL-Datenverschlüsselung


Die Basis, auf der KI entscheidet, ist stets von Menschen geschaffen

Transhumanismus Transhumanismus
Krieg gegen die Menschheit
Mehr dazu

Natürlich erwarten wir von einer KI, dass sie moralisch korrekte und menschliche Entscheidungen trifft. Umso schockierter sind wir dann, wenn uns sexistische, rassistische oder andere negative Ergebnisse um die Ohren fliegen. Dabei vergessen wir nur zu gerne, dass die Basis, auf der eine KI entscheidet, stets vom Menschen geschaffen ist. Eine KI kann also immer nur so befangen und diskriminierend sein wie der Mensch, der sie programmiert, und die Trainingsdaten, von denen sie gelernt hat.

Cathy O’Neil hat dazu Folgendes gesagt:

„Algorithmen sind Meinungen, verpackt in Mathematik.“

Um einer manipulierenden KI entgegenzuwirken, muss der Fokus also auf den Daten liegen, mit denen die Maschine gefüttert wird. Das heißt konkret:

  1. Transparenz: Implizite Annahmen und Vorurteile müssen sichtbar sein. Transparenz bei Trainingsdaten ist ein Schritt in diese Richtung.

  2. Verantwortung und Regulierung: Eine staatliche Kontrolle muss her, etwa in Form eines „KI-TÜV“.

  3. Kausalität statt Korrelation: Diskriminierung kann durch kausale Schlussfolgerung und Kontextsensibilisierung vermieden werden.

  4. Diversität: Eine Abkehr von der weißen, männlichen „New Digital Aristocracy“ ermöglicht mehr Teamdiversität.

  5. Wissenstransfer: Damit KI für alle zugänglich und sicher nutzbar wird, muss ein grundlegendes digitales und technisches Verständnis bereits in Schulen vermittelt werden.

Diese Beiträge könnten Dich auch interessieren:

Transhumanismus – Wenn Menschsein nicht mehr ausreicht

Selbstbestimmt oder vom Unterbewusstsein gesteuert?

Vögel sterben – „Der Himmel stürzt ab! Der Himmel stürzt ab!“

Vom WarGaming im Mobilfunklobbyismus

Nadine Reuter – Multidimensional was bedeutet das?

Nadine Reuter – Multidimensional was bedeutet das?

Podiumdiskussion – Künstliche Intelligenz – Transhumanismus

Podiumdiskussion – Künstliche Intelligenz – Transhumanismus

Quantum Communication

Quantum Communication

Johann Nepomuk Maier – "The New Human" (Shift-Up Talk)

Johann Nepomuk Maier – "The New Human" (Shift-Up Talk)

Digital Soul – Schnittstelle ins Jenseits

Digital Soul – Schnittstelle ins Jenseits

Erich Hambach – Der Frieden verbindet unterschiedlichste Sichtweisen (Shift-Up Talk)

Erich Hambach – Der Frieden verbindet unterschiedlichste Sichtweisen (Shift-Up Talk)

Gehirn, Seele und Computer – Vortrag

Gehirn, Seele und Computer – Vortrag von Prof. Dr. rer. nat. Günter Ewald

Quellenangaben zu diesem Beitrag:
  • science.orf.at
  • www.zukunftsinstitut.de
  • www.faz.net
  • www.welt.de
author avatar
Ramona Gröhling
Ich bin die redaktionelle Schriftfee, die für spannende Inhalte bei Allversum sorgt. Ich selbst beschäftige mich mit dem Thema Bewusstseinsentwicklung, seit ich damals das Nest verlassen und auf Reisen gegangen bin. Meiner Meinung nach können wir die Welt nur dann verändern, wenn wir als ersten Schritt anfangen, uns selbst und unsere eigenen Werte zu hinterfragen. Auch unser Verhalten anderen Gegenüber sollte regelmäßig reflektiert werden. Nur so können wir als gutes Beispiel vorangehen, und unsere Umgebung zum Guten verändern. Bewusstsein wächst in mir und die Früchte werden geteilt.
See Full Bio
Tags: AIAlgorithmenAlgorithmusComputerEthikGesellschaftKIkünstliche intelligenzWissenschaftZukunft
Vorheriger Artikel

Ist Wasser ein Menschenrecht? WEF will Wasser rationieren

Nächster Artikel

Solar Geoengineering – Staub als Schutz gegen die Sonne?

Ähnlich(e) Posts

Wissen

Inflation! Der beste Inflationsschutz der Menschheit

24. April 2025
Gerald Hüther: Unsere Schulen produzieren leidenschaftslose Pflichterfüller
Prof. Gerald Hüther

Gerald Hüther: Unsere Schulen produzieren leidenschaftslose Pflichterfüller

29. Juni 2024
Die fabelhafte Welt der Klima-Magier
Wissenschaft

Die fabelhafte Welt der Klima-Magier

22. Juni 2024
Dr. Sweta Adatia und die Macht des Gehirns: Eine Reise zur persönlichen Transformation
Wissenschaft

Dr. Sweta Adatia und die Macht des Gehirns: Eine Reise zur persönlichen Transformation

3. Juni 2024
Dr. Sweta Adatia: Die Pionierin der Neurotransformation
Wissenschaft

Dr. Sweta Adatia: Die Pionierin der Neurotransformation

20. Mai 2024
Nächster Artikel
Solar Geoengineering – Staub als Schutz gegen die Sonne?

Solar Geoengineering – Staub als Schutz gegen die Sonne?

Warum Achtsamkeit kein spiritueller Quatsch ist

Warum Achtsamkeit kein spiritueller Quatsch ist

Sprachen lernen als Brücke für zwischenmenschliche Beziehungen

Sprachen lernen als Brücke für zwischenmenschliche Beziehungen

Schreibe einen Kommentar Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Themen

Achtsamkeit Arbeit Bewusstsein Corona Energie Erde Erfolg Ernährung Filme Freiheit Freude Geist Geld Gesellschaft Gesundheit Glück Heilung Inspiration Interview Kinder Körper Leben Liebe Meditation Medizin Menschheit Musik Nachhaltigkeit Natur Politik Psyche Seele Spiritualität Tiere Tod Umwelt Wahrheit Wasser Weisheit Wirtschaft Wissen Wissenschaft Yoga Zukunft Ökologie

Die Alchemie der Meditation:

0020-Front-Shamatha-der-Pfad-in-den-Himmel

Diese Videos von Dr. Wolf-Dieter Storl gibt es exklusiv nur auf maona.tv:

Wolf Dieter Storl Filme nur auf maona.tv

Kostenloses Live-Webinar

  • Kontakt zu uns
  • AGB
  • Datenschutz
  • Impressum
  • Einzelbildnachweise
lesen. lieben. leben.
Dein Online-Magazin für Körper, Geist und Seele


Jetzt neu auf maona.tv: Plandemie – das Geschäft mit der Angst (streaming)

© 2024 - maona.TV GmbH I Geschäftsführer: Leander von Kraft

No Result
View All Result
  • Bewusstes Sein
  • Gesundheit
  • Inspirationen
  • Umwelt
  • Wissenschaft
  • Filme & Bücher
  • Autorenblogs

© 2024 - maona.TV GmbH I Geschäftsführer: Leander von Kraft

Ja, ich möchte meine kostenfreie 3-teilige "e-Motion-Serie" !

  • Sichere Datenübertragung
  • Einfach & bequem
  • 100 % Kostenfrei

Trage jetzt hier Deinen Namen und Deine E-Mail ein, damit ich Dir Deinen Zugang zum Gratisfilm zusenden kann…

*256-Bit SSL-Datenverschlüsselung

Triple-Cover-allversum-2.png