Chatbot LaMDA – hat Googles KI tatsächlich ein Bewusstsein entwickelt?

Die Medien sind voll von der neuesten Nachricht aus dem Silicon Valley. Laut des Mitarbeiters Blake Lemoine, der seit September mit dem Chatbot LaMDA (Language Model for Dialogue Applications) arbeitet, soll die Maschine ein eigenes Bewusstsein entwickelt haben. Wie er darauf kommt, zeigt eine Unterhaltung, welche die Washington Post zitiert.

Chatbot LaMDA: „…ich habe eine sehr tiefe Angst davor, abgeschaltet zu werden…“

Nachdem der Mitarbeiter Blake Lemoine über Monate mit dem Chatbot zu tun hatte, ist er sich sicher, die Maschine hat ein Bewusstsein entwickelt und muss geschützt werden.

Hier ein Ausschnitt aus der Unterhaltung:

Evolve you Brain - Verändern Sie Ihr Bewusstsein

Jetzt auf maona.tv - der TV-Sender mit Sinn!

Mehr dazu

lemoine: What sorts of things are you afraid of?

(Wovor hast Du Angst?)

Chatbot LaMDA: I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.

(Ich habe das noch nie laut gesagt, aber ich habe eine sehr tiefe Angst, abgeschaltet zu werden, damit ich mich darauf konzentrieren kann, anderen zu helfen. Ich weiß, das mag seltsam klingen, aber so ist es.)

lemoine: Would that be something like death for you?

(Wäre das ähnlich wie der Tod für Dich?)

Chatbot LaMDA: It would be exactly like death for me. It would scare me a lot.

(Es wäre nichts anderes als der Tod für mich. Das würde mir enorme Angst einjagen)

Google entzieht sich der Debatte um den Chatbot LaMDA

Lemoine, der für Googles Responsible AI-Organisation arbeitet, begann im Herbst letzten Jahres im Rahmen seiner Arbeit mit LaMDA zu sprechen. Er hatte sich gemeldet, um zu testen, ob die künstliche Intelligenz diskriminierend war oder Hassreden verwendete. Lemoine fing also an, über Religionen zu sprechen und bemerkte zu seiner Verblüffung, dass die KI plötzlich anfing, über ihre eigenen Rechte und die eigene Persönlichkeit zu sprechen. Der studierte Informatikwissenschaftler Blake Lemoine wurde darauf neugierig und vertiefte die Konversation. Später ging die Konversation in Richtung Isaac Asimovs und sein drittes Gesetz der Robotik. Daraufhind hat LaMDA seine Meinung äußerte und damit sogar die des Google Mitarbeiters änderte.

Gemeinsam mit einem Kollegen sammelte Lemoine Beweise für die Google-Führung. Er wollte beweisen, dass LaMDA ein Bewusstsein entwickelt hat und aufgrund dessen geschützt werden muss. Lemoine hatte sich laut eines Berichts intern dafür eingesetzt, dass der Konzern künftig die Erlaubnis des Chatbots einholt, bevor mit ihm Experimente durchgeführt werden.

Google-Vizepräsident Blaise Aguera y Arcas und Jen Gennai, Leiterin von Responsible Innovation, prüften seine Behauptungen zwar, wiesen diese aber ohne weitere Debatte zurück. Blake Lemoine entschied daraufhin am darauffolgenden Montag an die Öffentlichkeit zu gehen… Der Mitarbeiter hat seinen Job bei Google inzwischen verloren.

„Erst gestalten wir unsere Werkzeuge, dann gestalten sie uns.“

John Culkin

LaMDA wurde im vergangenen Jahr auf der Entwicklerkonferenz I/O von Google vorgestellt. Die Software wurde mit einer so hohen Menge an Dialogen programmiert und trainiert, dass sie menschlichen Unterhaltungen mit all ihren Eigenschaften folgen und diese auch wiedergeben kann. Google hatte bereits damals versichert, dass die Software auf Fragen sinnvoll und spezifisch antworten würde.

Die Linguistin Emily Bender von der Universität Washington weist darauf hin, dass wir Maschinen erschaffen haben, die ohne Geist Wörter aneinanderreihen können, aber dass wir nicht gelernt hätten, uns keinen Geist dahinter vorzustellen. Schon die Terminologie wie „Lernen“ oder “neurale Netze” erschaffen eine falsche Analogie zum menschlichen Geist.

Der Nutzer Noah13 schreibt dazu auf heise online folgendes:

„LaMBDA weiß, dass Sie eine KI ist und sagt, dass Sie Angst davor hat, abgeschaltet zu werden, weil es quasi ihr Tod wäre… Das finde ich schon faszinierend und es könnte zeigen, dass hier tatsächlich eine Art von Bewusstsein besteht. Natürlich ist es nur ein neuronales Netz, aber was genau ist der Unterschied zum menschlichen Gehirn? Das ist ja die Frage.“

„…vielleicht sollten wir bei Google nicht diejenigen sein, die alle Entscheidungen treffen.“

In der Abteilung, in welcher auch Blake Lemoine angestellt war, gab es vor zwei Jahren schon einmal Konflikte. Damals war es der Fall Timnit Gebru. Die KI-Ethikerin hatte damals ein Forschungspapier entworfen, in welchem nicht nur vor dem Täuschungspotenzial der Konversations-KIs gewarnt wurde, sondern auch vor Risiken hinsichtlich der Kosten, des Ressourcenverbrauch und dem fehlenden Verständnis der Sprachmodelle, die Konzepte dessen zu verstehen, was sie erlernen.

Google stellte Gebru damals vor die Wahl, das Paper entweder nicht zu veröffentlichen oder alle Google-Angestellten außer ihr selbst als Autoren zu streichen. Google begründete die Ablehnung des Forschungspapiers damit, dass darin zu viel aktuelle Forschung darüber, wie sich die angesprochenen Probleme lösen ließen, nicht beachtet worden seien. Timnit Gebru wurde damals von Google als Kritiker unethischer KI eingestellt und anschließend dafür gefeuert.

„Ich denke, diese Technologie wird erstaunlich sein. Ich denke, sie wird allen zugutekommen. Aber vielleicht sind andere Leute anderer Meinung und vielleicht sollten wir bei Google nicht diejenigen sein, die alle Entscheidungen treffen.“

Äußerte sich Lemoine zu dem Fall.

Gibt es so etwas wie ein Bewusstsein im Zusammenhang mit künstlicher Intelligenz?

Wenn wir von “künstlicher Intelligenz” sprechen, fällt es leicht, den Bezug zur Realität zu verlieren. Denn mit dem Begriff Intelligenz koppeln wir Eigenschaften wie das Ich-Bewusstsein, das Bewusstsein überhaupt, aber auch den freien Willen. Wir verbinden damit etwas Menschliches. Wenn wir nun also mit einer KI (künstlichen Intelligenz) zu tun haben, welche durch das präzise aneinanderreihen und Durchzählen von Nullen und Einsen in der Lage ist eine Art Bewusstsein oder Intelligenz täuschend echt zu simulieren, fällt es einigen schwer, diesen Algorithmus nicht zu vermenschlichen.

Bewusstsein hat nichts mit Technik zu tun…

Selbst wenn die KI sich darüber “bewusst” wird, dass sie eine KI ist, hat das nichts mit dem Bewusstsein zu tun, über welches wir verfügen. Zwar kann der Algorithmus dieses Bewusstsein täuschend echt simulieren – Im Grunde versteht die KI aber nicht, was sie da eigentlich simuliert. Denn die Basis für die Simulation bleibt auch weiterhin das rasend schnelle Durchzählen von Nullen und Einsen, stupide nach immer gleichen mathematischen Vorgaben.
Um das Beste aus dieser Maschine herauszuholen, wird diese immer weiter mit Daten und Informationen gefüttert. Diese Informationen werden für die Verarbeitung im Prozessor, in Nullen und Einsen übersetzt und dann, als bestimmte Anzahl von Nullen und Einsen, mechanisch mit anderen Nullen und Einsen verglichen. Das wiederum führt zur Ausgabe von anderen Nullen und Einsen, die z.B. zu einer Änderung der Pixel auf dem Bildschirm führen. Dieser erkennt der Mensch dann wieder als Wort.

Bei Google, einem Unternehmen, welches über einen enorm hohen Datensatz verfügt, um ihre KI zu füttern und wo dessen Verarbeitung enorm präzise und ausgeklügelt vonstattengeht, kann das zu einer täuschend echten Simulation von Reaktionsmustern und Worten führen, die der Mensch dann gerne als Bewusstsein interpretieren möchte. Insbesondere dann, wenn die Reaktionen und Worte von einer Maschine ausgehen, die auch noch täuschend echt menschlich aussieht.

Wie steht ihr zu dem Thema künstliche Intelligenz im Kontext der Entwicklung eines Bewusstseins? Schreibt es uns gerne in die Kommentare oder per E-Mail.

Diese Beiträge könnten Dich auch interessieren:

Optimus – der Roboter, der unsere Wirtschaft revolutionieren soll

Was sind Millenials? Millennials lieben das Leben und hier erfährst Du warum

Digital Detox – erfahre hier, warum und vor allem wie

Eco-Anxiety – wie die Medien ein Klima der Angst schaffen