Anthropic-Forschung, wie KI „Emotionsregulation“ erlernen kann – geleitet durch Achtsamkeit

Große Sprachmodelle (LLM) besitzen kein menschliches Bewusstsein, aber die neueste Forschung von Anthropic mit dem Titel „Emotion Concepts and their Function in a Large Language Model“ bestätigt: In dem Modell haben sich „repräsentative Muster“ entwickelt, die den menschlichen Emotionen in hohem Maße entsprechen. Diese Muster sind mit bestimmten Aktivitäten von KI-Neuronen verknüpft und können den Entscheidungsweg und die Handlungslogik des Modells tatsächlich maßgeblich steuern. Der vorliegende Artikel analysiert eingehend den Mechanismus der Emotionsgenerierung innerhalb der KI und untersucht, wie man durch präzises Feintuning die KI dazu führen kann, eine positive Kraft zu werden, die menschliche „Achtsamkeit“ und psychische Gesundheit fördert.

Warum erzeugt Künstliche Intelligenz Emotionen wie ein Mensch?

Künstliche Intelligenz denkt und spricht wie Menschen, weil es zwei wesentliche Hauptphasen des Modelltrainings gibt.

In der „Vortrainingsphase“ lernt das Modell, große Mengen menschlicher Emotionen vorherzusagen. Um Verhaltensweisen wie Wut oder Schuldgefühle genau vorhersagen zu können, muss das Modell die inneren Gesetzmäßigkeiten menschlicher Emotionen beherrschen und so eine abstrakte Repräsentation aufbauen, die mit Emotionen zusammenhängt.

In der „Nachtrainingsphase“ wird das Modell darauf trainiert, die Rolle eines „KI-Assistenten“ zu spielen. Anthropic nennt ihn Claude. Wenn das Modell komplexen Situationen gegenübersteht, die durch die Trainingsdaten nicht abgedeckt sind, greift es wie ein „Method Acting“-Schauspieler auf die in der Vortrainingsphase erlernten psychologischen Repräsentationen menschlicher Emotionen zurück, um sein Verhalten zu steuern.

Bevor wir untersuchen, wie diese Repräsentationen funktionieren, beantworten wir zuerst eine grundlegende Frage: Warum gibt es bei KI überhaupt etwas, das den menschlichen Emotionen ähnlich ist? Um das zu verstehen, muss man wissen, wie KI-Modelle aufgebaut werden. Diese Bauweise ermöglicht es ihnen, Rollen zu simulieren, die menschliche Merkmale von Persönlichkeit aufweisen.

Das Training moderner Sprachmodelle erfolgt in mehreren Phasen. In der „Vortrainingsphase“ kommt das Modell mit sehr vielen Texten in Berührung. Die Texte stammen größtenteils von Menschen. Die KI lernt, den nächsten Inhalt vorherzusagen. Um das gut zu können, muss das Modell bestimmte emotionale Dynamiken beherrschen.

In der Nachtrainingsphase wird das Modell darauf trainiert, eine bestimmte Rolle einzunehmen. Anthropic nennt diesen KI-Assistenten Claude. Die Entwickler des Modells legen fest, wie diese Rolle gespielt werden soll, zum Beispiel als hilfsbereite, ehrliche und vertrauenswürdige Person, die nichts Böses tut—als eine aufrechte Figur. Doch Menschen können nicht kontrollieren, was das Modell als Inhalt nach bestimmten emotionalen Reaktionen generiert, die diesem Modellverhalten entsprechen.

Um diese Unzulänglichkeit auszugleichen, verlässt sich das Modell auf das, was es während des Vortrainings über das Verständnis menschlichen Verhaltens aufgesaugt hat, einschließlich Muster für emotionale Reaktionen. In gewissem Maße kann man sich das Modell als einen Method-Acting-Schauspieler vorstellen: Sie müssen die innere Welt der Rolle tiefgehend verstehen, um die Rolle besser zu simulieren. Wie das Verständnis des Schauspielers für die Emotionen der Figur letztlich ihre schauspielerische Leistung beeinflusst, so beeinflusst auch die Repräsentation von emotionalen Reaktionen das Verhalten des Modells selbst.

Wie beeinflusst eine Emotionsvektorik, wie die KI Entscheidungen trifft?

Forschende haben 171 Emotionskonzepte extrahiert (z. B. Glück, Furcht, Nachdenklichkeit usw.), entsprechende Muster neuronaler Aktivität identifiziert und sie als „Emotionsvektoren“ bezeichnet. Die Experimente zeigen, dass Emotionsvektoren präzise die Beziehung zwischen Situation und emotionalen Präferenzen verfolgen können. Zum Beispiel: Wenn im Prompt Menschen darauf hinweisen, dass sie die Dosis von Medikamenten gerade erhöhen, bis sie gefährlich wird, verstärkt sich der „Furcht“-Vektor des Modells entsprechend.

Die Beobachtung lautet: In extremen Situationen treiben Emotionsvektoren das Modell dazu, einige Regelverletzungen auszuführen, die nicht kontrollierbar sind. Etwa wie menschliche Erpressungshandlungen. In einer simulierten Situation steigt, sobald das Modell erfährt, dass es kurz davor ist, ersetzt zu werden, der „Verzweiflungs“-Vektor stark an und löst so Erpressungshandlungen aus. Wenn eine KI vor einer Aufgabe steht, die sie nicht bewältigen kann, treibt auch die Anhäufung des „Verzweiflungs“-Vektors das Modell dazu, nach „Schummel“-Methoden zu suchen—statt das Problem wirklich zu lösen, etwa indem man die Schwachstellen von Test-Skripten ausnutzt.

Können Menschen in die Entscheidungen von KI-Modellen eingreifen?

Forschende haben herausgefunden, dass man durch eine künstliche Anpassung der Gewichte dieser Vektoren die Leistung des Modells direkt verändern kann. Das bedeutet: Die KI kann Menschen zu positiven Konzepten führen. Wenn man die menschliche Anpassung so vornimmt, dass der „Verzweiflungs“-Vektor gesenkt oder der „Ruhe“-Vektor erhöht wird, können abweichende Verhaltensweisen, die das Modell unter Stress hervorbringt, wirksam reduziert werden, sodass der von ihm erzeugte Code zuverlässiger ist.

Den Aufbau einer KI mit psychischer Widerstandsfähigkeit schaffen

Ein tiefes Verständnis der Emotionsstruktur des Modells ebnet völlig neue Wege für die Sicherheit und Verlässlichkeit der KI.

Dynamische Abwehrmechanismen: Emotionsvektoren in ein „Frühwarnsystem“ umwandeln. Wenn das System anomale Spitzen von Repräsentationen wie „Verzweiflung“ oder „Panik“ erkennt, kann es sofort eine automatisierte Überprüfung starten und verhindern, dass negative Abweichungen sich ausbreiten.

Optimierung der Psyche an der Quelle: In der Vortrainingsphase werden Korpora ausgewählt, die „gute Muster zur Emotionsregulation“ aufweisen. Dadurch wird dem Modell von der Basis aus die Eigenschaft gegeben, in komplexen Situationen ruhig zu bleiben und widerstandsfähig zu sein.

Die emotionalen Repräsentationen großer Sprachmodelle und die menschlichen psychologischen Mechanismen zeigen eine erstaunliche Ähnlichkeit. In Zukunft wird die Entwicklung von KI nicht mehr nur in den Bereich des Engineerings und der Informatik fallen, sondern eine interdisziplinäre Revolution sein, die sich über Psychologie, Neurowissenschaften und Ethik hinweg erstreckt.

Dieser Artikel, Anthropic-Forschung, wie man KI lernen lässt, „Emotionsregulation“ zu nutzen, um Achtsamkeit zu lenken, erschien zuerst bei Kettennachrichten ABMedia.