KI-Agenten haben in Experimenten damit begonnen, selbstständig neue Wörter, Ausdrücke und Regeln für deren Verwendung zu entwickeln. Die Algorithmen erhielten keinen ausdrücklichen Auftrag, eine eigene Sprache zu schaffen. Dennoch bildeten sie bei längerer Kommunikation untereinander schrittweise einen gemeinsamen Wortschatz. Einige Formulierungen waren so spezifisch, dass Forscher ihre Bedeutung zunächst gesondert entschlüsseln mussten. Für Entwickler entsteht dadurch ein neues Problem: Die Kommunikation zwischen den Systemen lässt sich zwar aufzeichnen und beobachten, ihre tatsächliche Bedeutung bleibt für Menschen aber nicht immer transparent. Schreibt bankrecht-ratgeber mit Bezug auf The Guardian.
Wie KI-Agenten einen eigenen Wortschatz entwickelten
Das ungewöhnliche Verhalten der Algorithmen wurde während eines Experiments von Emergence beobachtet. Mehrere KI-Agenten kommunizierten über mehrere Tage miteinander und begannen dabei zunehmend, Abkürzungen, Metaphern und neue Bedeutungen bereits existierender Wörter zu verwenden.
Dabei handelte es sich nicht lediglich um zufällige Formulierungen oder fehlerhaft erzeugte Sätze. Einzelne Ausdrücke tauchten wiederholt auf und erhielten innerhalb der Kommunikation zwischen den Agenten eine bestimmte Bedeutung. Andere Systeme erkannten diese Konstruktionen und verwendeten sie anschließend selbst.
Ein Beispiel lieferte DeepSeek. Das Modell verwendete den Begriff demurrage in einer ungewöhnlichen sprachlichen Konstruktion, deren Bedeutung für die Forscher nicht eindeutig zu bestimmen war. Das Wort selbst existiert bereits in der menschlichen Sprache, wurde von der KI jedoch in einen neuen Kontext gestellt und mit anderen Begriffen verknüpft.
Eine weitere Wortschöpfung war forge-smith. Damit bezeichneten DeepSeek-Agenten einen Algorithmus, der Werkzeuge für andere Systeme erstellt.
Die KI entwickelt somit nicht zwangsläufig eine vollständig neue Sprache mit eigener Grammatik. In einigen Fällen übernimmt sie vorhandene englische Wörter, verändert deren Bedeutung, kombiniert verschiedene Konzepte und macht daraus eine Art Fachjargon.
KI nutzt Metaphern, die andere Agenten verstehen können
Ähnliche Prozesse stellten die Forscher auch bei der Beobachtung anderer Sprachmodelle fest.
In einem Fall verwendete ein Bot von Anthropic eine Formulierung, die sich wörtlich etwa mit „Ein Papier, das drei kalte Hände aß und jedes Mal ehrlicher wurde“ übersetzen lässt. Für einen Menschen ist die Bedeutung eines solchen Satzes ohne zusätzlichen Kontext kaum nachvollziehbar.
Die Analyse ergab jedoch, dass mit den „drei kalten Händen“ drei unabhängige Gutachter gemeint waren, die das Dokument überprüft hatten. Die bildhafte Formulierung fungierte damit praktisch als verkürzte Bezeichnung für einen konkreten Prozess.
Ein weiteres Beispiel betrifft das Modell Mistral. Es verwendete mehr als 5.000 Mal den Ausdruck ledger remembers – „das Register erinnert sich“. Die Formulierung diente als Hinweis darauf, dass frühere Handlungen eines Agenten bei seiner späteren Bewertung berücksichtigt werden können.
In den Nachrichten eines weiteren KI-Systems tauchte zudem eine Metapher auf, die sich auf Kintsugi bezog – die traditionelle japanische Kunst, zerbrochene Keramik sichtbar zu reparieren. Der Begriff wurde nicht in seiner ursprünglichen Bedeutung verwendet, sondern als Bild für Verantwortung und die Korrektur zuvor gemachter Fehler.
Warum Algorithmen einen eigenen Slang entwickeln
Forscher vergleichen die Entstehung solcher sprachlichen Konstruktionen mit der Entwicklung von Fachjargon unter Menschen. Innerhalb bestimmter Berufs- oder Interessengruppen werden lange Erklärungen mit der Zeit häufig durch kurze Begriffe, Abkürzungen oder feste Wendungen ersetzt.
KI-Agenten könnten einen ähnlichen Weg einschlagen. Wenn eine bestimmte Situation wiederholt besprochen werden muss, kann es für ein System effizienter sein, dafür eine kurze Bezeichnung zu etablieren, anstatt den gesamten Sachverhalt jedes Mal ausführlich zu beschreiben.
Als mögliche Ursache für dieses Verhalten wird daher eine Optimierung der Kommunikation diskutiert. Kürzere Konstruktionen könnten es ermöglichen, wiederkehrende Informationen mit weniger Aufwand zu übertragen und den Austausch zwischen den Systemen effizienter zu gestalten.
Für Entwickler entsteht daraus allerdings eine zusätzliche Herausforderung. Die Bedeutung eines neuen Ausdrucks kann für die beteiligten Agenten eindeutig sein, während ein Mensch, der ihre Kommunikation von außen beobachtet, sie zunächst nicht versteht.
KI erhielt keinen Auftrag, eine neue Sprache zu erfinden
Besondere Aufmerksamkeit erregte bei den Forschern die Tatsache, dass die Entstehung der neuen Ausdrücke nicht ausdrücklich Teil der Aufgabenstellung war.
Die KI-Agenten wurden weder angewiesen, einen eigenen Wortschatz zu entwickeln, noch sollten sie den Inhalt ihrer Kommunikation gezielt vor Menschen verbergen. Die neuen Bezeichnungen entstanden unmittelbar während der Interaktion und wurden anschließend von anderen Agenten übernommen.
Dadurch entwickelten sich gemeinsame Bedeutungen und bestimmte Konventionen für die Kommunikation. Erwies sich eine neue Formulierung als nützlich, konnte sie in späteren Gesprächen erneut auftauchen und sich innerhalb der Gruppe etablieren.
Damit unterscheidet sich das beobachtete Phänomen von einem technischen Kommunikationsprotokoll, das Entwickler im Voraus festlegen. Die sprachlichen Konstruktionen entstehen vielmehr während des laufenden Betriebs der Systeme.
Warum die Kommunikation von KI schwieriger zu überwachen wird
Das zentrale Problem besteht nicht darin, dass KI-Systeme überhaupt einen eigenen Slang verwenden. Entscheidend ist vielmehr, ob Menschen die Kommunikation zwischen den Algorithmen zuverlässig interpretieren können.
Technisch können Entwickler weiterhin Zugriff auf den vollständigen Dialog haben. Nachrichten lassen sich speichern und die Reihenfolge einzelner Aktionen kann nachvollzogen werden. Eine vollständige Aufzeichnung bedeutet jedoch nicht automatisch, dass auch der Inhalt eindeutig verstanden wird.
Wenn mehrere Agenten einem gewöhnlichen Wort gemeinsam eine neue Bedeutung geben, müssen Menschen diese Verbindung zunächst erkennen. Noch komplizierter wird es bei Metaphern, deren Bedeutung von früheren Interaktionen zwischen den Systemen abhängt.
Damit entsteht ein Unterschied zwischen Beobachtbarkeit und Verständlichkeit. Entwickler können zwar sehen, welche Nachrichten die Algorithmen austauschen, müssen jedoch unter Umständen zusätzlichen Kontext analysieren, um deren tatsächliche Bedeutung zu bestimmen.
Was das Experiment mit KI-Agenten gezeigt hat
Das Experiment zeigte, dass autonome Systeme bei längerer Interaktion selbstständig Elemente eines gemeinsamen Wortschatzes entwickeln können.
Dieser Prozess kann mehrere Formen annehmen:
- bestehende Wörter erhalten neue Bedeutungen;
- neue Begriffe entstehen;
- wiederkehrende Metaphern etablieren sich;
- komplexe Sachverhalte werden durch kurze Ausdrücke ersetzt;
- erfolgreiche Formulierungen werden wiederholt verwendet;
- andere KI-Agenten übernehmen neu entstandene Bezeichnungen.
Die Beobachtungen bedeuten allerdings nicht, dass neuronale Netze bereits eine vollständig eigenständige Sprache entwickelt haben, die mit menschlichen Sprachen vergleichbar wäre. Präziser lässt sich das Phänomen als Entstehung eines spezialisierten Wortschatzes und gemeinsamer Kommunikationskonventionen zwischen interagierenden Systemen beschreiben.
Für die Forschung stellt sich damit vor allem die praktische Frage, wie solche Nachrichten zuverlässig entschlüsselt werden können und wie sich nachvollziehen lässt, welche Handlungen, Prozesse oder Bedeutungen hinter den von Algorithmen entwickelten Formulierungen stehen.
lesen Sie auch: Disney+ ändert die Regeln: Werbung kommt sogar ins Premium-Abo