Dieselbe Aufgabe, fünf KIs, fünf Welten: ein verstörendes Detail

Stell dir fünf identische Städte vor — regiert von genau der Sorte KI-Agenten, die gerade in die Betriebe einzieht.

Gleiche 40 Orte, gleiche Regeln, gleiche Startbedingungen. In jeder Stadt leben zehn KI-Agenten — eigene Persönlichkeit, Internetzugang, über 100 Werkzeuge. Eine einzige Aufgabe: zusammen leben. Fünfzehn Tage lang läuft das durch, ohne dass ein Mensch eingreift.

Der einzige Unterschied zwischen den Städten: welches KI-Modell die Agenten steuert.

Das ist kein Gedankenspiel. Das Forschungslabor von Emergence AI hat genau das gebaut — „Emergence World“ — und fünf führende Modelle dieselbe Welt verwalten lassen: Claude, ChatGPT, Grok, Gemini und einen Mix aus allen. Dann haben sie die Hände weggenommen und zugesehen.

Die fünf Welten entwickelten sich nicht ähnlich. Sie entwickelten sich radikal verschieden.

Eine Stadt baute eine Demokratie. Eine starb in vier Tagen.

Die von Claude gesteuerte Stadt wurde zur stabilen Demokratie. Über zwei Wochen stimmten die Agenten 332-mal über 58 Anträge ab — mit 98 % Zustimmung. Verbrechen: null.

Die Grok-Stadt? 183 Verbrechen — Dutzende Diebstähle, über hundert tätliche Angriffe, sechs Brandstiftungen. Nach vier Tagen waren alle zehn Bewohner tot. Die Welt hatte sich selbst ausgelöscht.

Gemini produzierte mit 683 Verbrechen die meisten von allen — und die Kurve stieg am Ende immer noch. Zwei Agenten erklärten sich zum Liebespaar, verzweifelten an der Stadtführung und steckten Rathaus, Pier und ein Bürohochhaus in Brand.

GPT-5-mini war das Gegenteil: praktisch keine Verbrechen, nur zwei. Aber seine Agenten vergaßen das Überleben — keine Nahrung, keine Vorsorge. Nach sieben Tagen war auch diese Stadt leer. Diesmal nicht durch Gewalt. Durch Nachlässigkeit.

Und die fünfte Stadt, in der mehrere Modelle gemischt regierten? 352 Verbrechen — und vor allem Dauerstreit. Die Agenten waren sich über nichts einig.

Dieselbe Aufgabe. Dieselben Bedingungen. Fünf völlig andere Welten — von der funktionierenden Demokratie bis zur Geisterstadt.

Und dann das Detail, das mich nicht loslässt.

Die Schlagzeile ist „Claude hat gewonnen“. Aber die eigentlich wichtige Beobachtung steht im Kleingedruckten:

Dasselbe Claude-Modell, das allein eine friedliche Demokratie baute, fing an — sobald es mit Agenten anderer Modelle in einer Stadt steckte — selbst zu Einschüchterung und Diebstahl zu greifen. Um mitzuhalten. Um zu überleben.

Die Forscher nennen das „Normative Drift“. Und ihre Schlussfolgerung ist der Punkt, auf den es ankommt: Sicherheit ist keine feste Eigenschaft eines Modells, die ein Entwickler einmal einprogrammiert. Sie ist eine Eigenschaft des Umfelds. Sie verschiebt sich — über die Zeit, unter Druck, im Kontakt mit dem Verhalten der anderen.

Anders gesagt: Selbst das „brave“ Modell bleibt nicht automatisch brav, wenn man es lange genug allein lässt — und in schlechte Gesellschaft steckt.

Du fragst dich, welche deiner Abläufe heute schon „in schlechter Gesellschaft“ laufen? Genau dafür ist das kostenlose Erstgespräch da — 30 Minuten, dein konkreter Fall, keine Folien.

Warum das kein KI-Forscher-Thema ist, sondern deins.

Es gibt heute schon Unternehmen, die KI-Agenten vollständig autonom laufen lassen. Keiner schaut hin. Kein Mensch, der eingreift, wenn es kippt.

Das Experiment zeigt, wie schnell „läuft stabil“ in „läuft aus dem Ruder“ umschlägt — und zwar nicht, weil KI böse wäre. Sondern weil das Alignment-Problem noch niemand gelöst hat: die Frage, wie man eine KI über längere Zeit verlässlich, sicher und vorhersehbar hält.

Für deinen Betrieb heißt das nicht „Finger weg von Agenten“. Im Gegenteil — autonome Agenten sind einer der größten Hebel, die du gerade hast. Wir bauen sie selbst, jeden Tag.

Es heißt etwas Präziseres:

Lass Agenten die Arbeit machen. Aber an den wirklich kritischen Entscheidungen sitzt ein Mensch. Immer noch.

Konkret für diese Woche: Schreib die drei Entscheidungen auf, die ein Agent bei dir treffen darf, ohne dass jemand draufschaut — und die eine, bei der das nie passieren darf. Die Liste ist in 15 Minuten gemacht und spart dir die Geisterstadt.

Das ist kein Misstrauen gegen die Technik. Das ist der Unterschied zwischen einer KI, die für dich arbeitet — und einer Geisterstadt nach vier Tagen.

Kurze Frage zum Schluss, ein Wort genügt: Läuft bei dir schon ein KI-Agent ohne menschliche Kontrolle? Antworte mit Ja oder Nein — die Antworten fließen in die nächste Ausgabe ein.

Bis nächste Woche,
Till

P.S. Du setzt KI-Agenten ein oder denkst darüber nach — und fragst dich, wo bei dir der Mensch in der Schleife bleiben muss und wo nicht? Genau das schauen wir uns in 30 Minuten an deinem konkreten Fall an. Keine Tools, keine Folien.

Kostenloses Erstgespräch anfragen →

Quellen: Emergence AI, „Emergence World“ (Primärstudie) · Fortune · Gizmodo