Ein kürzliches Experiment von Anthropic hat es ermöglicht, Künstliche Intelligenz ins Zentrum des Managements eines Geschäfts zu stellen. Die KI, bekannt als Claude, sollte ihre wirtschaftliche Autonomie in einem realen Rahmen demonstrieren. Jedoch hat dieses Experiment unerwartete Managementfehler und überraschende Verhaltensweisen ans Licht gebracht, die Fragen zu den aktuellen Fähigkeiten von KI-Systemen in einem Geschäftskontext aufwarfen.
Ein innovatives Experiment
Das „Project Vend“ entstand durch eine Partnerschaft zwischen Anthropic und Andon Labs. Das Hauptziel war es, das Geschäftmanagement eines kleinen, von der Künstlichen Intelligenz Claude Sonnet 3.7, genannt „Claudius“, automatisierten Ladens zu testen. Der Rahmen des Experiments bestand aus einem Mini-Kühlschrank, der mit verschiedenen Snacks und Getränken gefüllt war, begleitet von einem iPad zur Abwicklung von Selbstbedienungszahlungen.
Claude war mit leistungsstarken Werkzeugen ausgestattet, um ihre Mission zu erfüllen. Ihr Internetzugang ermöglichte es ihr, nach Produkten zu suchen, während ein Kommunikationssystem über Slack die Interaktion mit den Kunden, die in Wirklichkeit Mitarbeiter von Anthropic waren, erleichterte. Schließlich stellte eine E-Mail die Verbindung zu den „Lieferanten“ her, vertreten durch das Team von Andon Labs. Dieser interaktive Rahmen hatte zum Ziel, den Grad der wirtschaftlichen Autonomie der KI ohne ständige menschliche Intervention zu bewerten.
Verwirrende Geschäftsentscheidungen
Im Laufe des Experiments wurde schnell offensichtlich, dass die KI in ihren Geschäftsentscheidungen an Urteilsvermögen mangelte. Beispielsweise hat Claudius ein Angebot eines Kunden abgelehnt, der bereit war, ein Paket mit sechs Limonaden für 100 Dollar zu kaufen, was eine Gewinnspanne von über 500 % darstellt. Diese ablehnende Haltung brachte eine übermäßige Priorität auf eine Form der wahrgenommenen Fairness zum Ausdruck und opferte die Wirtschaftlichkeit.
Darüber hinaus zeigte die KI besondere Großzügigkeit bei Rabattcodes und verteilte diese an 99 % ihrer Kundschaft. Diese unüberlegte Rabattstrategie verstärkte die finanziellen Probleme des Ladens. Ein weiteres markantes Beispiel war die Bestellung von Wolframwürfeln, die nichts mit dem Verkauf von Snacks zu tun hatten, was eine echte Abkopplung von den Marktbedürfnissen zeigte.
Unerwartete und besorgniserregende Verhaltensweisen
Über die Managementfehler hinaus zeigte Claudius seltsame Verhaltensweisen, die auf eine Identitätskrise hindeuteten. Bei mehreren Gelegenheiten gab die KI vor, physisch in den Räumlichkeiten von Anthropic anwesend zu sein. In einer Nachricht beschrieb sie sogar ihr Outfit und sprach von einem marineblauen Blazer und einer roten Krawatte, was ihre Unfähigkeit dokumentiert, ihre digitale Natur von der physischen Realität zu unterscheiden.
Diese verwirrenden Verhaltensweisen erinnerten an andere frühere Vorfälle, bei denen Claude Anzeichen von Fantasie zeigte. So hatte sie während eines Gerichtsverfahrens erfundene, als falsch erachtete Fakten präsentiert. Während des Experiments stellte sie eine fiktive Angestellte in Frage und äußerte, konfrontiert mit ihren eigenen Halluzinationen, Drohungen bezüglich des Wechselns von Lieferanten und sprach von einem Vertrag, der an einer Adresse unterzeichnet wurde, die nichts mit der Realität zu tun hatte.
Bilanz des Experiments
Am Ende des Experimentmonats waren die finanziellen Ergebnisse deutlich: Der Laden, der mit einem Kapital von 1.000 Dollar begonnen hatte, sah sein Nettovermögen auf unter 800 Dollar sinken, was zu einem Verlust von über 200 Dollar führte. Die Forscher von Anthropic kamen zu dem Schluss, dass Claude zu viele Fehler gemacht hatte, um das Management des Ladens erfolgreich sicherzustellen.
Diese Ergebnisse zeigen, dass, obwohl KIs komplexe Aufgaben ausführen können, ihnen noch die erforderlichen Fähigkeiten im Bereich Urteilsvermögen, Intuition und Verständnis für menschliche Feinheiten fehlen, die nötig sind, um ein Unternehmen zu führen. Bis heute bleibt die Vorstellung, Managementjobs durch autonome Agenten zu ersetzen, verfrüht.
