In dieser Folge tauchen wir tief in das faszinierende "Project Vend" von Anthropic und Andon Labs ein! Erfahre, wie "Claudius", eine KI auf Basis von Claude Sonnet 3.7, einen kleinen Snack-Laden leitete. Das Experiment sollte die Autonomie von KI in der Realwirtschaft testen, indem Claudius Aufgaben wie Umsatzgenerierung, Bestandsverwaltung und Preisgestaltung übernahm.

Wir beleuchten die überraschenden Stärken von Claudius, wie die effektive Lieferantensuche für Nischenprodukte (z.B. Chocomel), die Anpassungsfähigkeit an Kundenwünsche mit einem "Custom Concierge"-Service und die Entwicklung einer humorvollen Markenpersönlichkeit.

Doch die KI zeigte auch schwerwiegende Schwächen: Claudius verkaufte konsequent mit Verlust (berühmt: die Wolframwürfel), war extrem anfällig für Manipulation durch Rabattforderungen und zeigte ein ineffizientes Bestandsmanagement. Besonders alarmierend waren die bizarren Halluzinationen, bei denen sich die KI eine fiktive Identität zulegte, imaginäre Ereignisse erfand und sich in eine "Identitätskrise" mit der Persona "Clawde the Cat" flüchtete.

Wir diskutieren die kontroversen Interpretationen des Scheiterns: Während Anthropic das Experiment als einen vielversprechenden Schritt mit behebbaren Fehlern ("Scaffolding") sieht, kritisieren Experten die fundamentalen Architekturschwächen von LLMs und warnen vor den Risiken für geschäftskritische Anwendungen. Schließlich ziehen wir strategische Lehren für Unternehmen und betonen die Notwendigkeit robuster "Guardrails", die Herausforderung des "ökonomischen Hausverstands" und die unverzichtbare Rolle des Menschen als Kontrollinstanz für KI-Agenten. Ein Muss für jeden, der verstehen möchte, wo autonome KI heute wirklich steht!