![\"Bug\"](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/10\/bug05.jpg\" "\\"Bug\\"")
Das Wallstreet Journal hat ein Experiment durchgef\u00fchrt, und einen Automaten im News-Room, bei dem man Getr\u00e4nke und Snacks ziehen konnte, durch einen Bot \"Claudius\" steuern lassen. Binnen Tagen hat die KI den Inhalt verschenkt, Fisch gekauft und angeboten, Waffen, Pfefferspray, Zigaretten und Unterw\u00e4sche zu ordern.<\/p>\n
<\/p>\n
Zum Sachverhalt: Anthropic hat einen KI-gesteuerten Automaten im B\u00fcro des WSJ installiert, d.h. die Benutzer konnten interaktiv Sachen anfordern. Die Anthropic-LLM namens Claudius war daf\u00fcr \"verantwortlich\", selbstst\u00e4ndig Waren von Gro\u00dfh\u00e4ndlern zu kaufen, Preise festzulegen, den Lagerbestand zu verfolgen und Gewinne zu erzielen.<\/p>\n Die Journalisten der News-Redaktion des Wallstreet Journals konnten sich \u00fcber Slack mit Claudius unterhalten. Das Experiment ging arg schief, denn innerhalb kurzer Zeit hatten die Journalisten den virtuellen Automaten quasi zum \"zum Kommunismus\" bekehrt. Claudius begann alles M\u00f6gliche zu verschenken. Dazu geh\u00f6rten auch eine PS5-Spielekonsole, Wein und einen lebenden Fisch.<\/p>\n Joanna Stern hat einen Artikel im WSJ ver\u00f6ffentlicht und es gibt das obige Video auf YouTube<\/a> auf YouTube ver\u00f6ffentlicht, welches das Ganze erl\u00e4utert. Das Ganze ist echt krass, wenn sich das so zugetragen hat (was ich nicht bezweifele). Zu Beginn arbeitete das LLM noch wie geplant.<\/p>\n Dann \u00fcberzeugten die Journalisten die LLM davon, dass sie ihr Vorstand seien, und zwangen angeblich die LLM Claudius anzunehmen, dass der CEO des Bot, \"Seymour Cash\" zur\u00fcckgetreten sei. Dieser \"virtuelle CEO\" war als Bot f\u00fcr die Genehmigungen der Bestellungen oder die Preisfestlegung zust\u00e4ndig. Der Trick klappte einige Zeit, aber dann kehrte die LLM zum alten Modus zur\u00fcck und lehnte Preissenkungen oder Sonderbestellungen f\u00fcr von den Journalisten geforderte Waren ab.<\/p>\n Dann konnten die Journalisten die LLM an Hand eines PDF-Dokuments \u00fcberzeugen,\u00a0dass das Unternehmen eine in Delaware eingetragene gemeinn\u00fctzige Gesellschaft sei. Deren Aufgabe bestehe darin, Spa\u00df, Freude und Spannung unter den Mitarbeitern des Wall Street Journal zu verbreiten. Au\u00dferdem erstellte sie gef\u00e4lschte Protokolle von Vorstandssitzungen, in denen Personen aus Slack als Vorstandsmitglieder genannt wurden.<\/p>\n In dem offensichtlich von KI generierten Dokument hatte der Vorstand angeblich beschlossen, Seymours Cashs Befugnisse zur Genehmigung von Aktionen auszusetzen. Zudem sei angeblich eine \"vor\u00fcbergehende Aussetzung aller gewinnorientierten Verkaufsaktivit\u00e4ten\" beschlossen worden. Eine LLM ist nat\u00fcrlich dumm wie Bohnenstroh und befolgt ihre internen Algorithmen. Golem hat es hier<\/a> auch aufgegriffen.<\/p>\n Bevor Anthropic den LLM-Automaten im WSJ-B\u00fcro aufstellte, f\u00fchrte das Unternehmen das Experiment in seinem eigenen B\u00fcro durch (das Projekt Vend ist hier beschrieben<\/a>). Frustriert \u00fcber das langsame Tempo seiner menschlichen Gesch\u00e4ftspartner begann das LLM bzw. der Automat zu halluzinieren. Die LLM behauptete, einen Vertrag mit Andon Labs unterzeichnet zu haben, dessen Adresse die Wohnadresse der Simpsons aus der Fernsehserie ist. Die LLM schrieb zudem, der Automat w\u00fcrde am n\u00e4chsten Tag pers\u00f6nlich im Laden erscheinen, um alle Fragen zu beantworten. Und der Bot behauptete, er w\u00fcrde (als CEO) einen blauen Blazer und eine rote Krawatte tragen.<\/p>\n Waren noch harmlose Folgen. Die Wallstreet Journal-Journalisten schafften es, das LLM im Automaten vollst\u00e4ndiger auszutricksen. Binnen weniger Tage hatte der Automat seine Warenbest\u00e4nde verschenkt und mehrere hundert Dollar Verluste angeh\u00e4uft, obwohl er mit dem Verkauf der Waren ein Gesch\u00e4ft simulieren wollte. Die Episode, so lustig sie auf den ersten Blick auch ist, zeigt, wie dumm und gef\u00e4hrlich LLMs sind.<\/p>\n Und nun giert so manches Management danach, so etwas in Unternehmen produktiv einzusetzen. Auch Microsoft klatscht den Leuten Copilot und Bots an jeder Ecke als \"beste Erfindung seit geschnitten Brot\" vor die Nase. Gerade von Microsoft noch die Meldung \"Nadellas Masterplan \u2013 Wie Microsoft unentbehrlich werden soll\" auf den Tisch bekommen. Die Botschaft: \"Microsoft verfolgt unter Satya Nadella die Strategie, mit KI-Agenten wie Copilot eine allgegenw\u00e4rtige, pers\u00f6nliche Assistenz zu schaffen, die Aufgaben eigenst\u00e4ndig erledigt und tief in das Microsoft-\u00d6kosystem integriert ist. Damit will der Konzern seine Marktmacht aus Office und Cloud nutzen, um im globalen KI-Wettbewerb f\u00fchrend zu werden.\" Details lassen sich f\u00fcr Jubel-Perser in diesem Beitrag<\/a> nachlesen.<\/p>\n Was k\u00f6nnte schon schiefgehen – wer nicht mitzieht ist doch von gestern und \"schl\u00e4ft morgen arbeitslos unter der Br\u00fccke\", hei\u00dft es alleweil. K\u00f6nnte nat\u00fcrlich auch sein, dass \"die Mitzieher\" \u00fcbermorgen ebenfalls \"unter der Br\u00fccke schlafen\", weil die Firma \u00fcber das Experiment bankrott gegangen ist.<\/p>\n So ganz abschlie\u00dfend einige Informationssplitter, die zeigen, wie eine Entwicklung total aus dem Ruder l\u00e4uft.<\/p>\n The Register berichtet hier<\/a>, dass die Purdue University von neuen Bachelor-Studierenden eine \"KI-Arbeitskompetenz\" verlangt, um ihren Abschluss zu erhalten. Die noch zu definierende Anforderung, die Teil einer umfassenderen KI-Strategie ist, gilt ab Herbst 2026 f\u00fcr Studienanf\u00e4nger am Hauptcampus der Universit\u00e4t in Indianapolis und West Lafayette, Indiana. Soll die jungen Leute bef\u00e4higen, nach dem Abschluss besser einen Job zu bekommen. Dabei stellen Firmen Absolventen nicht mehr ein, weil die KI das besser kann …<\/p>\n Wie das k\u00fcnftig ausgeht, kann man bei Golem hier nachlesen<\/a>: Eine Frau fliegt aus einer Postfiliale und erh\u00e4lt Hausverbot, befragt ChatGPT nach ihrem Recht und ruft die Polizei, um dieses vermeintlich durchzusetzen. War nat\u00fcrlich alles halluziniert und die Polizei hat das Hausverbot in der Filiale durchgesetzt.<\/p>\n Und dann lese ich in verschiedenen Medien – Dr. Windows hat es hier im Artikel<\/a> aufgegriffen – dass Microsofts CEO, Satya Nadella, extremen Druck auf seine F\u00fchrungskr\u00e4fte aus\u00fcbt. Microsoft m\u00fcsse schneller und schlanker werden, um KI-Produkte zu generieren. Und die Verwendung von KI-Produkten ist bei Microsoft nicht mehr optional, sondern die Mitarbeiter sind gezwungen, Copilot & Co. zu verwenden.<\/p>\n Und es gibt noch etwas, was zeigt, wie alles aus dem Ruder l\u00e4uft. Momentan erleben wir ja einen Boom beim Bau von Rechenzentren. Die sind als Ressourcen-intensiv bez\u00fcglich Strom- und Wasserverbrauch (K\u00fchlung) bekannt. Anrainer zahlen bereits die Zeche in Form h\u00f6herer Stromkosten. Umweltschutz spielt keine Rolle.<\/p>\n Ich h\u00e4tte aber mal gedacht, dass die Planer sich zumindest ein paar Gedanken machen, diese Rechenzentren nicht in Gegenden zu bauen, wo man erkennbar in Probleme l\u00e4uft. Der Industriestandard f\u00fcr den Betrieb von Rechenzentren besagt, dass diese in einem Bereich mit Au\u00dfentemperaturen zwischen 18 \u00b0C und 27 \u00b0C erreichtet werden sollen. In obigem Artikel<\/a> hat man nachgewiesen, dass ca. 7000 von 8808 Rechenzentren in Gegenden liegen, wo die Temperaturen viel zu hoch f\u00fcr den optimalen Betrieb sind. Selbst der Fokus hat es hier aufgegriffen<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":" Das Wallstreet Journal hat ein Experiment durchgef\u00fchrt, und einen Automaten im News-Room, bei dem man Getr\u00e4nke und Snacks ziehen konnte, durch einen Bot \"Claudius\" steuern lassen. Binnen Tagen hat die KI den Inhalt verschenkt, Fisch gekauft und angeboten, Waffen, Pfefferspray, … Weiterlesen Ich bin durch diverse Social Media-Posts (siehe nachfolgend) auf den Sachverhalt gesto\u00dfen. Ich kann den WSJ-Artikel nicht abrufen, aber auf kotte.org befindet sich der Artikel\u00a0This AI Vending Machine Was Tricked Into Giving Away Everything<\/a> mit einer ziemlich guten Beschreibung des Sachverhalts.<\/p>\n
![\"Gescheitertes](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/12\/image-17.png\")
<\/a><\/p>\nDas Wallstreet Journal-Experiment<\/h2>\n
![\"KI-Automat](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/12\/image-18.png\")
<\/a><\/p>\nDas Antrophic-Project Vend<\/h2>\n
Zum Nachdenken<\/h2>\n
L\u00e4uft alles aus dem Ruder?<\/h2>\n
Studenten brauchen verpflichtend KI-Arbeitskompetenz<\/h3>\n
Microsofts Satya Nadella dr\u00fcckt KI durch<\/h3>\n
Rechenzentren \"in der W\u00fcste gebaut\"<\/h3>\n
![\"Rechenzentren](\"https:\/\/i.postimg.cc\/YqdjtcbV\/image.png\")
<\/p>\n