{"id":313768,"date":"2025-07-22T11:42:41","date_gmt":"2025-07-22T09:42:41","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=313768"},"modified":"2025-07-24T16:59:50","modified_gmt":"2025-07-24T14:59:50","slug":"openai-stellt-chatgpt-agent-vor-sam-altman-warnt-vor-risiken","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/07\/22\/openai-stellt-chatgpt-agent-vor-sam-altman-warnt-vor-risiken\/","title":{"rendered":"OpenAI stellt ChatGPT Agent vor; Sam Altman warnt vor Risiken"},"content":{"rendered":"

\"Copilot\"[English<\/a>]OpenAI hat zum 17. Juli 2025 seinen \"ChatGPT-Agenten\" ver\u00f6ffentlicht. In einem l\u00e4ngeren Post auf X greift OpenAI-Chef Sam Altman dies auf. Gleichzeitig warnt Altman vor potentiell gro\u00dfen Risiken beim Einsatz dieses ChatGPT-Agenten. Es sei alles immer noch experimentell.<\/p>\n

<\/p>\n

\"\"AI-Agenten sind Software-Programme, die autonom, auf Basis \"k\u00fcnstlicher Intelligenz\", Aufgaben im Namen eines Benutzers oder eines anderen Systems erledigen. Die Agenten k\u00f6nnen eigenst\u00e4ndig Entscheidungen treffen, Aufgaben planen und ausf\u00fchren, sowie mit ihrer Umgebung oder anderen Agenten interagieren, oft unter Verwendung von gro\u00dfen Sprachmodellen (LLMs).\u00a0<\/span><\/span><\/span><\/p>\n

Sam Altman zum ChatGPT Agent<\/h2>\n

Der Anbieter OpenAI hat nun auch einen eigenen \"ChatGPT Agent\" als Produkt, und OpenAI-Chef Sam Altman hat dessen Freigabe zum 17. Juli 2025 in einem Tweet auf X<\/a> angesprochen (via<\/a>).<\/p>\n

\"ChatGPT<\/p>\n

Altman sieht den ChatGPT Agenten als eine neue Stufe der Leistungsf\u00e4higkeit von KI-Systemen, der angeblich komplexe Aufgaben f\u00fcr seine Nutzer ausf\u00fchren kann. Klingt gut, aber die reale Welt sieht da f\u00fcr mich ern\u00fcchternd aus.<\/p>\n

Von Microsoft und weiteren Protagonisten h\u00f6rt man, wenn gefragt wird, was man mit den Dingern anfangen k\u00f6nne, dass diese eine Reise oder einen Tisch in einem Restaurant buchen k\u00f6nnen. Und so wartet Sam Altman auch mit der \"freudigen Botschaft\" auf, dass bei der Einf\u00fchrung von ChatGPT Agent als Beispiel eine Demo zur Vorbereitung der Hochzeit eines Freundes gezeigt werde. Es geht um den Kauf eines Outfits, die Buchung einer Reise, Auswahl eines Geschenks usw.<\/p>\n

Das hat nat\u00fcrlich \"innovativen\" Charakter, immerhin sind wir – nach Ansicht dieser Leute – t\u00e4glich mit solchen Aufgaben befasst und w\u00e4ren ohne einen Agenten echt im Leben verloren. Zur Ehrenrettung von Altman muss ich sagen, dass er auch ein Beispiel f\u00fcr die Analyse von Daten und die Erstellung einer Pr\u00e4sentation f\u00fcr die Arbeit erw\u00e4hnt. Aber auch das ist ein Bereich, wo die meisten Leute eher nicht unterwegs sind. Ich m\u00f6chte es nicht weiter ausf\u00fchren, Eva-Maria Wei\u00df hat es gestern wunderbar in diesem heise-Kommentar<\/a> aufgespie\u00dft.<\/p>\n

Altmans-Warnung vor Risiken<\/h2>\n

\u00dcberrascht haben mich dann aber die Ausf\u00fchrungen von Sam Altman zu den Risiken des Einsatzes des ChatGPT Agent. Altman schreibt zwar, dass Agenten einen gro\u00dfen Nutzen haben k\u00f6nnen, aber auch mit gro\u00dfen potenziellen Risiken verbunden seien.<\/p>\n

Altman sieht das Ganze als experimentell. Man habe zwar viele Sicherheitsvorkehrungen und Warnungen eingebaut, k\u00f6nne aber nicht alle Szenarien vorhersehen. Altman, der kein reiner Marketing-Mann ist, der alles negiert, was Probleme macht, warnt. B\u00f6swillige Akteure k\u00f6nnten versuchen, die KI-Agenten der Nutzer auszutricksen, damit die Software ungewollt private Informationen preisgibt, und\/oder Aktionen durchf\u00fchrt, die keinesfalls gewollt sind und nicht vorhergesagt werden k\u00f6nnen.<\/p>\n

Dann folgt eine fette und sehr deutliche Warnung. Altman schreibt, dass er seiner Familie\u00a0 den ChatGPT Agenten als innovativ und experimentell erkl\u00e4ren w\u00fcrde, als eine Chance, die Zukunft auszuprobieren. Aber das nicht etwas, was er f\u00fcr wichtige Anwendungen oder mit vielen pers\u00f6nlichen Daten verwenden w\u00fcrde. Oder in anderen, platteren Worten: Das Ganze ist ein Spielzeug, was man bei viel Zeit ausprobieren k\u00f6nnen, aber tunlichst aus dem gesch\u00e4ftlichen Bereich weg lassen solle.<\/p>\n

Der Chef von OpenAI schreibt zwar dazu, dass man den ChatGPT Agent \"in freier Wildbahn\" testen wolle, um mehr herauszufinden. Aber momentan wissen die Entwickler nicht genau, welche Auswirkungen bestimmte Aktionen haben werden. Altman gibt als Beispiel an, dass der Agent keinen Zugriff auf einen pers\u00f6nlichen Kalender braucht, um Kleidung zu kaufen. Als riskant sieht Altman bereits die Freigabe des Agenten zum Zugriff und zur Analyse aller eingegangenen E-Mails mit automatischer Ausf\u00fchrung erforderlicher Aktionen. Dies k\u00f6nnte dazu f\u00fchren, dass nicht vertrauensw\u00fcrdige Inhalte aus einer b\u00f6sartigen E-Mail das Modell dazu verleiten, Daten ungewollt weiterzugeben.<\/p>\n

OpenAI empfiehlt, den Agenten nur den Mindestzugang auf Daten zu gew\u00e4hren, der f\u00fcr die Erf\u00fcllung einer Aufgabe erforderlich ist, um Datenschutz- und Sicherheitsrisiken zu verringern. Er hegt das Bild, dass die Menschen diese Werkzeuge vorsichtig und langsam annehmen, w\u00e4hrend OpenAI sowie andere Entwickler die damit verbundenen potenziellen Risiken besser quantifizieren und entsch\u00e4rfen k\u00f6nnen. Wie bei anderen neuen F\u00e4higkeiten m\u00fcsse sich die Gesellschaft, die Technologie und die Strategie zur Risikominderung gemeinsam weiterentwickeln.<\/p>\n

Meine Gedanken dazu<\/h2>\n

Als ich den Tweet von Altman gelesen habe, war ich platt. Da w\u00e4gt jemand ab und schreibt: Wir haben etwas neues, wissen aber noch nicht, welche Risiken es gibt, aber der Ansatz kann m\u00f6glicherweise sinnvoll sein. Testet das Zeug, aber setzt es extrem vorsichtig und abw\u00e4gend ein. Das entspricht so gar nicht der Marktschreier-Mentalit\u00e4t Microsofts, die solche Funktion auf Teufel komm raus auf die Leute los lassen und das zwangsweise.<\/p>\n

Und Altman spricht das an, was ich hier im Blog eigentlich seit Monaten propariere: LLMs k\u00f6nnen Sinn machen, wenn ich deren Einsatz im Griff habe und den Einsatzzweck begrenze sowie die Risiken im Griff habe. Wobei ich der Meinung bin, dass ich die Risiken schlicht niemals in den Griff bekomme – was der Agent an Dokumenten und Abl\u00e4ufen sieht, wird er verarbeiten und bei erfolgreichen Angriffen auch an unbefugte Dritte weiter geben.<\/p>\n

Ich hatte vor einigen Tagen im Beitrag\u00a0Energieverbrauch und funktionale Fails: KI auf dem Weg zum Crash?<\/a> einige Aspekte im Themenumfeld aufgeworfen und auch die schlechte Bilanz der AI-Agenten angesprochen. So gesehen best\u00e4tigt Sam Altman die hier im Blog aufgeworfenen Fragestellungen und dass er kein Marketing-Vertreter ist, der die Risiken und Probleme mit Hochglanzfolien unter den Tisch quatscht.<\/p>\n

\u00c4hnliche Artikel:<\/strong>
\nWarnung: KI-Energiebedarf bald so hoch wie f\u00fcr die Niederlande<\/a>
\nAI + Microsoft: Explodierende Energieverbr\u00e4uche und Kosten<\/a>
\nAuf dem Weg zur CO2-Neutralit\u00e4t? Microsofts CO2-Emissionen 2023 dank AI um 30% gestiegen<\/a>
\nMicrosoft und die Quatschmaschine Copilot<\/a>
\nMicrosoft, die AI, die Erfolge und die \"Kosten\" (Greenwashing)<\/a>
\nRechenzentrumskostenausgleich: Google, Amazon, Microsoft und Meta k\u00e4mpfen gegen Vorschlag von Ohio<\/a>
\nDer KI-Ressourcenverbrauch wird Stromnetze und L\u00e4nder \u00fcberfordern<\/a>
\nEnergieverbrauch und funktionale Fails: KI auf dem Weg zum Crash?<\/a>
\nLethal Injection: Microsoft AI-Bot f\u00fcr das Gesundheitswesen mal eben gehackt<\/a>
\nEchoLeak: Erste AI 0-Click-Sicherheitsl\u00fccke in Microsoft Copilot<\/a>
\nCopilot+AI: Recall-Sicherheitsdesaster- KI-gest\u00fctzter Diebstahl<\/a>
\nChatGPT: Scam Crypto-API in Quellcode-Vorschlag sch\u00e4digt Opfer um 2.500 US-Dollar<\/a>
\nChatGPT & Co: Chance oder eher (DSGVO-)Risiko?<\/a>
\nDoctolib will Patientendaten f\u00fcr KI-Training nutzen<\/a>
\nKriminelle Gesch\u00e4fte und b\u00f6sartige KI-Modellen im Darknet<\/a>
\nKI im Alltag: Was Verbraucher wissen sollten<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

[English]OpenAI hat zum 17. Juli 2025 seinen \"ChatGPT-Agenten\" ver\u00f6ffentlicht. In einem l\u00e4ngeren Post auf X greift OpenAI-Chef Sam Altman dies auf. Gleichzeitig warnt Altman vor potentiell gro\u00dfen Risiken beim Einsatz dieses ChatGPT-Agenten. Es sei alles immer noch experimentell.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426,7459],"tags":[8621,4903,4652,4328,3836],"class_list":["post-313768","post","type-post","status-publish","format-standard","hentry","category-sicherheit","category-software","tag-chatgpt-agent","tag-ki","tag-risiko","tag-sicherheit","tag-software"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/313768","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=313768"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/313768\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=313768"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=313768"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=313768"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}