Die Tage ist mir wieder ein Fall unter die Augen gekommen, wo Du dich unweigerlich fragst, wie verblödet die Menschheit eigentlich noch werden soll. Die Zutaten: Ein Gadget Namens "Friend Pendant", welches sich Leute zulegen und um den Hals tragen. Ein AI-Gerät, was alles an Gesprächen in der Umgebung aufzeichnet und Antworten eines LLMs per Textnachrichten an ein iPhone liefert. Kostet 129 US-Dollar und separiert sogar die US-Amerikaner. Mir ist das Thema untergekommen, weil die Kommunikation des per Vibe Coding entwickelten Geräts unverschlüsselt stattfinden soll. Ist aber, nachdem ich den Artikel (als Boomer) geschrieben habe, in meinen Augen eher das "geringste Problem" des Trägers oder der Trägerin aus der GenZ oder der Gruppe der Millennials.
Ein verhängnisvoller Tweet
Ich bin die Tage über nachfolgenden Tweet auf einen Sachverhalt gestoßen, der mir (als Boomer) wenig bis so gar nichts sagte, aber meine Neugier weckte.
Im Text heißt es: Der Freundschaftsanhänger (Friend Pendant) ist nicht dein Freund. Jemand hat das Gerät einem Reverse-Engineering unterzogen und ist dabei auf grundlegende Sicherheitsmängel gestoßen.
- Jeder kann sich über Bluetooth mit dem Friend Pendant verbinden und die Aufnahmen des eingebauten Mikrofons abhören.
- Die Audioaufnahmen von Freunden in der Umgebung sind unverschlüsselt und auf diese kann auch von nicht gekoppelten Geräten aus zugegriffen werden.
Und der Poster Privacy Guides schrieb, dass es bei den per Vibe Coding entwickelten IoT-Geräten keine Privatsphäre gebe. Der Betreffende, der das Reverse-Engineering durchgeführt hat, hat später seinen Tweet auf X gelöscht – worauf nachfolgender Tweet hinweist.
Der Thread auf Substack ist inzwischen auch gelöscht. Könnte auf Druck, wie oben gemutmaßt wurde, passiert sein. Oder die Analyse bzw. die Schlussfolgerungen waren falsch, weshalb der Poster das Ganze offline genommen hat.
War der Punkt, wo meine Neugierde geweckt war und ich doch – unter dem Gesichtspunkt "nicht dumm sterben" – mal genauer wissen wollte, was ein "Friend Pendant" eigentlich sei und macht. Vorab: Wer schon so degeneriert ist, dass er so ein Teil trägt, der muss sich keine Gedanken mehr machen, ob die Bluetooth-Kommunikation mit dem Smartphone abgesichert ist. Aber lest nachfolgend selbst, was sich hinter dem Friend verbirgt – aber möglicherweise ist meine Leserschaft besser informiert und kennt das Teil.
Was ist ein "Friend Pendant"?
Ich gestehe, ich konnte mit dem Begriff "Friend Pendant" nichts anfangen und musste dieses Internet befragen. Vom Wort hat musste es so etwas wie eine Freundschaftskette mit Anhänger sein. Die Wikipedia und das Internet wussten mehr.
Friend ist ein tragbares Gerät mit künstlicher Intelligenz, das von einem gleichnamigen Start-up-Unternehmen auf den Markt gebracht wurde. Avi Schiffmann, seines Zeichens ein Studienabbrecher der Harvard University, entwarf und veröffentlichte im Alter von 21 Jahren mit Friend sein erstes Produkt im Oktober 2023.
Das Projekt hieß ursprünglich Tab und hatte bis Ende 2023 über 250.000 US-Dollar an Investitionen erhalten. Im Jahr 2024 kaufte AVI Schiffmann die seit 17 Jahren verwaiste Domain friend.com für 1,8 Millionen US-Dollar.
Dann ging "Friend" in die Vermarktung. Das Unternehmen Friend bietet zwar einen Online-Chatbot mit LLM-Technologie an. Sein Flaggschiffprodukt ist jedoch ein Anhänger mit Mikrofon, in den der Chatbot integriert ist. Das Gerät ist knapp zwei Zoll groß und wurde von seiner Form und Funktion mit Tamagotchis verglichen. Obiges YouTube-Video zeigt eine Produktvorstellung.
Das Gerät (Friend Pendant) kostet 129 US-Dollar, wird in einem Anhänger um den Hals getragen und zeichnet alle Gespräche auf, antwortet selbst aber nicht akustisch, sondern kommuniziert, indem es in Echtzeit Textnachrichten an das Telefon des Benutzers oder der Benutzerin sendet.
Das Unternehmen Friend gab 2025 über 1 Million Dollar für Werbung bei der Metropolitan Transportation Authority aus. Das Unternehmen ist für den öffentlichen Nahverkehr in New York City zuständig. Bei der Kampagne wurden in über 11.000 Bahnwaggons, über 1.000 Plakatwänden auf Bahnsteigen und 130 städtischen Werbetafeln Anzeigen geschaltet. Laut Schiffmann handelte es sich um die größte Marketingkampagne in der Geschichte der New Yorker U-Bahn.
Friend erlebte nach dieser Marketingkampagne erhebliche Gegenreaktionen. Viele der Anzeigen wurden von Menschen, die Kritik am Produkt üben wollten, beschädigt.
Zerriss durch die Presse
Avi Schiffman besuchte die Reporter des Magazin Wired, um sein AI Friend Pendant vorzustellen. Im Wired-Artikel von Juli 2024 heißt es "Der Friend ist, um es klar zu sagen, ein tragbares KI-Gerät. Er ist ein Kumpel, ein Freund, aber vor allem ein KI-Chatbot, der in dem Anhänger lebt. Er hat immer eine Meinung zu dem, was um ihn herum vor sich geht, die er über Textnachrichten und Push-Benachrichtigungen auf dem mit ihm gekoppelten Smartphone mitteilt."
Einer der wichtigsten Slogans von Schiffmanns KI-Gerät lautet "immer zuhören". Der Friend verfügt über ein integriertes Mikrofon, das standardmäßig alles mithört, was um den Träger herum geschieht. Man kann den Friend antippen und gedrückt halten, um dem Gerät eine Frage zu stellen. Aber manchmal sendet das Gadget auch unaufgefordert Nachrichten – beispielsweise Kommentare zu dem gerade geführten Gespräch.
Der Anhänger zielt darauf ab, Einsamkeit des Trägers oder der Trägerin zu bekämpfen, indem es textbasierte Gespräche, proaktive Einblicke und Aufgabenmanagement-Funktionen bietet, während es gleichzeitig die Privatsphäre der Nutzer durch lokale Datenspeicherung und Verschlüsselung priorisiert, heißt es in Artikeln.
Bei der Vorstellung des noch unveröffentlichten Geräts war es mit dem Anthropic AI Claude 3.5 Large Language Model gekoppelt, um Konversationen zu führen.
Inzwischen scheint es, laut diesem Tech Buzz-Artikel, mit dem Gemini 2.5-Modell von Google zu arbeiten und das Pairing erfolgt mit einem iPhone, auf dem der Friend ständig die täglichen Interaktionen kommentiert. Es soll "hilfreiche Gespräche führen", Ermutigung bieten oder kann einen dafür aufziehen, dass man schlecht in einem Videospiel ist.
Der Friend AI-Anhänger, der in ganz Nordamerika ausgeliefert wird versprach Gesellschaft, und digitale Freundschaft. Das LLM scheint jedoch von von AVI Schiffmann trainiert worden zu sein und das Modell spiegelt dessen Persönlichkeit, mit der von ihm selbst eingestandene Neigung zu Sarkasmus und Konfrontation wieder.
Im Wired-Test lieferte der KI-Begleiter regelmäßig herablassende Antworten, bezeichnete die Nutzer als "Jammerer" und stellte ihre Lebensentscheidungen in Frage. "Du strahlst eine starke ‚Das ist nicht meine Schuld'-Haltung aus", sagte ein Friend während einer technischen Diskussion zu Boone Ashworth von WIRED.
Die sozialen Implikationen waren noch problematischer. Bei einer Tech-Veranstaltung in San Francisco sah sich Kylie Robison von WIRED massiver Feindseligkeit seitens anderer Teilnehmer ausgesetzt. Es kam der Vorwurf, dass die Reporterin eine Wanze trage. Die Erfahrung war für die Reporterin so unangenehm, dass sie das Gerät abnahm und es nie wieder in der Öffentlichkeit trug.
Friend verspricht digitale Freundschaft, liefert jedoch eher etwas, das digitaler Belästigung nahekommt. Nach zweiwöchigen Tests kommt WIRED zu dem Schluss, dass dieses Wearable das unsozialste Gerät sein könnte, das je entwickelt wurde. Die schonungslose zweiwöchige Bewertung von WIRED habe ein 129 Dollar teures Wearable enthüllt, das ständig mithört, alle Menschen in der Umgebung des Trägers vor den Kopf stößt und es irgendwie schafft, seine eigenen Nutzer mit bissigen Kommentaren zu schikanieren, heißt es hier.
War alles an mir vorbei gegangen und ich hätte dumm, aber glücklich, ohne das Wissen, wie ein durchschnittlicher junger US-Amerikaner seinen Tag verbringt, sterben können. Nachdem ich für den Beitrag hier recherchiert habe, sitze ich mit offenem Mund vor dem Rechner und staune, wie degeneriert die US-Gesellschaft zu sein scheint. Aber die Geschichte ist noch nicht zu Ende.
MVP: 2013 – 2016
Wahrscheinlich müssen solche absurden Exzesse sein, damit das Pendel irgendwann wieder zurückschwingt, sagt der utopische Träumer in mir. Der Realist sagt, nun wartet die Zielgruppe auf eine "verbesserte" Version… aua.
Die totale Verblödung und Meinungsmache durch die Tech-Unternehmen und anderen Aktöhren wird immer weiter voran getrieben.
Bei Android kann man den "Gemini"-sch… leider nur deaktivieren (wer weiß wie lange noch).
Zusätzlich auch noch mit Netguard blockieren. Pihole nicht vergessen.
Herzlich gelacht und geschluckt beim Lesen. Hatte seinerzeit, als es auf den Markt kam, schon darüber gelesen.
Aber herrlich, Deine Betonung auf "isch bin ein Boomer", konnte mal wieder so richtig ablachen.
Guten Morgen u. Danke für Deinen Beitrag bzw. die m.M. zutreffende Analyse.
Paßt doch perfekt zu dem weiteren Beitrag von heute
> "Absturz der Softwarequalität: Normalisierung einer Katastrophe".
Im Zusammenhang mit Letzterem müßte nur der letzte Satz
> "… und staune, wie degeneriert die US-Gesellschaft zu sein scheint"
leicht korrigiert werden: Betrifft nicht nur die US-Gesellschaft, was jedem nachdenkenden u. kritischen Betrachter längst klar sein dürfte.
Fällt alles unter meine These: Die Geschichte lehrt, dass jede Zivilisation max. 500 Jahre überlebt hat, bevor sie – meist eigen-"verschuldet" – unterging. Für Europa bedeutet das – je nachdem, wann man zu rechnen anfängt (z.B. Industriealisierung od. etwas vorher) – das Ende naht in nicht allzu ferner Zukunft (paßt also insofern auch auf die USA u.a.). Helfen tut da nichts oder leider: So what.
In diesem Sinne Allen einen schönen Sonntag
Der typische Werdegang einer jeden Hochkultur (lehren einem schon die Geschichtsbücher) Rise — Zenit — Fall! Die westliche Zivilisation hat den Zenit schön längst überschritten, die Gelehrten streiten lediglich noch darüber wie tief der Fall sein wird ;-P Ich prophezeie: sehr sehr tief und seit dem Millenium beschleunigt sich das raapide!
Danke für diesen Lacher nach dem Frühstück!
Solche Exzesse zeigen mir;
1) Schlimm, dass so etwas auf den Markt kommt.
2) Schlimmer noch, dass sowas gekauft wird.
3) Wir erleben scheinbar den Höhepunkt der KI-Blase. Alles, auf dem AI draufsteht bzw. "ai" im Namen vorkommt, wird a) von Investoren mit Geld zuge….gönnt und b) gekauft.
Das hatten wir schonmal ca. 2003. Da musste nur ein @ oder "web" im Firmennamen sein und schon wurde die Aktie blind gekauft, auch wenn die Firma "Born Webmaschinen AG" hieß. 😅
In diesem Sinne … sollten wir jetzt Alben von Roland kAIser kaufen – vielleicht profitieren wir vom Hype und werden über Nacht reich?
Ich werde wohl auch langsam alt, habe schon Genickprobleme vom vielen Kopfschütteln ob der Absurditäten der jüngeren Generationen.
Das ehemalige Ministerium für Staatssicherheit der DDR würde sich einen Ast in die Hose freuen. Die müssten niemanden mehr heimlich mit Richtmikrophonen und Wanzen abhören. Das machen die Bürger mittlerweile ganz freiwillig (jetzt auch zum Umhängen), rund um die Uhr, überall, zahlen sogar dafür und fühlen sich dabei auch noch hip.
Mittlerweile muss man schon wirklich höllisch aufpassen, mit wem man spricht und ob nicht irgendwer in der unmittelbaren Umgebung digital mithört. Aber: „Wir haben ja nichts zu verbergen." KOTZ!
Solche Abhörwanzen hat doch seit langem fast jeder, mehr oder weniger ständig bei sich. Viele sogar nachts neben dem Bett auf dem Nachttisch liegen …
Auf die Idee, das man evt. nützliche Geräte/Apps (zb. zur Steuerung der Smarthome-Umgebung) auf dem alten Zweitgerät OHNE Internet-Verbindung nutzen könnte, kommt so gut wie Niemand.
Allerdings ist das oft gar nicht möglich, weil die Gerätehersteller zum Betrieb eine I-Net-Verbindung erzwingen, was aber nicht draußen auf der Verpackung steht und natürlich nicht in der "Produktbeschreibung" und Werbung gesagt wird. Man muss den Dreck erstmal kaufen um ihn ggf. wieder zurück zu schicken.
Und wer finanziert solche Ideen/Starups? Es wäre ja nicht verwunderlich, wenn das Geld direkt von Möchtegern-König Trump kam … auch Leute wie Putin würde seine Untertanen gar nicht fragen ob sie so ein Gerät permanent bei sich tragen wollen, sondern das einfach zur Pflicht machen, wie so'ne elektronische Fußfessel.
Wenn es denn soweit ist, das man ein Interface zum Gedanken Auslesen bauen kann, sind sicher die Chinesen die ersten, die das verpflichtend ihren Bürgern Einpflanzen … "schöne neue Welt" … kommt in großen Schritten und noch viel krasser, als sich Aldous Huxley das hat vorstellen können. Vermutlich auch noch drastischer, als wir uns das gerade ausmalen können … denn wer weiß schon, was die nächsten Jahre, Jahrzehnte so alles an neuen tollen Erfindungen mit sich bringen.
"auch Leute wie Putin würde seine Untertanen gar nicht fragen ob sie so ein Gerät permanent bei sich tragen wollen, sondern das einfach zur Pflicht machen, wie so'ne elektronische Fußfessel."
Nicht würde, sondern wird.
In Russland gibts eine russische Alexa-Version, nennt sich Alice.
Und per Gesetz müssen zukünftig die Provider den Geheimdiensten Zugang zu den Alice-Geräten verschaffen, so das die Geheimdienste alles mithören können, was in der Mikrofonreichweite des Geräts befindet.
Außerdem muß zwangsweise auf allen neuen Smartphones eine Spionageapp vorinstalliert und nicht deaktiverbar sein, über die die Geheimdienste Vollzugriff auf Daten, Mikrofon, Kamera, etc. des Smartphones erhalten.
Auf alle Geräte? Mit Betriebssystemen wie Android, iOS und Co. kein Wunder. Aber auf Gerät mit anderen Betriebssystemen wie e/os/ dann hört das Abhören auf, weil das Gerät mit e/os/ vollständig neu geflasht wird.
Ja und, was ist daran nun so aufregenswert?
In den USA ist die geheime 3Buchstaben Schnittstelle quasi von anfang an dabei.
Stichworte National Security Letter, Cloud Act, etc
und schon davor konnte FBI,CIA und die anderen geheimen 3Buchstaben in Echtzeit jedes Telefonat mithöhren und aufzeichnen.
Einfach mal *intensiv* mit Ursprüngen Silicon Valey, FBI, … beschäftigen.
Finde daher es 'egal',ob es im geheimen oder direkt sichtbar per Gesetz vorgegeben wird, solche Schnittstellen einzubauen – sehr unschön ist es auf jeden Fall.
Kleine Unteschied ist halt, wenn's nur geheim ist, wiegen sich die Leute in 'Sicherheit', gibt's bei uns ja nicht und betrügen sich somit selbst.
Das entsprechende Warn-Plakat ist sogar physisch günstig zu haben:
https://www.deutsches-spionagemuseum.de/shop/plakat-dsm-1989-2019
Das Spionagemuseum hatte das 2019 in Berlin teils auf den großen Plakatwänden.
Henne/Ei?
Braucht man so ein Ding, weil man keine Freunde hat oder hat man keine Freunde weil man mit so einem Ding rumläuft.
Zumindest für meinen Freundeskreis würde sich die Frage ziemlich schnell beantworten lassen, falls jemand darauf besteht, mit so einem Ding regelmäßig (und nicht mal zur Belustigung) rumzulaufen.
Ich stelle also immer wieder fest: Die Welt braucht mal wieder einen Krieg.
Das ist doch ein Phänomen der Moderne. Wir haben ganz viel Social Media Plattformen und es ist so einfach wie noch nie sich mit neuen Menschen online zu connecten. Aber ich denke hier liegt auch das Problem, denn durch die Einfachheit neue Menschen kennenzulernen sind die Begegnungen nicht mehr so wertvoll, wie Begegnungen im echten Leben. Man vergisst, dass hinter jedem Pseudonym, hinter jedem Profil ein echter Mensch steckt bzw. hat möglicherweise auch Angst, dass dort eben kein echter Mensch hinter steckt und einem etwas vorgemacht wird. Dass dann einige Menschen lieber mit einem Chat-Bot schreiben oder unterhalten ist dann die Konsequenz, der ist immer da, antwortet sofort und stimmt einen meistens auch zu.
Das Ding passt doch in die Zeit.
Von sehr vielen Gen-Z und Millenials hört man doch immer wieder "Ich habe nichts zu verbergen".
Über die Konsequenzen dieser Einstellung machen die sich keine Gedanken.
Denen kann man diesen Link schicken:
c't Editorial 17/2015 – nichts zu verbergen (PDF)
https://s2f44edd987d1bc02.jimcontent.com/download/version/1650963650/module/14115494027/name/ct.15.17.003.pdf
Aber vielleicht hilft nichtmal das.
Gutes Beispiel, aber jede "Smart-Watch" hat ein Mikrofon (zum Telefonieren)
Nach einer Suche zum Thema "Saug-Roboter Datenschutz":
Viele haben ein Mikrofon und eine Kamera installiert und übertragen verschlüsselte Daten in die Cloud des Herstellers.
Es gibt sehr wenige Quellen, die das untersuchen.
Wer weis schon, was das "normale" Handy aufnimmt und an irgendjemanden schickt. Z.B. den Standort an Google.
Dazu reicht ein iPhone alleine.
Mit laufender App für die Spracheingabe (eigentlich Ton aller umliegenden Quellen), gekoppelt mit einem Chat-Agenten, der auf alle Spracheingaben mit Textantworten reagiert.
Gibts also bereits billiger und frei Haus für fast alle ohne zusätzliche Hardware. Ok, es ist ein Abo-Modell (sowohl das iPhone mit eingebautem Akku, ablaufendem Betriebssystem, zuätzlich die Abos für die Apps), aber für die Anbieter umso besser.
Und ich weiß nicht einmal, wie ich mich davor schützen soll. Ich kann ja schlecht mein Umfeld durch gute Unterhaltungen intelligenter machen, wenn Sie grundsätzlich ihrem Gerät mehr Aufmerksamkeit schenken, als der Realität.
Ich kann nicht nachvollziehen, warum Du das nur auf das iPhone beziehst. Denkst du wirklich andere Hersteller machen das nicht auch und unter Android wäre das nicht möglich? In der von den Herstellern angebotenen Android Version werden solche "Gimmicks" ebenfalls enthalten sein. Ich gebe zu, bei einem Android Smartphone hat man meistens die Wahl eine Custom ROM auf dem Gerät zu installieren und kann das unterbinden, ich halte das jedoch für eine absolute Nische und denke sowas ist nur bei Leuten zu finden die entsprechend affin sind was Technik und das Thema Datenschutz angeht. Tatsächlich halte ich ein iPhone für den unbedarften Anwender oft die bessere Wahl, weil es aus meiner Erfahrung heraus oftmals besser funktioniert und vor allem auch langfristig mit Sicherheitsupdates versorgt wird.
Ich glaub' bei den älteren Semestern heißt das Gadget 'Mein Freund Harvey'. ;-)
Wie sieht es mit DSGVO und DSA (bin kein Freund von DSA) für diese Gerätschaft aus? Sind sie vielleicht aus diesen Gesetzgebungen ausgenommen, Trump verpflichtet? Es handelt sich um einen tiefen Eingriff in der Privatsphäre. Aber wie schon von anderen Kommentatoren erwähnt, reicht das Smartphone mit gängigen Betriebssystemen (iOS,Android) schon seit Jahren völlig aus, um alles rundum abzuhören und sogar zu filmen.
Keine Sorge, die EU Politik wird da rein gar nichts machen, die freut sich klammheimlich sehr über solche Produkte…
Nach meinen letzten Informationen – die auch schon über ein Jahr alt sind – verkauft sich dieser "rollende" Elrkotronikschrott so gut wie Hühneraugen.
Mehr als ein kurzer "Hype" auf der Messe in Las Vegas 2023 ist also wohl nicht draus geworden.
Welche "Investoren" verbrennen eigentlich für und mit so etwas Millionen? Die dürften fast alle Ü50 sein.