{"id":295749,"date":"2024-06-02T00:03:00","date_gmt":"2024-06-01T22:03:00","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=295749"},"modified":"2024-06-01T08:38:54","modified_gmt":"2024-06-01T06:38:54","slug":"bchse-der-pandora-die-gesundheitsdaten-ki-copilot-adobe-ai-und-der-patienten-datenschutz","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2024\/06\/02\/bchse-der-pandora-die-gesundheitsdaten-ki-copilot-adobe-ai-und-der-patienten-datenschutz\/","title":{"rendered":"B&uuml;chse der Pandora: Die Gesundheitsdaten, KI (Copilot, Adobe AI) und der Patienten-\/Datenschutz"},"content":{"rendered":"<p><img decoding=\"async\" title=\"Gesundheit\" style=\"float: left; margin: 0px 10px 0px 0px; display: inline\" border=\"0\" alt=\"Gesundheit (Pexels, frei verwendbar)\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Gesundheit-klein.jpg\" width=\"200\"\/>In den letzten Wochen gab es hier im Blog ja einige Beitr\u00e4ge zu gravierenden Cyberangriffen auf Anbieter im Medizinbereich. Weiterhin haben wir gelernt, dass Adobe im Acrobat Reader eine AI-L\u00f6sung einf\u00fchren m\u00f6chte, die PDF-Dokument auswerten kann. Und dr\u00fcckt Microsoft an allen Stellen sein Copilot in Produkte und hat sogar einen CoPilot+PC angek\u00fcndigt, dessen Recall-Funktion alle Aktivit\u00e4ten erfassen und speichern kann. Soll alles \"sicher\" passieren, wird aber der GAU f\u00fcr Patienten- und Datenschutz im Medizinbereich. Die B\u00fcchse der Pandora wird hier gerade ge\u00f6ffnet. Hier einige Informationen und Gedanken dazu.<\/p>\n<p><!--more--><\/p>\n<h2>KI auf dem Vormarsch<\/h2>\n<p><img loading=\"lazy\" decoding=\"async\" alt=\"\" src=\"https:\/\/vg07.met.vgwort.de\/na\/096ca23373b34044a02096f8425652d2\" width=\"1\" height=\"1\"\/>Seit der Hype um k\u00fcnstliche Intelligenz losgetreten wurde, gibt es ja keine Woche ohne neuen Ank\u00fcndigungen mehr. In diesem Kontext sind mir mehrere Ereignisse der letzten Wochen im Hinterkopf geblieben, die nahelegen, den gesamten Themenkomplex als extrem kritisch und unter \"wehret den Anf\u00e4ngen\" abzulehnen.<\/p>\n<ul>\n<li>Es gibt das Ansinnen des Anbieters Adobe, seinen PDF-Reader und auch Acrobat mit AI-Funktionen zum Scannen der PDF-Dokumente auszustatten. Das soll schrittweise einf\u00fchrt werden, wie ich im Beitrag <a href=\"https:\/\/borncity.com\/blog\/2024\/03\/23\/stopp-deaktiviert-das-scannen-von-dokumenten-durch-adobe-ai-lsungen\/\">Deaktiviert das Scannen von Dokumenten durch Adobe AI-L\u00f6sungen<\/a> vom 23. M\u00e4rz 2024 angesprochen habe. Zum 26. M\u00e4rz 2024 erreichte mich die Mail einer im Auftrag von Adobe arbeitenden Kommunikationsagentur, die um L\u00f6schung des Blog-Beitrags bat, da angeblich nicht korrekt. Ich habe den Sachverhalt und die offensichtlichen Widerspr\u00fcche im Beitrag aufbereitet, der Beitrag ist im Blog geblieben (eine Redaktion hat ihren Beitrag gel\u00f6scht). Und nun darf jeder seine Phantasie spielen lassen, PDF-Dokumente sind allgegenw\u00e4rtig, sollten in der elektronischen Patientenakte zugelassen werden und Adobe-Produkte zur Anzeige sind fast durchgehend auf den Clients installiert.  <\/li>\n<li>Dann hat Microsoft Mitte Mai 2024 seinen Copilot+PC-Ansatz vorgestellt, wobei einem Funktion namens Recall meine besondere Aufmerksamkeit geweckt hat. Die Funktion protokolliert alle Aktionen eines Nutzers und wertet diese aus &#8211; Ziel ist es, dem Benutzer den Zugriff auf das zu gew\u00e4hren, was er in der Vergangenheit gemacht hat. Der nette Nebeneffekt: Man hat eine perfekte Wanze installiert, und der Personal Computer ist nicht mehr pers\u00f6nliches Arbeitsmittel, sondern \u00dcberwachungsinstrument. Dass das Versprechen Microsofts, alles ist lokal und sicher, Lug und Trug ist, hatte ich im Beitrag <a href=\"https:\/\/borncity.com\/blog\/2024\/06\/01\/copilotai-recall-funktion-ki-gesttzter-diebstahl\/\">Copilot+AI: Recall-Sicherheitsdesaster- KI-gest\u00fctzter Diebstahl<\/a> aufbereitet. <\/li>\n<\/ul>\n<p>Es gab noch einen weiteren Fall, der ebenfalls Wellen schlug (oder eben auch nicht): Beim Online-Mediziner Dr. Ansay konnten Patienten sich Cannabis-Rezepte ausstellen lassen. Die Verschreibung von Cannabis-Produkten \u00fcber \u00c4rzte ist sicherlich f\u00fcr bestimmte Patientengruppen ein Segen. Ob man aber unbedingt bei einem Internetversender ordern muss? Durch einen groben Fehler waren die georderten Rezepte als PDF-Dokumente \u00f6ffentlich \u00fcber deren Webseite abrufbar und wurden durch Suchmaschinen indexiert. Selbst als die Rezepte bereits gel\u00f6scht waren, lie\u00dfen sich deren Metadaten noch \u00fcber Wochen in Bing oder DuckDuckGo abrufen. Und damit komme ich schon zu einem Thema, was mich l\u00e4nger umtreibt: \"Sorgen die KI-Assistenten bald daf\u00fcr, dass solche Informationen demn\u00e4chst im Internet abrufbar sind?\"<\/p>\n<h2>B\u00fcchse der Pandora, das neue Normal?<\/h2>\n<p>Und jetzt postulieren wir mal, dass das Gro\u00df der Rechner in Praxen mit Windows l\u00e4uft, auf denen Arztbriefe geschrieben, Patientendaten gelesen und verarbeitet sowie Behandlungen dokumentiert werden. Microsoft klatscht ja bei allem und jedem seinen Copilot mit auf die Systeme drauf und das Teil soll Dokumente auswerten. Auch die in Windows 11 23H2 kommende und oben erw\u00e4hnte Recall-Funktion ist bisher in Windows Insider Previews standardm\u00e4\u00dfig aktiv. <\/p>\n<p>Redmond bietet zwar die M\u00f6glichkeit f\u00fcr Administratoren, das \"Herausreichen von Dokumentinhalten aus einer Unternehmensumgebung\" zu konfigurieren. Aber hey, das wird schlicht nicht funktionieren &#8211; ich habe mir einige Microsoft-Dokumente diesbez\u00fcglich angesehen. Der Administrator ist immer der Arsch: Klappt was nicht, hat der Admin schuld. Geht was schief, wird der Admin den schwarzen Peter bekommen. <\/p>\n<p>Und in jeder Praxis werden PDF-Reader auf den Rechnern installiert, sobald dort PDF-Dokumente anfallen werden. Beim kleinen Therapeuten um die Ecke wird kein IT-Betreuer arbeiten, da richten sich die Leute den PC selbst ein oder bitten einen Freund, der Computer richtig schreiben kann, um Assistenz. <\/p>\n<p>M\u00f6glicherweise bekommt es noch die eine oder andere IT-Betreuung einer gr\u00f6\u00dferen Praxis hin, diese AI-Funktionen zu deaktivieren und das Auswerten von Aktionen und Inhalten zu verhindern. Aber das sind dann Ausnahmen. WhatsApp zur Patientenkommunikation, offene Praxissysteme f\u00fcr jeden zug\u00e4nglich und mehr \"Grausamkeiten\" hatte ich in <a href=\"https:\/\/borncity.com\/blog\/2024\/03\/24\/it-aus-der-hlle-im-gesundheitswesen-schlimmer-gehts-nimmer\/\">IT aus der H\u00f6lle im Gesundheitswesen: Schlimmer geht's (n)immer<\/a> thematisiert &#8211; das war ein Bericht aus der Praxis. <\/p>\n<p>Im Kontext der obigen Artikel und Sachverhalte gehen mir nun noch weitere Gedanken durch den Kopf. Die Zukunft sieht d\u00fcster aus, wenn es um Gesundheitsdaten und Datenschutz geht. <\/p>\n<ul>\n<li>Gesundheitsminister Lauterbach will die elektronische Patientenakte und die Auswertung der Daten durch die Industrie (als Forschung verkappt) durchdr\u00fccken. Hier kippe ich mal zwei Artikel in die Debatte: <a href=\"https:\/\/borncity.com\/blog\/2024\/03\/23\/digitalisierung-im-gesundheitswesen-kelber-kritisiert-epa-schutzlos-gegen-cyberangriffe\/\">Digitalisierung im Gesundheitswesen: Kelber kritisiert ePA, Schutzlos gegen und Cyberangriffe<\/a> und <a href=\"https:\/\/borncity.com\/blog\/2024\/05\/30\/republica-kontra-datenschutz-wo-ist-die-medizinethikering-buyx-falsch-abgebogen\/\">re:publica: Kontra Datenschutz; wo ist die Medizinethikerin Buyx \"falsch abgebogen?<\/a>.  <\/li>\n<li>Mitte M\u00e4rz 2024 wurde vom EU-Parlament ein Deal zum EU-Gesundheitsdatenraum geschlossen, der die den Kontrollverlust von Patienten \u00fcber ihre Gesundheitsdaten besiegelt. Patrick Breyer von den Piraten hat es in nachfolgendem <a href=\"https:\/\/twitter.com\/echo_pbreyer\/status\/1768574126808088827\" target=\"_blank\" rel=\"noopener\">Tweet<\/a> und im Artikel <a href=\"https:\/\/www.patrick-breyer.de\/deal-zum-eu-gesundheitsdatenraum-kontrollverlust-der-patienten-uber-ihre-gesundheitsdaten\/\" target=\"_blank\" rel=\"noopener\">Deal zum EU-Gesundheitsdatenraum: Kontrollverlust der Patienten \u00fcber ihre Gesundheitsdaten<\/a> aufgegriffen. Ich hatte es im Beitrag <a href=\"https:\/\/borncity.com\/blog\/2024\/03\/15\/europischer-gesundheitsdatenraum-ehds-beschlossen-die-haken-fr-patienten\/\">Europ\u00e4ischer Gesundheitsdatenraum (EHDS) beschlossen \u2013 die Haken f\u00fcr Patienten<\/a> im Blog zu behandelt. <\/li>\n<\/ul>\n<p>&nbsp;<a href=\"https:\/\/www.patrick-breyer.de\/deal-zum-eu-gesundheitsdatenraum-kontrollverlust-der-patienten-uber-ihre-gesundheitsdaten\/\" target=\"_blank\" rel=\"noopener\"><img decoding=\"async\" title=\"Deal zum EU-Gesundheitsdatenraum: Kontrollverlust der Patienten &uuml;ber ihre Gesundheitsdaten\" alt=\"Deal zum EU-Gesundheitsdatenraum: Kontrollverlust der Patienten &uuml;ber ihre Gesundheitsdaten\" src=\"https:\/\/i.postimg.cc\/L5t5k1qN\/image.png\"\/><\/a><\/p>\n<p>Wir werden gerade Zeuge, wie US-Firmen um Microsoft seinen CoPilot auf die Anwenderschaft los l\u00e4sst und beispielsweise auch Adobe in den Startl\u00f6chern steht, um PDF-Dokumente per AI auswerten zu k\u00f6nnen. Die Geschehnisse um den Blog-Beitrag <a href=\"https:\/\/borncity.com\/blog\/2024\/03\/23\/stopp-deaktiviert-das-scannen-von-dokumenten-durch-adobe-ai-lsungen\/\">Deaktiviert das Scannen von Dokumenten durch Adobe AI-L\u00f6sungen<\/a> zeigen, mit welch harten Bandagen da bereits gearbeitet wird. Wenn ich jetzt nochmals einen kleinen Szenenwechsel vornehme kommt die Erkenntnis: In jeder Arztpraxis, bei Therapeuten, in Apotheken etc. l\u00e4uft dieses Windows, in Office werden Arztbriefe verfasst und die elektronische Patientenakten wird auch auf solchen Systemen gepflegt. Adobe PDF-Reader d\u00fcrften ebenfalls zu finden sein. <\/p>\n<p>Von Adobe wurde unfreiwillig in der Mail mit der Aufforderung zum Entfernen des Blog-Beitrags belegt, dass Daten zur Auswertung nach au\u00dfen gegeben werden. Es hei\u00dft zwar \"alles ist sicher, Verarbeiter haben Verpflichtungserkl\u00e4rungen unterschrieben). Aber was uns nach wenigen Jahren fl\u00e4chendeckendem AI-Einsatz droht, habe ich im Beitrag <a href=\"https:\/\/borncity.com\/blog\/2024\/05\/13\/lethal-injection-microsoft-ai-bot-fr-das-gesundheitswesen-mal-eben-gehackt\/\">Lethal Injection: Microsoft AI-Bot f\u00fcr das Gesundheitswesen mal eben gehackt<\/a> skizziert. Ein Prompt Engineer untersuchte Plattformen f\u00fcr das Gesundheitswesen, die auf Basis von Microsoft-Technologie arbeiteten. \u00dcber eine Reihe von Schwachstellen konnte er auf Gesundheitsdaten von Patienten zugreifen, die eigentlich nicht zug\u00e4nglich sein sollten. <\/p>\n<p>Und mit Microsofts Recall h\u00e4lt endlich eine Wanze in die Windows-Systeme Einzug, auf die die Geheimdienste, Strafverfolger und auch Cyberkriminelle niemals zu hoffen gewagt h\u00e4tten. Da bewegen wir uns auf <a href=\"https:\/\/de.wikipedia.org\/wiki\/Dystopie\" target=\"_blank\" rel=\"noopener\">dystopische<\/a> Zust\u00e4nde zu, gegen die <a href=\"https:\/\/de.wikipedia.org\/wiki\/1984_(Roman)\" target=\"_blank\" rel=\"noopener\">Orwells 1984<\/a> ein Klacks ist. Und ich habe noch eine schlechte Nachricht: Die <a href=\"https:\/\/de.wikipedia.org\/wiki\/Pandora\" target=\"_blank\" rel=\"noopener\">B\u00fcchse der Pandora<\/a> ist ge\u00f6ffnet &#8211; Du kannst nur noch versuchen, m\u00f6glichst wenig Daten \u00fcber dich entstehen zu lassen. Noch stemme ich mich mit Blog-Beitr\u00e4gen wie diesen gegen den Trend &#8211; aber es sieht nicht gut aus. <\/p>\n<p><strong>\u00c4hnliche Artikel:<\/strong><br \/><a href=\"https:\/\/borncity.com\/blog\/2023\/12\/15\/gesundheitsgesetze-i-eu-parlament-macht-weg-fr-eu-health-data-space-ehds-frei\/\">Gesundheitsgesetze I: EU-Parlament macht Weg f\u00fcr EU Health Data Space (EHDS) frei<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2023\/12\/15\/gesundheitsgesetze-ii-bundestag-beschliet-digitalisierung-im-gesundheitswesen-gdng-digig\/\">Gesundheitsgesetze II: Bundestag beschlie\u00dft Digitalisierung im Gesundheitswesen (GDNG, DigiG)<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2023\/12\/29\/gesundheitsgesetze-iii-mit-digitalisierung-planlos-ins-desaster\/\">Gesundheitsgesetze III: Mit Digitalisierung planlos ins Desaster?<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2023\/12\/30\/erezept-ab-2024-verpflichtend-ungereimtheiten-fhren-zum-desaster\/\">eRezept ab 2024 verpflichtend \u2013 Ungereimtheiten f\u00fchren zum Desaster<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/03\/23\/digitalisierung-im-gesundheitswesen-kelber-kritisiert-epa-schutzlos-gegen-cyberangriffe\/\">Digitalisierung im Gesundheitswesen: Kelber kritisiert ePA, Schutzlos gegen Cyberangriffe<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/03\/15\/europischer-gesundheitsdatenraum-ehds-beschlossen-die-haken-fr-patienten\/\">Europ\u00e4ischer Gesundheitsdatenraum (EHDS) beschlossen \u2013 die Haken f\u00fcr Patienten<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/03\/24\/it-aus-der-hlle-im-gesundheitswesen-schlimmer-gehts-nimmer\/\">IT aus der H\u00f6lle im Gesundheitswesen: Schlimmer geht's (n)immer<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/09\/nachlese-software-sicherheitslcken-in-in-deutschen-gesundheitsmtern\/\">Nachlese: Software-Sicherheitsl\u00fccken in Mikropro Health in deutschen Gesundheits\u00e4mtern<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/13\/lethal-injection-microsoft-ai-bot-fr-das-gesundheitswesen-mal-eben-gehackt\/\">Lethal Injection: Microsoft AI-Bot f\u00fcr das Gesundheitswesen mal eben gehackt<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/26\/nca-insides-lehren-aus-den-hacks-im-gesundheitswesen\/\">NCA-Insides: Lehren aus den Hacks im Gesundheitswesen<\/a>  <\/p>\n<p><a href=\"https:\/\/borncity.com\/blog\/2024\/03\/23\/stopp-deaktiviert-das-scannen-von-dokumenten-durch-adobe-ai-lsungen\/\">Deaktiviert das Scannen von Dokumenten durch Adobe AI-L\u00f6sungen<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/06\/01\/copilotai-recall-funktion-ki-gesttzter-diebstahl\/\">Copilot+AI: Recall-Sicherheitsdesaster- KI-gest\u00fctzter Diebstahl<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/16\/cannabis-rezepte-datenleck-ceo-dr-jur-ansay-sucht-die-schuld-bei-anderen\/\">Cannabis-Rezepte Datenleck: CEO Dr. Jur Ansay sucht die Schuld bei anderen<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/15\/autsch-datenleck-bei-dr-ansay-cannabis-rezepte-in-duckduckgo-sichtbar\/\">Autsch: Datenleck bei Dr. Ansay, Cannabis-Rezepte in DuckDuckGo sichtbar<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/30\/nachlese-datenschutzvorfall-mit-cannabis-rezepten-bei-dr-ansay\/\">Nachlese Datenschutzvorfall mit Cannabis-Rezepten bei Dr. Ansay<\/a><br \/><a href=\"https:\/\/borncity.com\/blog\/2024\/05\/13\/lethal-injection-microsoft-ai-bot-fr-das-gesundheitswesen-mal-eben-gehackt\/\">Lethal Injection: Microsoft AI-Bot f\u00fcr das Gesundheitswesen mal eben gehackt<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>In den letzten Wochen gab es hier im Blog ja einige Beitr\u00e4ge zu gravierenden Cyberangriffen auf Anbieter im Medizinbereich. Weiterhin haben wir gelernt, dass Adobe im Acrobat Reader eine AI-L\u00f6sung einf\u00fchren m\u00f6chte, die PDF-Dokument auswerten kann. Und dr\u00fcckt Microsoft an &hellip; <a href=\"https:\/\/borncity.com\/blog\/2024\/06\/02\/bchse-der-pandora-die-gesundheitsdaten-ki-copilot-adobe-ai-und-der-patienten-datenschutz\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426],"tags":[4328],"class_list":["post-295749","post","type-post","status-publish","format-standard","hentry","category-sicherheit","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/295749","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=295749"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/295749\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=295749"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=295749"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=295749"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}