Die Initiative untersucht, wie sich große Sprachmodelle im öffentlichen Gesundheitswesen einsetzen lassen – ein bedeutender Schritt für den Einsatz generativer KI auf Bundesebene.
Sicherheitsrahmen und Kontrollmechanismen
Die Tests folgen auf eine Reihe von Maßnahmen der US-Regierung zur Risikominimierung. Bereits am 2. Juni erließ die Trump-Administration eine Executive Order, die KI-Entwickler verpflichtet, ihre Modelle vor der Veröffentlichung vertraulich prüfen zu lassen. Konkret müssen Unternehmen der Regierung bis zu 30 Tage Vorabzugang gewähren, bevor neue Modelle auf den Markt kommen.
Am 12. Juli startete das Weiße Haus zudem die Initiative „Gold Eagle“ – eine Koordinierungsstelle unter Beteiligung des Finanzministeriums, des Heimatschutzministeriums und des Verteidigungsministeriums. Diese Einrichtung konzentriert sich auf die Meldung von KI-Sicherheitslücken in kritischen Infrastrukturen wie Finanz- und Energiesektor. Nur zwei Tage später sprachen sich Branchengrößen wie Sam Altman, Elon Musk und Satya Nadella für eine branchenfinanzierte KI-Sicherheitsbehörde aus.
Die aktuelle Sicherheitsdebatte wurde maßgeblich durch die Leistungsfähigkeit bestimmter Modelle beeinflusst. Anthropics „Claude Mythos“, veröffentlicht am 7. April, identifizierte über 10.000 kritische Schwachstellen durch das Projekt „Project Glasswing“. Dennoch verhängte die US-Regierung im Juni Exportkontrollen und internationale Zugangsbeschränkungen für Anthropics neueste Modelle – aus Sicherheitsbedenken.
Während Behörden weltweit Sicherheitsrahmen für künstliche Intelligenz schaffen, müssen auch Unternehmen in Deutschland die neuen gesetzlichen Leitplanken des EU AI Act beachten. Dieser kostenlose Leitfaden hilft Ihnen, die komplexen Anforderungen und Risikoklassen der KI-Verordnung rechtssicher zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Fortschritte in der medizinischen KI-Diagnostik
Die Ankündigung der Gesundheitsbehörden fällt in eine Zeit intensiver KI-Forschung in der Medizin. Ein am Montag im Fachjournal „Artificial Intelligence & Environment“ veröffentlichter Artikel schlägt vor, KI zur Vorhersage gefährlicher Chemikalienbelastungen einzusetzen. Die Methode kombiniert Massenspektrometrie mit toxikologischen Datenbanken, um biologische Risikobewertungen für verschiedene Substanzen zu erstellen.
Aktuelle Benchmarks zeigen jedoch sowohl das Potenzial als auch die Grenzen der Technologie:
Radiologie auf dem Prüfstand: Am 19. Juli veröffentlichte CRASH Lab „RadLE 2.0″, einen Benchmark für Radiologie-KI. Die Ergebnisse ernüchtern: Top-Modelle erreichten nur rund 30 Prozent Genauigkeit – während erfahrene Radiologen in früheren Tests auf 83 Prozent kamen.
Alzheimer-Früherkennung: Forscher der Texas A&M University stellten am Montag ein KI-Modell vor, das Alzheimer bis zu sieben Jahre vor Symptombeginn mit über 92-prozentiger Genauigkeit vorhersagen kann.
Operationsrisiken besser einschätzen: Eine Studie des Seoul National University Bundang Hospital nutzte das KI-Tool „ECG Buddy“. Es analysierte einzelne EKGs vor Operationen und sagte das 30-Tage-Sterberisiko nach Eingriffen mit einem AUROC-Wert von 0,909 voraus – deutlich besser als herkömmliche Methoden.
Die rasante Entwicklung von KI-Systemen im Gesundheitswesen bringt nicht nur medizinische Chancen, sondern auch neue regulatorische Pflichten wie Kennzeichnungs- und Dokumentationspflichten mit sich. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt sichern
Wandel im Gesundheitswesen
Die KI-Tests sind Teil eines größeren Umbruchs in der Gesundheitspolitik. Ein Bericht des Senatsausschusses für Gesundheit, Bildung, Arbeit und Renten vom 19. Juli schlägt Reformen für die FDA vor: schnellere Zulassungsverfahren und mehr Nutzung von „Real-World Evidence“. Der Bericht stellt fest, dass China die USA inzwischen als wichtigsten Standort für klinische Studien überholt hat.
Auch die Forschung zu speziellen Therapien wird ausgebaut. Am 19. Juli unterzeichneten das Veteranenministerium und das Gesundheitsministerium eine Vereinbarung zur Koordination der Forschung über psychedelische Therapien für Veteranen. Das Veteranenministerium betreut derzeit 20 aktive klinische Studien in diesem Bereich, unterstützt durch über 23 Millionen US-Dollar an externen Mitteln.
Während die Gesundheitsbehörden die neuen KI-Werkzeuge integrieren, bleiben sie mit akuten Gesundheitskrisen befasst. Die FDA bestätigte am Montag, dass eine zuvor verdächtigte Salatprobe von Taylor Farms auf Cyclospora ein falsch positives Ergebnis war. Dennoch bleibt ein Rückruf von Eisbergsalat aktiv, während die Gesundheitsbehörden fast 7.000 Cyclosporiasis-Fälle verfolgen, die seit dem 1. Mai gemeldet wurden.
