Der KI-Entwickler Anthropic hat die Sicherheitsmechanismen seines Modells Claude Fable 5 im Bereich Biologie umfassend aktualisiert. Durch die Anpassung sank die Rate der sogenannten Fallbacks – Situationen, in denen das System Anfragen verweigert oder auf ein älteres Modell ausweicht – um rund 85 Prozent. Ziel der Maßnahme sei es, klinischem Personal und Fachkräften im Gesundheitswesen eine effizientere Bearbeitung komplexer biologischer Aufgabenstellungen zu ermöglichen.
Die Reduzierung der Fallback-Raten unterscheidet sich je nach genutzter Plattform des Unternehmens deutlich. Auf der Weboberfläche Claude.ai verzeichnete das Unternehmen einen Rückgang der Blockierungen um 67 Prozent, während der Bereich Cowork eine Reduktion um 55 Prozent aufweist. Bei der spezialisierten Anwendung Claude Code sank die Rate um 17 Prozent und bei der API sowie der allgemeinen Claude-Plattform um 7 Prozent. Durch diese technischen Anpassungen könne Claude Fable 5 nun ein deutlich breiteres Spektrum an Aufgaben in den Biowissenschaften bearbeiten, ohne den Arbeitsfluss durch Sicherheitsverweigerungen zu unterbrechen.
Ein wesentlicher Bestandteil des Updates betrifft den Umgang mit gutartigen Anfragen aus der medizinischen Praxis. Routineaufgaben, wie die Interpretation von Laborergebnissen oder die Einordnung spezifischer Symptome, werden nun unmittelbar durch das Modell beantwortet. Zuvor hatten Nutzer wiederholt berichtet, dass das System bei Routinearbeiten übermäßig konservativ agierte und selbst harmlose, fachbezogene Anfragen blockierte. Branchenbeobachter wiesen darauf hin, dass die bisherige Vorsicht des Modells die Produktivität in professionellen Umgebungen einschränkte.
Während KI-Systeme in der Forschung neue Möglichkeiten eröffnen, bringen sie auch komplexe rechtliche und sicherheitstechnische Fragen für Unternehmen mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen. Gratis-E-Book zu KI-Gesetzen und Cyberbedrohungen herunterladen
Trotz der Lockerungen bleiben bestimmte Bereiche der Forschung streng reglementiert. Kritische Dual-Use-Bereiche, die sowohl zivile als auch militärische Relevanz besitzen könnten, führen weiterhin zu Einschränkungen. Dazu zählen insbesondere die Virologie, die Toxikologie sowie das molekulare Design. Anfragen in diesen Kategorien werden weiterhin auf das Modell Opus 5 zurückgeführt und bleiben in der Regel blockiert. Anthropic begründete diese fortbestehenden Sicherheitsbarrieren mit dem Schutz vor potenziellem Missbrauch. Das Unternehmen warnte daufbauend darauf, dass die fortgeschrittenen Fähigkeiten des Modells theoretisch für die Entwicklung von Biowaffen zweckentfremdet werden könnten.
Daher bleibt die professionelle Forschung in sensiblen Bereichen der Medikamentenentwicklung vorerst nur eingeschränkt über die Standard-Tools möglich. Um spezialisierten Wissenschaftlern dennoch einen tiefergehenden Zugriff zu ermöglichen, entwickelt Anthropic derzeit sogenannte Trusted-Access-Pfade. Für diesen speziellen Forscherzugang gibt es jedoch noch keinen konkreten Zeitplan. Ein entsprechender Zugang für Experten war bereits im Rahmen der Modellveröffentlichung Anfang Juni in Aussicht gestellt worden.
Wer sich mit der Digitalisierung sensibler Bereiche befasst, muss Sicherheitslücken proaktiv schließen, bevor sie zum Risiko werden. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Ihr Unternehmen ohne hohe Investitionen wirksam vor Cyberangriffen schützen. Jetzt kostenlose Checkliste für IT-Sicherheit sichern
Während die neuen Sicherheitsmechanismen die Nutzbarkeit für Mediziner im Alltag verbessern sollen, zeigen erste Rückmeldungen von Anwendern ein gemischtes Bild. Nutzer berichteten, dass das Modell bei bestimmten Routineaufgaben weiterhin zu einer sehr vorsichtigen Haltung neigt. Dennoch markiert die deutliche Senkung der Fehlblockierungen einen wichtigen Schritt, um KI-Systeme für hochspezialisierte Branchen wie die klinische Forschung besser nutzbar zu machen.
