Forscher äußern zunehmend Bedenken über die wachsende Präsenz von KI-generierten Inhalten in akademischen Publikationen. Das Hauptaugenmerk liegt dabei auf der Fähigkeit moderner Sprachmodelle, wissenschaftliche Expertise so überzeugend nachzuahmen, dass der etablierte Prozess der wissenschaftlichen Begutachtung (Peer-Review) gefährdet wird.
Aktuelle Daten unterstreichen das Ausmaß dieser Entwicklung. Laut einer im August 2026 veröffentlichten Studie auf der Plattform arXiv wiesen im Dezember 2025 bereits 90 Prozent der in PubMed Central gelisteten biomedizinischen Fachartikel Spuren von KI-Nutzung auf.
Diese Entwicklung hat sich innerhalb kurzer Zeit massiv beschleunigt: Während im Jahr 2024 noch bei 52 Prozent der Arbeiten entsprechende Hinweise gefunden wurden, stieg dieser Anteil im Jahr 2025 auf 77 Prozent.
Eine frühere Untersuchung aus dem Jahr 2024 hatte die KI-Nutzung noch auf 13,5 Prozent geschätzt. Dabei variiert die Anwendung je nach Abschnitt des Dokuments; Sprachmodelle kommen laut den Analysen zu 78 Prozent in Einleitungen und zu 58 Prozent im Methodenteil zum Einsatz.
Leistungsfähigkeit und strukturelle Risiken
Die Leistungsfähigkeit der Systeme erreicht mittlerweile Niveaus, die menschliche Experten in Teilbereichen übertreffen, wie drei Nature-Studien aus dem Jahr 2026 belegen. So erzielte ein als „AI Scientist“ bezeichnetes System in einem Peer-Review-Verfahren eine Wertung von 6,33 von 10 Punkten und platzierte sich damit unter den besten 45 Prozent der Einreichungen.
Im medizinischen Bereich diagnostizierte das Modell MIRA mit einer Genauigkeit von 88,9 Prozent, während Ärzte eine Rate von 78,1 Prozent erreichten. Zudem übertraf das Modell ERA die Vorhersagen der US-Gesundheitsbehörde CDC.
Dennoch bleiben erhebliche Risiken bestehen. Die Studien verzeichneten Fehlerraten zwischen 41 und 87 Prozent sowie das Auftreten von Halluzinationen. Die Kosten für die Erstellung eines Papers durch KI wurden mit etwa 15 US-Dollar beziffert.
Während KI-Systeme in der Forschung immer präsenter werden, stellt die neue EU-KI-Verordnung Unternehmen vor komplexe regulatorische Herausforderungen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen des EU AI Act. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
In der klinischen Praxis mahnten Experten der Technischen Universität Dresden in einem Nature-Review zur Vorsicht. Sie verwiesen auf Gefahren durch Datenlecks, eine zu starke Abhängigkeit von den Systemen sowie die bereits erwähnten Halluzinationen.
Bisher seien nur wenige KI-Anwendungen tatsächlich als Medizinprodukte zugelassen. Sicherheitsprozesse, kontinuierliches Monitoring und menschliche Aufsicht seien daher unerlässlich.
Forderung nach menschlicher Kontrolle
Le Cong von der Stanford University empfahl, dass jede Handlung, die nicht explizit im Protokoll festgelegt ist, einer menschlichen Freigabe bedürfe. Gleichzeitig könne KI dazu beitragen, die Reproduzierbarkeit zu erhöhen – ein kritisches Feld, da derzeit 70 Prozent der wissenschaftlichen Studien als nicht reproduzierbar gelten.
Wer sich professionell mit dem Einsatz von KI-Systemen befasst, muss heute auch die rechtlichen Rahmenbedingungen und die Risikoklassifizierung genau kennen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance in Ihrem Bereich sicherstellen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Auch im Bildungs- und Prüfungssektor sorgt die Technologie für Unruhe. In Indien bestritt die National Testing Agency (NTA) zwar den Einsatz von KI bei der Erstellung von Prüfungsfragen im August 2026, räumte jedoch Lücken ein, nachdem 67 von 150 Fragen in einer Englisch-Prüfung wiederholt worden waren oder Fehler in Fachgebieten wie Soziologie auftraten.
Parallel dazu zeigt eine Pew-Studie vom 20. August 2026, dass seit dem Start von ChatGPT im November 2022 rund 35 Prozent der untersuchten Webseiten KI-Autorenschaft aufweisen. Dabei ist die Quote bei kommerziellen .com-Adressen zehnmal höher als bei Bildungs- oder Regierungsportalen (.edu oder .gov), wo sie bei lediglich 1 Prozent liegt.
Prominente Fälle aus der akademischen Welt illustrieren die Bdewatte zusätzlich. Zvezdelina Stankova von der UC Berkeley verteidigte im August 2026 die Nutzung von KI für einen Meinungsbeitrag, der eine „Test-blind“-Politik an Universitäten kritisierte.
Trotz eines gemessenen KI-Anteils von 33 Prozent betonte sie den hohen Anteil an Eigenleistung von 80 Arbeitsstunden. Die Diskussion um die Integrität der Wissenschaft wird sich voraussichtlich weiter zuspitzen, während Gremien wie in Berkeley ihre Zulassungsverfahren bis Juni 2027 einer Revision unterziehen.
