image: Dr Milos Cuculovic, head of technology innovation at MDPI
Credit: MDPI
MDPI, der Open-Access-Verlag, hat heute den vollständigen Einsatz eines intern entwickelten und KI-gestützten Systems für wissenschaftliche Integrität namens „Ethicality“ angekündigt. Das Tool wird ab sofort genutzt, um alle beim Verlag eingereichten Manuskripte automatisch zu überprüfen.
Die Einführung ist ein bedeutender Schritt im Bestreben von MDPI, die Qualität der wissenschaftlichen Literatur zu sichern, die Effizienz zu steigern und Redakteurinnen und Redakteure vom Eingang einer Einreichung bis zur Publikationsentscheidung besser zu unterstützen. Derzeit prüft Ethicality täglich rund 2.000 Einreichungen aus aller Welt.
Ethicality ist in den redaktionellen Ablauf eingebunden und begleitet Einreichungen als durchgehende End-to-End-Integritätsebene. Das Tool überwacht Manuskripte kontinuierlich, anstatt nur einmalig beim Eingang geprüft zu werden. Seine Entwicklung basiert auf umfassenden Tests und iterativem Training, wodurch MDPI die Erkennungsfunktionen anhand realer Einreichungsmuster verfeinern konnte. Die Einführung erfolgt in einer Phase großen Interesses an der Nutzung von KI im wissenschaftlichen Publizieren.
„Es zeichnet sich immer deutlicher ab, dass herkömmliche, manuelle Prozesse im Peer-Review-Verfahren nicht mehr ausreichen. Die Branche muss von reaktiven zu proaktiven Ansätzen übergehen – Schwierigkeiten also erkennen, bevor sie entstehen, statt sie nachträglich zu beheben. Redakteure und Herausgeberinnen müssen schon am Anfang des Workflows unterstützt werden. Verantwortungsvoll eingesetzt, fungiert KI als Leitplanke und nicht als Ersatz für menschliches Urteilsvermögen. Die Zukunft liegt in der Kombination von Automatisierung und starker redaktioneller Aufsicht, um Konsistenz, Transparenz und Vertrauen im großen Stil zu gewährleisten“, sagt Dr. Milos Cuculovic, Leiter der Technologie-Innovation bei MDPI.
„Die Verlagsbranche befindet sich in einem grundlegenden Wandel, der durch Skalierung und Technologie angetrieben wird. Das Aufkommen an neu eingereichten Artikeln wächst stetig, während die Erwartungen an Geschwindigkeit, Transparenz und Qualität steigen. Gleichzeitig birgt generative KI sowohl Chancen als auch Risiken – von verbesserten Workflows bis hin zu Herausforderungen wie synthetischen Inhalten, manipulierten Daten und fragwürdigen Autorenschaftspraktiken“, so Dr. Cuculovic.
KI-gestützte Integritätsprüfung im großen Stil
Ethicality analysiert jede Einreichung anhand von Kernkomponenten – wie Titel, Abstract, Autoren-Metadaten, Haupttext und Literaturverzeichnis –, bevor eine umfassende Integritätsbewertung erfolgt. Auch Peer-Review-Berichte werden im Rahmen dieses Prozesses analysiert. Das System erkennt eine Vielzahl potenzieller Probleme, darunter:
• Aktivitäten von sogenannten “Paper Mills” und gefälschte Einreichungen;
• KI-generierte oder manipulierte Texte;
• Zitationsmanipulation und unregelmäßige Referenzierungsmuster;
• Gefälschte Literaturverweise;
• Bedenken hinsichtlich der Identität von Autor:innen und Anomalien bei der Autorenschaft;
• Verdächtige Peer-Review-Muster und KI-generierte Texte in Gutachten.
Ergänzend setzt MDPI auf Software von Drittanbietern wie Proofig AI zur Erkennung von Bildmanipulationen und iThenticate, um alle eingereichten Manuskripte auf Textduplikate und potenzielles Plagiat zu überprüfen.
Unterstützung menschlicher Editoren durch Automatisierung
Ethicality wurde von MDPI entwickelt, um als zentrales Unterstützungstool zu dienen und nicht, um die redaktionelle Entscheidungsfindung zu ersetzen. Ein Kernprinzip von Ethicality ist sein „Human-in-the-loop“-Design. Während das System automatisierte Analysen und Risikosignale liefert, werden alle markierten Fälle von erfahrenen Editoren oder von unseren Fachleuten für wissenschaftliche Integrität überprüft, bevor Maßnahmen ergriffen werden. Dieser Ansatz stellt sicher, dass die Automatisierung die redaktionelle Aufsicht verbessert, anstatt sie zu ersetzen.
Dr. Enric Sayas, Product Owner von Ethicality, erklärt: „Wir befinden uns in einem technologischen Wettlauf. Da generative KI es immer einfacher macht, hochentwickelte Plagiate und qualitativ hochwertige gefälschte Arbeiten zu erstellen, reichen traditionelle Erkennungsmethoden nicht mehr aus. Die einzig tragfähige Antwort für Verlage ist der Einsatz ebenso fortschrittlicher Werkzeuge unter Verwendung großer Sprachmodelle (LLMs) und spezialisierter KI-Systeme, um manipulierte Bilder, inkonsistente Daten und KI-generierte Inhalte zu erkennen. Ohne solche Schutzmaßnahmen droht die schiere Menge an betrügerischen Einreichungen das Peer-Review-Verfahren zu überlasten und die Glaubwürdigkeit des wissenschaftlichen Publizierens zu untergraben.“
Durch die Automatisierung zeitintensiver technischer Prüfungen ermöglicht Ethicality den Editoren, sich auf die wissenschaftliche Bewertung und die Qualität der Entscheidungsfindung zu konzentrieren.
„Der primäre Wert von KI liegt in ihrer Fähigkeit, zeitraubende Aspekte der Manuskriptbearbeitung zu übernehmen, sodass sich Editoren und Gutachter auf die anspruchsvolle wissenschaftliche Evaluierung konzentrieren können. Aufgaben wie die Validierung von Literaturverweisen, Formatierungsprüfungen und die grundlegende technische Vorauswahl sind wichtig, aber repetitiv. Die KI kann ein erstes Screening durchführen und problematische Fälle für die redaktionelle Prüfung markieren. So wird sichergestellt, dass menschliche Expertise dort eingesetzt wird, wo sie am meisten zählt – bei der wissenschaftlichen Entscheidungsfindung“, so Dr. Sayas.