Am 11.12.2025 hat im Rahmen der Veranstaltungsreihe „Quo Vadis – Offene Wissenschaft in Berlin und Brandenburg“ die Veranstaltung „Das Paradox der Offenheit – Open Science und wissenschaftliche Integrität“ stattgefunden. Der Fokus der Veranstaltung lag auf der Frage, inwiefern Falschinformationen im Zeitalter von KI die wissenschaftliche Integrität bedrohen. Die Veranstaltung war mit 105 Teilnehmenden sehr gut besucht, was zeigt, dass das Thema auf großes Interesse stößt. Moderiert wurde die Veranstaltung von Julia Boltze-Fütterer von der Verbundzentrale des Kooperativen Bibliotheksverbunds Berlin-Brandenburg (KOBV).
Als Einstieg in das Thema wurden die Teilnehmenden gefragt, was ihrer Meinung nach das größte Risiko von KI in der Wissenschaft darstellt. Mehr als die Hälfte hat angegeben, dass das größte Risiko im Verlust des Vertrauens in wissenschaftliche Ergebnisse liegt.
In Frage zwei sollten die Teilnehmenden die Rolle von generativer KI in der Wissenschaft bewerten, von 1 „Überwiegend nützliches Werkzeug“ bis 5 „Überwiegend massive Bedrohung“. Die Bewertungsergebnisse bewegten sich im Mittelfeld. Nur 4% bewerteten es als „Überwiegend nützliches Werkzeug“ und niemand als „Überwiegend massive Bedrohung“.
Der Hauptteil der Veranstaltung bestand aus drei spannenden Input-Vorträgen, die das Thema Open Access in Zeiten von Fake Science und KI beleuchteten.
Begonnen hat Dr. Tomasz Stompor, der Leiter der Verbundzentrale des KOBV. Herr Stompor widmete sich in seinem Vortrag der Frage, wie Fake Science offene Wissenschaft untergräbt. Zu Beginn stellte er die verschiedenen Arten wissenschaftlichen Betrugs vor. Dabei begann er zuerst mit den bereits 1830 von Charles Babbage aufgestellten Grundmethoden: Hoaxing (Erfindung mit dem Ziel etwas zu verhöhnen), Forging (Erfinden von Ergebnissen, mit Absicht nicht entdeckt zu werden), Trimming (fragmentarische Manipulation von Ergebnissen) und Cooking (bewusste Manipulation um ein gewünschtes Ergebnis zu erreichen). Herr Stompor berichtete weiter, dass die Fixierung auf Metriken zur Bewertung des wissenschaftlichen Outputs neue Arten wissenschaftlichen Betrugs mit sich bringt, durch generative KI werde das ganze vereinfacht und beschleunigt. Herr Stompor führte weiter aus, dass der Zuwachs von betrügerischen Publikationen auf dem Weg sei, die Veröffentlichungsrate legitimer Forschung zu überholen. Dies führe dazu, dass das gesellschaftliche Vertrauen in die Wissenschaft ins Wanken gerate. Zum Abschluss ging er noch auf den Titel „Das Paradox der Offenheit“ ein. Seiner Meinung nach zeigt sich dieses in einem Spannungsfeld zwischen Zugang und Vulnerabilität. Vor allem in offenen Infrastrukturen wird diese Vulnerabilität zunehmend sichtbar, da es durch KI vermehrt zur Ausbeutung dieser Infrastrukturen kommt. Tomasz Stompor schloss mit dem Plädoyer, dass es zu einer Reform der wissenschaftlichen Prestigeökonomie kommen müsse, das Bewusstsein dafür solle auch durch das Engagement von Bibliotheken geschaffen werden.
Dr. Violeta Trkulja ist Informationswissenschaftlerin und stellvertretende Vorsitzende des Vereins „Grenzenlos Digital“ und hat als zweite Referentin in ihrem Vortrag das Forschungsprojekt Desive² vorgestellt. Desive² hat das (Des)informationsverhalten von Bürger:innen im Bereich Gesundheit untersucht und sich in diesem Kontext auch mit der Systematisierung von Falschinformationen in der Wissenschaft beschäftigt. Frau Trkulja hat vier Kategorien von Falschinformationen in der Wissenschaft näher beleuchtet: 1) Pseudowissenschaft als eine Form, die außerhalb des Wissenschaftssystems entsteht (beispielsweise wissenschaftliche Anmutung durch bestimmte Merkmale wie Formeln, Tabellen etc.), 2) überholte Forschungsergebnisse, 3) Datenfälschungen und wissenschaftliches Fehlverhalten und 4) Verfälschung durch die Rezeption (beispielsweise durch Dekontextualisierung). Violeta Trkulja hat Beispiele für alle Kategorien präsentiert und ist abschließend darauf eingegangen, wie wissenschaftliche Falschinformationen entstehen und was ein Vertrauensverlust in die Wissenschaft bedeutet.
Den dritten Input der Veranstaltung hat Dr. Juliane Stiller, Informationswissenschaftlerin und Vorsitzende des Vereins „Grenzenlos Digital“ gegeben. In ihrem Vortrag beleuchtete sie, wie das Spannungsfeld zwischen Offenheit, Integrität und wissenschaftlicher Sicherheit durch KI beeinflusst wird. Frau Stiller stellte in ihrem Vortrag mehrere Herausforderungen gegenüber. Zuerst ging sie auf die wissenschaftliche Integrität ein, die durch gute wissenschaftliche Praxis, Verantwortung, und Transparenz gelebt wird. Diese wird durch industriell gefertigte Falschinformationen immer mehr bedroht. In einem weiteren Spannungsfeld stehen die offenen wissenschaftlichen Infrastrukturen, die einerseits durch Missbrauch durch Paper Mills als auch durch Überlastung durch KI-Crawler immer mehr unter Druck geraten. Die für diese Herausforderungen benannten Lösungsansätze resultierten jedoch wieder in einem Dilemma: So kann KI schnelle Analysen und bessere Forschungstools ermöglichen, dies führt aber auch zu mehr Prüf- und Kontrollbedarf. Frau Stiller schloss mit dem Plädoyer, dass Kooperation, auch als Grundgedanke des Open Access, das Ziel sein sollte und dass der Rückbau von Open Access keine Lösung für die aktuellen Herausforderungen sein kann.
Wir bedanken uns bei allen Teilnehmenden für die spannende Diskussion.
Falls Sie sich mehr mit dem Thema beschäftigen wollen, finden Sie unter folgendem Link eine Zotero-Bibliografie zum Thema Fake Science: https://www.zotero.org/groups/6191394/fake_science_scientific_fraud/library
Schicken Sie uns gern Artikel zur Ergänzung zu.
Vortragsfolien:
Dr. Tomasz Stompor – „Täuschung vs. Transparenz: Wie Fake Scinece (offene) Wissenschaft untergräb“:
https://zenodo.org/records/18244555
Dr. Violeta Trkulja – “Falschinformationen in der Wissenschaft – Eine Typologisierung“:
https://zenodo.org/records/17961889
Dr. Juliane Stiller – „Open Science, KI und das Ringen um wissenschaftliche Integrität“: