KI-generierte Fake-Sachbücher bedrohen wissenschaftliche Nachvertrauen

Die Universitätsbibliothek Leipzig hat kürzlich gewarnt, dass KI-generierte Fake-Sachbücher in Bibliotheksbeständen aufgetaucht sind. Diese Werke enthalten erfundene Quellen, sachliche Fehler und teilweise falsche Autoren.

In mehreren Städten wurden solche Titel als scheinbare Fachliteratur erworben, was zu Sorgen bei Wissenschaftlern führt, die befürchten, dass dies Schäden für Forschung und das Vertrauen in die Wissenschaft verursachen könnte. Ein Referent für „Open Science“ an der Universität Leipzig, Stephan Wünsche, hat in einem Beitrag über diese Problematik berichtet.

Er beschreibt KI-generierte Publikationen mit gravierenden inhaltlichen Unzulänglichkeiten und teilweise erfundenen Autoren, die aus Self-Publishing-Verlagen wie dem „Flip-Flop-Verlag“ oder der Plattform „tredition“ stammen. Beispiele für solche Bücher sind in Bibliotheken in Leipzig, Dresden, Weimar und Hannover zu finden.

Ein vermeintlich wissenschaftliches Werk über Johann Sebastian Bach beispielsweise enthält Fehlinformationen wie die Behauptung, dass dessen Sohn Johann Christian als dessen Vater deklariert wird. Zudem werden in diesem Buch falsche Quellen und familiäre Zusammenhänge der Bach-Familie vorgestellt.

Ähnliche Probleme wurden auch bei einem Buch über den Komponisten Salomon Jadassohn festgestellt, das unzutreffende Informationen über die Leipziger Städtischen Bibliotheken enthält. Wünsche geht davon aus, dass KI in schneller Fertigung solcher Bücher eingesetzt wird.

Später erfolgt die Veröffentlichung über Self-Publishing-Plattformen mit Pseudonymen wie „Valentin Fuchs“, „Robert H. Hummel“ oder „Sophia Weller“. Die SPD-nahe Deutscher Verein für Geisteswissenschaftliche Bibliotheken (ddvg) hält Beteiligung an solchen Plattformen für notwendig, um die Qualität der Veröffentlichungen zu gewährleisten.

Diese Entwicklung stellt eine zunehmende Bedrohung für das Ansehen des Wissenschaftssystems dar und erfordert dringendere Maßnahmen zur Kontrolle und Identifikation von KI-generierten Fake-Sachbüchern.