Typische Phrasen von ChatGPT tauchen selbst in hochrangigen Journalen auf
Heimlicher Helfer: Bei wissenschaftlichen Fachartikeln schreibt immer häufiger ein nicht deklarierter Autor mit: die künstliche Intelligenz. Das verraten typische KI-Phrasen selbst in einigen Top-Journalen. Mitten im Text stehen dann Halbsätze wie: „Als KI Sprachmodell…“ oder „Meinem letzten Wissens-Update zufolge….“ Das Brisante daran: Der Einsatz von ChatGPT und Co ohne entsprechende Angabe ist in fast allen Fachjournalen verboten. Hinzu kommt: Wenn nicht einmal diese verräterischen Phrasen auffallen, wie sieht es mit Fehlern und Halluzinationen der KI aus?
Paper: ‘As of my last knowledge update’: How is content generated by ChatGPT infiltrating scientific papers published in premier journals? | PDF
You must log in or register to comment.
Ich glaube das Problem sind halt eher die Fehlanreize in der Wissenschaft nur auf Publikationsstatistik. Das führt schon seit langem zu Problemen wie Zitationskartelle, Paper-Mühlen usw. und im dem Kontext habe ich keine Zweifel dass solche offensichtlich KI generierten Paper auch als Publikationen angenommen werden. Das Problem ist also nicht neu und hängt auch nicht am Aufkommen von KI, z.B. die “random paper generator” gibt es seit Anfang der 2000er.
Ob es sich dann aber wirklich um “hochrangige Journals” handelt wage ich aber stark zu bezweifeln. Schon mittelmäßig renommierte Journals oder Konferenzen haben ausreichend Peer-Review Druck, dass offensichtliche KI Artefakte kaum durchgehen dürften. Das größere Problem sind wohl die Paper, die zumindest einmal Korrektur gelesen wurden um die offensichtlichen Hinweise auf KI Autorschaft zu entfernen.