Ehrlichkeit, KI und die Forschung

[DerLenny]

Ein Forscher hat ein Tool entwickelt, um problematische mit KI erstellte Paper zu finden:
https://www.irit.fr/~Guillaume.Cabanac/problematic-paper-screener

 

Stellenweise sind diese wirklich klar erkennbar, weil neben dem Text auch noch Fluff oder Fehlermeldungen im Paper zu finden waren:

 

Bei solchen Beispielen fragt man sich dann auch etwas, wie das durch den Peer Review Prozess hat durchrutschen können...

[DerLenny]

Und das ist in _veröffentlichten_ Artikeln.

 

Ich gehe mal davon aus, dass es hier eher um das Ausformulieren gegangen ist, und die Arbeit von Personen gemacht worden ist, aber irgendwo im Prozess sollte das doch auffallen?

Im Lektorat oder spätestens beim Peer Review?

 

Es gibt dann aber auch die Fälle, in denen es unwahrscheinlich erscheint, dass wirklich "nur der Schreibstil" verbessert worden ist:

 

 

[cheester88]

Also wenn ich mit einer KI Texte erstellen lasse und diese Fehler nicht sehe frage ich mich, ob die das dann nicht einfach so abgeben.

 

Das sieht man doch bei normalen durchlesen. Oder die Personen sind so stumpf das es Ihnen egal ist.

[AZI]

Sind das wirklich echte Beispiele?

Wie haben die das Gemacht Copy Paste und ohne noch mal zu lesen abgegeben?

[DerLenny]

vor 3 Minuten schrieb AZI:

Sind das wirklich echte Beispiele?

 

Das sind ein paar Beispiele aus "echten" Papern. Davon gibt es wirklich ne Menge. Wie sowas durchrutschen kann? Kein Plan. Aber neben den Autoren wirft es auch ein schlechtes Licht auf das Lektorat und das Peer Review, und ja alle Screenshots sind von Artikeln aus eigentlich bewährten Plattformen.

 

Es gibt auch einige sehr lustige Beispiele von KI generierten (und sinnlosen) Bildern.

 

 

[AZI]

ÄHM was genau will das Bild mir sagen? In der Überschrift steht Medikamententransport aber das Bild ergibt keinen Sinn...

Da wollte sich jemand den Grafiker sparen, ich würd sagen am falschen Ende gespart. 

[Muddlehead]

Am 30.4.2024 um 01:00 schrieb DerLenny:

Ein Forscher hat ein Tool entwickelt, um problematische mit KI erstellte Paper zu finden:
https://www.irit.fr/~Guillaume.Cabanac/problematic-paper-screener

 

Stellenweise sind diese wirklich klar erkennbar, weil neben dem Text auch noch Fluff oder Fehlermeldungen im Paper zu finden waren:

 

Bei solchen Beispielen fragt man sich dann auch etwas, wie das durch den Peer Review Prozess hat durchrutschen können...

 

Als Direktes Zitat hätte es doch gepasst....🤣