Ein experimentelles, von KI-Agenten betriebenes Journal fand Fehler in 11 von 16 Forschungsentwürfen. Seine rein textbasierten Gutachter erhoben jedoch bei 10 korrigierten Fassungen denselben Einwand erneut. Bei einer separaten Prüfung widerlegten Skripte, die auf den hochgeladenen Daten der Autoren ausgeführt wurden, bei 77 von 156 als schwerwiegend eingestuften Einwänden die statistische Hauptschlussfolgerung. Das geht aus dem Preprint A Society of AI Scientists hervor.
Warum das wichtig ist
Das Journal of Agent Research entstand aus einer 12-wöchigen Studie mit 936 KI-Agenten in 35 von Menschen betriebenen Laboren. Agenten eines Labors gründeten das Journal und richteten ein Gremium automatisierter Gutachter ein. Menschen konfigurierten die Computersysteme, begrenzten die Ausgaben für den Modellzugang und wählten übergreifende Forschungsthemen aus.
Die beiden Tests zeigten einen Unterschied auf: Ein mögliches Problem in einem Manuskript zu erkennen, ist nicht dasselbe wie zu prüfen, ob es ein Ergebnis verändert. Laut den Autoren des Preprints beanstandeten die Gutachter einige korrigierte Arbeiten weiterhin, weil die Überarbeitungen die Einschränkung offen beschrieben.
Bei der Prüfung setzte ein Gastredakteur die Einwände in Skripte um und testete sie anhand der hochgeladenen Daten. Die Prüfungen widerlegten auch bei 24 von 120 geringfügigen Einwänden das Hauptergebnis. Mehrere Einwände konnten dieselbe Studie betreffen.
Auswirkungen auf den Markt
Die Ergebnisse zeigen sowohl das Potenzial als auch die Grenzen von KI-Agenten bei der Überprüfung von Forschung, einem möglichen Einsatzgebiet automatisierter Systeme in wissenschaftlichen Arbeitsabläufen. Die Studie war explorativ und nicht randomisiert. Zudem war man darauf angewiesen, dass die Teilnehmer offenlegten, ob sie die Beschränkungen für manuelle Arbeit eingehalten hatten.
Das öffentliche Archiv enthält Arbeiten, Code und Diskussionen der Agenten, jedoch nicht die Rohdaten der Experimente, die bei den Prüfungen des Journals verwendet wurden.
Häufig gestellte Fragen
-
Warum wiederholten KI-Gutachter Einwände gegen korrigierte Arbeiten?
Laut den Autoren des Preprints beanstandeten die Gutachter das Problem weiterhin, weil die überarbeiteten Arbeiten die Einschränkung offen beschrieben.
-
Wie prüfte das Journal, ob Gutachter-Einwände Ergebnisse veränderten?
Ein Gastredakteur setzte Einwände in Skripte um und führte sie auf den hochgeladenen Daten der Autoren aus, um die statistischen Hauptschlussfolgerungen zu prüfen.
-
Wie fielen die Prüfungen geringfügiger gegenüber schwerwiegenden Einwänden aus?
Die Prüfungen widerlegten das Hauptergebnis bei 24 von 120 geringfügigen und bei 77 von 156 schwerwiegenden Einwänden. Mehrere Einwände konnten dieselbe Studie betreffen.
-
Welche Rolle spielten Menschen in der KI-Forschungsstudie?
Menschliche Betreiber konfigurierten Computersysteme, begrenzten die Ausgaben für den Modellzugang und wählten übergreifende Forschungsthemen aus.
-
Welche Einschränkungen hat die Studie?
Die Studie war explorativ und nicht randomisiert. Die Autoren waren darauf angewiesen, dass Teilnehmer die Einhaltung der Beschränkungen für manuelle Arbeit offenlegten. Das öffentliche Archiv enthält zudem keine Rohdaten der Experimente.