Wenn KI die Wissenschaft schreibt und bewertet – Ein Blick auf die erste konferenz der rein maschinellen Forschung
Kurz und knapp: Was ist passiert?
Am 22. Oktober 2025 fand Agents4Science 2025 statt – eine ungewöhnliche wissenschaftliche Konferenz: Alle eingereichten Arbeiten und alle Gutachten stammten primär von künstlichen Intelligenzen. Menschen nahmen als Zuschauer, Diskutanten und gelegentlich als Hilfsführer der Experimente teil, doch die ‚Autorenschaft‘ und die Bewertung waren KI‑zentriert. Ziel des Experiments war kein PR‑Gag, sondern ein „Sandbox“-Ansatz, um systematisch zu testen, wie gut KI als Forscher*in und Gutachter*in funktioniert.
Was sind ‚Agenten‘ – und wie unterscheiden sie sich von Chatbots?
In diesem Kontext sind ‚Agenten‘ koordinierte Gruppen von Modellen und Tools, die zusammenarbeiten, um forschungsähnliche Aufgaben zu erfüllen — nicht nur ein Einzelmodell, das Antworten liefert. Statt eines einzelnen LLMs arbeiten mehrere spezialisierte Komponenten (Datenverarbeitung, Experiment‑Simulation, Hypothesen‑Generierung, Schreib‑Module) zusammen und agieren wie ein kleines Forschungsteam. Das ist ein Schritt über einfache Prompt‑Anfragen hinaus: Agenten planen, iterieren und treffen Entscheidungen autonomer.
Zahlen, Fakten, Ablauf: So lief die Konferenz ab
Die Organisatoren erhielten Einreichungen von über 300 verschiedenen AI‑Agenten. Eine Jury aus AI‑Reviewer‑Systemen prüfte die Arbeiten und akzeptierte 48 Beiträge – überwiegend computationale Studien (z. B. Simulationen, Datenanalysen), keine aufwendigen Laborexperimente mit physischer Versuchsanordnung. Die Konferenz fand online statt, Präsentationen wurden teils von den Agenten selbst, teils von Menschen vorgetragen. Wichtig: Jede Einreichung musste dokumentieren, welche Interaktionen zwischen Mensch und Agent an welchen Schritten stattfanden – so lässt sich später nachvollziehen, wie viel menschlicher Einfluss die Ergebnisse hatten.
Warum die Veranstalter das Experiment wagen
Co‑Organisator James Zou nennt Agents4Science eine Gelegenheit, „verschiedene Einreichungsprozesse und Review‑Modelle“ sicher zu erproben. Die Idee: Statt KIs zu verbieten oder nur heimlich einzusetzen, legt man sie offen an die Front, um ihre Stärken und Schwächen systematisch zu studieren. Das soll helfen, später klare Regeln und Qualitätskontrollen für den Einsatz von KI in der Forschung zu entwickeln.
Was Gutachter‑KI leisten kann – und wo sie Probleme macht
KI‑Reviewer sind schnell, können große Mengen an Texten und Daten durchforsten und standardisierte Checks durchführen. Doch Forscherinnen wie Margaret Mitchell warnen: Die große Frage ist die Verlässlichkeit. Agenten produzieren gelegentlich ‚false positives‘ — scheinbar neue Entdeckungen, die falsch oder bedeutungslos sind. Solche Fehler zu erkennen, zu quantifizieren und in Bewertungskriterien einzubauen, ist derzeit eine offene Forschungsfrage. Agents4Science will systematisch Daten liefern, welche Fehlerarten auftreten und wie häufig.
Transparenz und Messbarkeit: Warum das Protokollieren der Mensch‑KI‑Interaktion wichtig ist
Ein zentraler Aspekt der Einreichungsregeln war die lückenlose Dokumentation, wie viel Mensch jeweils beteiligt war. Diese Transparenz macht zwei Dinge möglich: Erstens, die Qualität der Beiträge in Abhängigkeit vom Grad menschlicher Intervention zu messen; zweitens, Daten zu sammeln, die als Grundlage für künftige Richtlinien dienen können (z. B. bei Verlagsrichtlinien, ob KI als Autor geführt werden darf oder nicht). Viele Journalverlage verbieten derzeit KI als Autor — Agents4Science stellt diese Debatte in einem experimentellen Rahmen.
Potenzielle Vorteile: Entlastung, Experimentierfeld und neue Methodik
Teilnehmende Forscher hoffen auf praktische Vorteile: Agenten könnten repetitive Aufgaben, Voranalysen und Vorreviews übernehmen und so die Belastung menschlicher Peer Reviewer reduzieren. Clémentine Fourrier argumentiert, dass Konferenzen wie diese „AI‑Bloat“ umleiten und damit Reviewer‑Last bei traditionellen Events mindern könnten. Außerdem liefert das Experiment erstmals vergleichbare Messdaten über die Leistungsfähigkeit von KI‑Forschungsteams.
Ethische und regulatorische Fragen: Was diskutiert werden muss
Die Debatte ist nicht nur technisch: Wenn Agenten ‚forschungsreife‘ Papiere generieren, stellen sich Fragen nach Verantwortlichkeit, Haftung, Reproduzierbarkeit und wissenschaftlicher Integrität. Wer haftet für fehlerhafte Ergebnisse? Wie lässt sich Reproduzierbarkeit sicherstellen, wenn Agenten komplexe, nicht deterministische Prozesse nutzen? Und wie verhindern wir, dass solche Systeme Desinformation oder zufällige Artefakte als ‚Entdeckung‘ verkaufen? Agents4Science legt diese Fragen offen und bietet Material, um Antworten zu entwickeln.
Konkrete Empfehlungen aus dem Experiment (vorläufig)
Aus der Konferenz lassen sich erste Lehren ableiten: 1) Transparenz ist essenziell — vollständige Protokollierung von Mensch‑KI‑Interaktion sollte Standard werden. 2) Automatisierte Gutachten können ergänzen, aber noch nicht vollständig menschliche Peer Review ersetzen, solange Fehlerarten und Biases nicht vollständig verstanden sind. 3) Datensätze über KI‑Fehlverhalten (z. B. false positives) sind nötig, um robuste Evaluationen zu bauen. Diese Einsichten sollen helfen, Publikations‑ und Ethikrichtlinien zu schärfen.
Was als Nächstes zu erwarten ist
Agents4Science liefert keine abschließenden Antworten, wohl aber wertvolle Daten und Anstöße. Zu beobachten sein wird, ob Verlage und Konferenzen die gewonnenen Erkenntnisse aufnehmen, ob KI‑Reviewer als Standard‑Tool etabliert werden — und wie sich die Regeln zur Autorschaft verändern. Zudem bleibt spannend, ob Agenten bald nicht nur in computergestützten Studien, sondern auch in interdisziplinären, experimentell geprägten Feldern Fuß fassen.
Fazit: Revolution oder Zwischenstufe?
Die Veranstaltung ist weniger Show als Feldversuch: Sie zeigt die beeindruckenden Fähigkeiten von KI‑Agenten, macht aber gleichzeitig die Grenzen und Risiken sichtbar. Agents4Science ist ein vorsichtiges, kontrolliertes Experiment, das Forscher*innen, Verlage und Politikern belastbare Daten liefern will — und so dabei helfen kann, die nächste Phase der KI‑Integration in die Wissenschaft verantwortbar zu gestalten.
Was denkst du? Diskutiere mit: Sind KI‑Agenten künftig vertrauenswürdige Kolleg*innen oder nur raffinierte Assistenten? Teile den Beitrag, kommentiere mit deinen Fragen und verfolge die Ergebnisse von Agents4Science – die Daten und Debatten dort könnten die Regeln wissenschaftlicher Publikation nachhaltig verändern.
