source_verification_icon

Quellenprüfung

Analysemodi, Methodik

Faktische Grundlagen einer Debatte prüfen

Die Aufgabe von Metamorfon — mehrere Modelle mit anspruchsvollen Fragen zu konfrontieren — erzeugt Diskussionen, in denen sich Argumente, Zahlen, Zuschreibungen, bibliografische Referenzen, empirische Beispiele und historische Bezugspunkte schnell verdichten können.

Diese Dichte gehört zum Wert des Verfahrens. Sie erzeugt zugleich ein besonderes Problem: Dieselbe Antwort kann gut belegte Aussagen enthalten, andere nur näherungsweise zutreffend wiedergeben und wieder andere auf eine plausibel klingende Referenz stützen, die nicht genau das sagt, was ihr zugeschrieben wird.

Diese Heterogenität ist bei der Bewertung längerer Ausgaben von Sprachmodellen gut dokumentiert. FActScore geht beispielsweise gerade von der Beobachtung aus, dass ein Text gestützte und ungestützte Informationen miteinander verbinden kann und ein einziges globales Urteil über seine Faktizität diese Unterschiede verdeckt. Die Methode zerlegt längere Texte deshalb in einzelne atomare Tatsachenbehauptungen, die getrennt geprüft werden können.

Die Quellenprüfung behandelt ein verwandtes Problem im spezifischen Kontext von Metamorfon: Sie versucht nicht, eine gesamte Antwort als „zuverlässig“ oder „unzuverlässig“ einzustufen, sondern prüft die faktischen Grundlagen, die die Argumentation tatsächlich tragen.

Bewusst begrenzter Prüfbereich

Die Quellenprüfung ist kein allgemeines Fact-Checking-System und beurteilt nicht die „Wahrheit“ der debattierten Ideen.

Eine erkenntnistheoretische These — „Beschreibt eine Diagnose eine Wirklichkeit oder trägt sie dazu bei, sie hervorzubringen?“ —, eine normative Forderung — „Die Psychiatrie sollte reflexiv werden“ — oder eine prospektive Deutung — „Unbewohnbarkeit wird systemisch werden“ — sind in dieser Form keine Tatsachen, die sich durch eine externe Recherche einfach bestätigen oder widerlegen ließen.

Der Modus lässt sie deshalb außerhalb seines Prüfbereichs.

Er konzentriert sich auf Aussagen, bei denen eine Konfrontation mit externen Quellen sinnvoll ist: eine Zuschreibung an einen Autor oder eine Institution, der Inhalt einer Studie, eine Zahl, ein Datum, eine Größenordnung, ein empirischer Fall, ein als etabliert dargestellter Mechanismus oder ein Beispiel, das als Beleg verwendet wird.

Diese Abgrenzung bewahrt den Modus vor einem Anspruch, den er nicht erfüllen könnte: den inhaltlichen Ausgang einer intellektuellen Debatte durch Dokumentenrecherche zu entscheiden.

Überprüfbar zu sein genügt allerdings nicht, um mit hoher Priorität geprüft zu werden. Ein nebensächliches Datum und eine empirische Prämisse, von der eine ganze Schlussfolgerung abhängt, tragen nicht dasselbe argumentative Gewicht.

Die zentrale Frage lautet daher: Wenn diese Aussage falsch oder wesentlich verzerrt wäre, wie viel von dem auf ihr beruhenden Argument würde bestehen bleiben?

Prüfung auf Aussageebene

Der Modus überführt überprüfbare Aussagen in ein Register. Er behandelt eine Antwort nicht als unteilbaren Block.

Diese Entscheidung entspricht einer wichtigen Entwicklung in der faktischen Evaluation: Überprüfung wird belastbarer, wenn sie auf Aussagen zielt, die präzise genug sind, um nach stützender oder widersprechender Evidenz zu suchen. FActScore folgt diesem Prinzip, indem längere Modelltexte zunächst in atomare Tatsachenbehauptungen zerlegt und anschließend einzeln gegen Wissensquellen geprüft werden.

Metamorfon implementiert FActScore nicht und versucht auch nicht, dessen Kennzahl zu reproduzieren. Es übernimmt lediglich dasselbe allgemeine Granularitätsprinzip: eine identifizierbare Aussage, eine identifizierbare Prüfaufgabe.

Jeder Eintrag im Register wird seiner Runde und, wenn die Zuschreibung mit ausreichender Sicherheit möglich ist, seinem Sprecher zugeordnet.

Könnten mehrere Stimmen derselben Runde für eine Formulierung verantwortlich sein — etwa nach einem Kreuzzitat oder einer mehrdeutigen Wiederaufnahme —, erzwingt der Bericht keine Zuschreibung. Runde und Zitat genügen.

Eine fehlende Zuschreibung ist besser als eine erfundene.

Die Quellenprüfung ersetzt daher nicht die Argumentative Bewertung. Sie beurteilt weder die logische Stärke eines Einwands, noch interpretatorisches Wohlwollen, noch die Gesamtkohärenz einer Argumentation. Sie prüft die faktischen Elemente, auf die sich diese Argumentation stützt.

Argumentatives Gewicht priorisieren

Das für die Analyse gewählte Modell führt die gesamte Kette aus: Es erstellt das Register, wählt die prioritären Aussagen und prüft sie anschließend. Zwischen den einzelnen Schritten ändert sich nicht das Modell, sondern nur der Zugang zur Websuche.

Sobald das Register erstellt ist, liest das Analysemodell die Debatte zunächst ohne externe Recherche erneut und wählt höchstens zehn tragende Aussagen aus, geordnet nach abnehmendem argumentativem Gewicht.

An erster Stelle steht die Behauptung, deren Zusammenbruch die Schlussfolgerungen der Debatte am stärksten schwächen würde.

Ein hohes Gewicht können beispielsweise erhalten:

  • eine zentrale empirische Prämisse;
  • eine Zahl, die die Größenordnung des Problems bestimmt;
  • ein als Beleg verwendeter Fall;
  • ein kausaler Mechanismus, von dem eine Schlussfolgerung abhängt;
  • eine Studie oder Institution, die zur Entscheidung eines strittigen Punktes herangezogen wird;
  • ein entscheidendes faktisches Element innerhalb einer Widerlegung.

Ein Kontextdatum, eine illustrative Referenz oder ein Hintergrundzitat wiegt dagegen wenig, solange kein wichtiges Argument davon abhängt.

Eine Quelle erhält nicht allein deshalb mehr Gewicht, weil sie ausdrücklich genannt wird.

Der Modus füllt die Auswahl auch nicht künstlich bis auf zehn Elemente auf. Nicht verankerte normative Urteile und Bewertungen, die ausschließlich die argumentative Kohärenz betreffen, bleiben ebenfalls außen vor.

Diese Priorisierung ist eine eigene Designentscheidung von Metamorfon. Sie erhebt nicht den Anspruch, jede prüfenswerte Tatsachenbehauptung zu identifizieren; sie konzentriert den Prüfaufwand auf jene Aussagen, von denen die argumentative Architektur der Session am stärksten abhängt.

Webrecherche und Nachvollziehbarkeit der Evidenz

Sobald die Aussagen ausgewählt sind, wird die Websuche aktiviert und die Warteschlange in Gruppen von fünf geprüft.

Ist diese Warteschlange erschöpft, löst ein weiterer Durchlauf eine neue Auswahl aus: Die nächsten Aussagen werden erneut nach abnehmendem argumentativem Gewicht bestimmt, ohne bereits geprüfte Elemente wieder aufzunehmen.

Erst wenn keine tragende Aussage mehr übrig ist, kann ein zusätzlicher Sicherheitsdurchlauf bibliografische Referenzen prüfen, die außerhalb der Hauptauswahl geblieben sind.

Wurde die Session inzwischen fortgesetzt oder das Analysemodell gewechselt, wird die Auswahl neu erstellt.

Der Bericht gibt an, wie viele Aussagen im jeweiligen Durchlauf geprüft wurden, welche ohne Ergebnis oder außerhalb des Prüfbereichs geblieben sind und wie viele noch in der Warteschlange stehen.

Dieselbe Zahl, die von mehreren Stimmen oder in mehreren Runden wiederholt wird, kann als Zirkulation einer Aussage markiert werden. Das ist weder eine neue unabhängige Prüfung noch notwendigerweise ein Dissens.

Die tatsächlich ausgeführten Suchanfragen werden unterhalb des Berichts zusammen mit der Anzahl der verwendeten Suchen angezeigt.

Vor allem gilt: Kein starkes Urteil — „bestätigt“, „falsch“, „falsch zugeschrieben“ — ist zulässig, wenn während dieser Prüfung keine externe Quelle gefunden wurde. Das Gedächtnis des Modells genügt nicht. Ebenso wenig genügt die bloße Tatsache, dass die Debatte selbst bereits eine Referenz genannt hat.

Diese Unterscheidung zwischen dem Vorhandensein einer Quellenangabe und der tatsächlichen Stützung einer Behauptung ist wichtig. ALCE, ein Benchmark für generierte Antworten mit Zitaten, untersucht genau die Beziehung zwischen erzeugten Aussagen und den Quellen, die sie stützen sollen. Die Ergebnisse zeigen, warum der Anschein sorgfältiger Quellenarbeit allein noch keine vollständige Evidenzdeckung garantiert.

Eine Referenz ist daher nicht schon deshalb ein Beleg, weil sie vorhanden ist: Sie muss die Aussage, mit der sie verbunden ist, tatsächlich stützen.

Ein konservativer Maßstab für „bestätigt“

Metamorfon setzt für das Urteil „bestätigt“ bewusst einen hohen Schwellenwert.

Es wird nur vergeben, wenn eine Passage der Quelle, wörtlich und in der Originalsprache der Quelle wiedergegeben, die geprüfte Tatsache tatsächlich ausspricht — und nicht lediglich eine benachbarte Behauptung, aus der der Prüfer die Schlussfolgerung plausibel ableiten könnte.

Diese Anforderung wird nicht als allgemeine Norm des Fact-Checkings dargestellt. Sie ist eine Designentscheidung: Sie soll verhindern, dass das prüfende Modell seine eigene Schlussfolgerung in externe Evidenz verwandelt.

Der Bericht selbst bleibt in der Sprache der Session; lediglich das beweisende Quellenzitat behält die Originalsprache.

Stützt die Quelle eine Behauptung grundsätzlich, weicht aber beim Umfang, Jahr, Wortlaut, der Größenordnung oder der Zuschreibung davon ab, muss das Urteil diesen Unterschied erhalten statt ihn zu glätten.

Zum geschlossenen Vokabular gehören daher unter anderem:

bestätigt, teilweise richtig, falsch, falsch zugeschrieben, nicht geprüft, nicht überprüfbar, außerhalb des Prüfungsumfangs.

Abgestufte Urteile statt wahr oder falsch

Eine sorgfältige Prüfung führt häufig zu etwas anderem als einem binären Urteil.

Der Datensatz FEVER, eine der grundlegenden Arbeiten zur automatischen Prüfung von Behauptungen gegen textuelle Evidenz, unterschied bereits zwischen Supported, Refuted und Not Enough Info. Bei unterstützten und widerlegten Behauptungen mussten die Annotatoren zudem die Sätze identifizieren, die als Evidenz dienten.

Metamorfon verwendet ein anderes und feineres Vokabular, folgt aber einem vergleichbaren Prinzip: Unzureichende Evidenz darf nicht stillschweigend in eine Widerlegung verwandelt werden.

Eine Studie kann existieren, ohne genau die Zahl zu stützen, die ihr zugeschrieben wird. Ein Autor kann eine ähnliche Position vertreten, ohne die konkrete Behauptung formuliert zu haben, die man ihm zuschreibt. Ein Ergebnis kann für eine bestimmte Population korrekt und bei einer Verallgemeinerung dennoch irreführend sein.

In solchen Fällen ist „teilweise richtig“ kein schwaches oder unentschiedenes Urteil. Es beschreibt ein präzises Verhältnis zwischen Aussage und verfügbarer Evidenz.

Ebenso bedeutet „nicht geprüft“ nicht „falsch“. Es kann schlicht heißen, dass die bisher ausgeführten Recherchen keine ausreichende Grundlage für ein Urteil geliefert haben.

Nuance ist daher kein Restmangel der Prüfung: Sie ist Teil des Ergebnisses.

Kosten, Abdeckung und Abhängigkeit vom Analysemodell

Diese Methode benötigt mehr Ressourcen als eine rein interne Analyse.

Der erste Durchlauf muss die Debatte erneut lesen, das Register erstellen, die tragenden Aussagen gewichten und reale externe Recherchen ausführen. Spätere Durchläufe können schneller sein, wenn sie aus einer bereits bestehenden Warteschlange arbeiten; eine neue Auswahl — weil die Warteschlange leer ist, die Session fortgesetzt wurde oder sich das Modell geändert hat — erfordert einen Teil dieses Aufwands erneut.

Jeder Durchlauf prüft höchstens fünf Aussagen, jede Auswahl enthält höchstens zehn. Eine Session mit hoher faktischer Dichte kann deshalb mehrere Durchläufe benötigen, um eine breite Abdeckung zu erreichen.

Auch die Auswahl selbst ist ein Urteil des Analysemodells. Sie wird vor der Webrecherche getroffen: Das Modell entscheidet, welche faktischen Behauptungen seiner Einschätzung nach das größte argumentative Gewicht tragen.

Diese Rangfolge kann diskutiert werden. Zwei Analysemodelle könnten dieselben Aussagen unterschiedlich gewichten.

Der Bericht sollte deshalb nicht als erschöpfendes Inventar aller faktisch wichtigen Punkte der Debatte verstanden werden, sondern als priorisierte Prüfung eines bestimmten Korpus durch ein bestimmtes Analysemodell.

Der Modus hängt außerdem von der dokumentarischen Zugänglichkeit ab. Manche Veröffentlichungen sind direkt verfügbar; andere lassen sich nur über Zusammenfassungen, institutionelle Seiten oder Sekundärquellen erschließen. Bezahlschranken, verschwundene Quellen oder unzureichende Dokumentation können begrenzen, was sich feststellen lässt.

Nur Modelle, deren Websuche verwertbare Quellen liefert, können diesen Modus zuverlässig ausführen; deshalb können innerhalb der Anwendung bestimmte Modelle als empfohlen gekennzeichnet sein.

Und nicht jede Debatte rechtfertigt diesen Aufwand. Bei einer überwiegend konzeptuellen oder normativen Session kann die Quellenprüfung nur sehr wenig relevantes Material zum Prüfen finden.

Prüfhilfe statt Zertifizierung

Die Quellenprüfung macht Metamorfon nicht zu einer faktischen Autorität.

Ihre Urteile bleiben das Ergebnis eines begrenzten Durchlaufs auf Grundlage zugänglicher Quellen, die von einem Modell interpretiert werden. Sie stellen weder eine vollständige Zertifizierung der Session dar noch eine Garantie dafür, dass jede gefundene Quelle ihrerseits fehlerfrei ist.

Dieselbe Vorsicht gilt für die Unterstützung, die Sprachmodelle während einer Prüfung leisten können.

Eine experimentelle Studie von Si et al., Large Language Models Help Humans Verify Truthfulness – Except When They Are Convincingly Wrong, zeigt, dass von LLMs erzeugte Erklärungen Menschen bei der Überprüfung von Aussagen unterstützen können, zugleich aber übermäßiges Vertrauen begünstigen können, wenn die Erklärung des Modells selbst falsch ist.

Die Fähigkeit eines Modells, eine überzeugende Begründung zu formulieren, darf deshalb nicht mit der Belastbarkeit dieser Begründung verwechselt werden.

Genau deshalb legt der Bericht seine Quellen, Suchanfragen, beweisenden Zitate und Grenzen offen, anstatt vom Nutzer Vertrauen in ein undurchsichtiges Urteil zu verlangen.

Menschliches Urteil bleibt entscheidend

Die Funktion des Modus besteht darin, bestimmte Punkte der Debatte besser prüfbar zu machen.

Er kann zeigen, dass eine Zuschreibung zu weit gefasst ist, dass eine Zahl nur für einen engeren Bereich gestützt wird, dass eine häufig genannte Studie die ihr zugeschriebene Behauptung nicht genau trägt oder dass bislang keine verwertbare Evidenz gefunden wurde.

Er entscheidet nicht anstelle des Nutzers, welche Konsequenz diese Korrektur für die gesamte Argumentation hat.

Eine teilweise geschwächte Prämisse kann in einem Argument genügen, um eine Schlussfolgerung zu Fall zu bringen, und in einem anderen nur geringe Auswirkungen haben. Diese Einschätzung gehört zur argumentativen Analyse und letztlich zum Leser.

Bei Sessions mit hoher faktischer Relevanz ist es außerdem solider, mehrere Quellen gegeneinander zu prüfen, als sich zu stark auf eine einzelne Referenz zu verlassen. Eine Primärquelle kann, wenn es die Frage verlangt, durch eine Replikation, eine Übersichtsstudie, einen institutionellen Datensatz oder eine methodische Kritik ergänzt werden.

Pluralität garantiert Wahrheit nicht automatisch, macht aber den Unterschied sichtbarer zwischen einer durch mehrere unabhängige Elemente gestützten Aussage und einer Behauptung, die lediglich auf einer einzigen Kette von Wiederholungen beruht.

Die Quellenprüfung erweitert damit die allgemeine Logik von Metamorfon auf ein weiteres Feld: Nachdem Positionen miteinander konfrontiert wurden, werden einige ihrer faktischen Grundlagen mit Material außerhalb der Debatte konfrontiert.

Ihr Wert besteht nicht darin, eine zusätzliche Erscheinung von Gewissheit zu erzeugen, sondern die Grenze klarer zu ziehen zwischen dem, was der Dialog behauptet, dem, was die verfügbaren Quellen tatsächlich stützen, und dem, was weiterhin offenbleibt.

Literatur