Zurück zum Archiv
#ai#papers#aigen#llm

Kausaler Schaltkreis

Ein großes Modell enthält Tausende Elemente, aber eine konkrete Antwort kann aus einem kleineren Netz von Abhängigkeiten entstehen. Du möchtest prüfen, ob sich nur der wesentliche Berechnungsweg bewahren lässt und das untersuchte Verhalten trotzdem nachgebildet wird.

Ein Causal Circuit ist eine Anordnung von Modellelementen und ihren Verbindungen, die ursächlich mit einem bestimmten Ergebnis zusammenhängt. „Circuit“ ist hier eine Metapher für einen Berechnungsschaltkreis. Seine Elemente können Teile sein, die Informationen zwischen Tokens mischen oder Zahlenlisten umwandeln, die den Text beschreiben.

Für den Satz „Jan gab Maria ein Buch“ können Forscher nach dem Weg suchen, der für die Auswahl des Empfängers verantwortlich ist. Veränderungen der Berechnungen außerhalb der gewählten Anordnung erlauben zu prüfen, ob die Antwort erhalten bleibt. Die Treue einer solchen Beschreibung wird gegenüber dem vollständigen Modell und einem festgelegten Interventionsverfahren bewertet.

Circuit Condensation, §2–3, untersucht die Konzentration von Verhalten in kleineren Anordnungen. Ein kleiner Circuit muss keine einfache Liste unabhängiger Teile sein: Elemente können zusammenwirken. Er beweist auch nicht, dass die übrigen Netzteile nutzlos sind — sie können für andere Verhaltensweisen und Eingaben benötigt werden.