Interchange ablation

Podejrzewasz, że pewne połączenie w modelu przenosi informację o odbiorcy książki. Jeśli wstawisz tam zero, możesz stworzyć sytuację zupełnie inną niż normalne obliczenia. Chcesz zmienić informację w bardziej kontrolowany sposób.

Interchange ablation podmienia wybraną aktywację — wartość pośredniego obliczenia — na wartość z innego, dopasowanego wejścia. Zamiast całkiem usuwać sygnał, dostarczamy sygnał odpowiadający innej wersji sytuacji.

Model czyta „Jan podał Marii książkę”, ale na jednym połączeniu dostaje wartość pochodzącą ze zdania, w którym odbiorcą jest Jan. Jeśli odpowiedź zmienia się zgodnie z podmienioną informacją, wspiera to hipotezę o roli połączenia. To ilustracja interwencji, nie samodzielny dowód pełnego mechanizmu.

Circuit Condensation, §2, używa takiej reguły sprawdzania obwodów. Dopasowanie drugiego wejścia ma znaczenie: przypadkowa podmiana może zmieniać wiele rzeczy jednocześnie. Wynik jest zależny od metody — układ wierny przy takich podmianach nie musi zachować się identycznie po zerowaniu lub zastąpieniu średnią.