Cognitive Debt
AI dopisało funkcję, testy przeszły i zespół szybko ją wdrożył. Miesiąc później trzeba zmienić zachowanie, ale nikt nie wie, dlaczego wybrano ten podział odpowiedzialności i które założenia muszą pozostać prawdziwe. Koszt zrozumienia pracy został odłożony.
Cognitive Debt w programowaniu to luka między tym, co robi kod, a tym, co zespół potrafi o nim wyjaśnić. Metafora długu opisuje późniejszy wysiłek potrzebny do bezpiecznej zmiany, debugowania lub odtworzenia założeń.
Szybkie przyjęcie wygenerowanego kodu może zwiększyć tę lukę, ale nie musi. Jeśli człowiek sprawdza decyzje, przewiduje przypadki brzegowe i wyjaśnia zależności, narzędzie może wspierać budowę rozumienia. Sama obecność AI nie określa wielkości długu.
Naur opisuje pokrewną rolę teorii programu w głowach jego twórców. Szersza notatka o Cognitive Debt dotyczy pracy z informacją. W obu przypadkach praktyczny sprawdzian brzmi: czy potrafimy uzasadnić działanie i przewidzieć skutek zmiany?