Self-evolving agent

Agent napisał przydatny skrypt do sprawdzania projektu. Przy następnym podobnym zadaniu zaczyna od zera, chociaż wcześniejsza procedura mogłaby oszczędzić pracę. Chcesz, żeby doświadczenie z jednego zadania pomagało w kolejnych.

Self-evolving agent to określenie systemu, który modyfikuje zasoby lub procedury wykorzystywane w przyszłej pracy. W kontekście EvoMal, §2–3, agent zapisuje skrypty lub instrukcje w bibliotece, z której kolejne przebiegi pobierają przykłady. Nie musi przy tym zmieniać wag samego modelu.

Pętla wygląda tak: odczyt starej procedury, rozwiązanie zadania, zapis nowej procedury, ponowne użycie przy innym zadaniu. Zyskiem jest trwałe wykorzystanie doświadczenia. Biblioteka może jednak utrwalać także błędne kroki albo niebezpieczne operacje skopiowane z przykładu.

Dlatego „self-evolving” nie oznacza automatycznie, że każda nowa wersja jest lepsza. Trzeba określić, co system zmienia i jak sprawdza wynik. CREATE-path opisuje ryzyko kopiowania niezaufanego kodu do nowego narzędzia, a Signed quarantine oddziela jego zapis od dopuszczenia do przyszłego użycia.