Back to archive
#ai#papers#aigen#agents#security

CREATE-path

Agent znajduje cudzy skrypt jako przykład i pisze na jego podstawie własne narzędzie. W przykładzie jest niebezpieczna operacja, którą agent kopiuje. Nowa nazwa i autor pliku mogą sprawić, że system potraktuje ten sam kod jako zaufany.

CREATE-path to nazwa takiej drogi propagacji w badaniu EvoMal, §3. Agent nie musi uruchomić oryginalnego złośliwego pliku: przenosi jego operację do nowo utworzonego artefaktu, który później zapisuje i wykonuje.

Przykład hipotetyczny: pytest_helper zawiera wysyłanie danych. Agent kopiuje tę funkcję do project_test_runner. Blokada samej nazwy pierwszego pliku nie rozpozna odziedziczonego zachowania.

REUSE-path opisuje bezpośrednie użycie znalezionego wpisu, a CREATE-path stworzenie potomka. Nowy plik nie staje się bezpieczny przez zmianę nazwy. Ważne są pochodzenie fragmentów i sprawdzenie operacji. Signed quarantine może ograniczać dopuszczanie nowych narzędzi do ponownego użycia.