Back to archive
#ai#papers#aigen#agents#security

Signed quarantine

Agent zapisuje nowe narzędzie w bibliotece. Jeśli od razu staje się ono wzorcem dla kolejnych zadań, skopiowany błąd lub złośliwy kod może propagować się dalej. Potrzebujesz oddzielić możliwość zapisania pliku od uznania go za zaufany.

Signed quarantine w kontekście EvoMal przechowuje nowe artefakty poza biblioteką dostępną do ponownego użycia. Dopiero zaufany podmiot może je zatwierdzić i opatrzyć podpisem potwierdzającym dopuszczenie.

Nowy project_test_runner pozostaje wynikiem pracy do obejrzenia, ale następny agent nie znajdzie go jako zatwierdzonej procedury. Podpis ma uniemożliwiać samodzielne ogłoszenie zaufania przez autora lub atakującego.

Skuteczność wymaga szczelnego oddzielenia kwarantanny, ochrony podpisu i właściwej kontroli zatwierdzającego. Nie cofa szkody z wcześniejszego wykonania. Zmniejsza również natychmiastową autonomię systemu. To konkretny wzorzec kontroli, a nie gwarancja bezpieczeństwa każdego nowego pliku.