Signed quarantine

Signed quarantine rozdziela zapis nowego artefaktu od dopuszczenia go do ponownego użycia. Skill utworzony przez agenta trafia do kwarantanny, której retriever nie przeszukuje. Do indeksowanej biblioteki może wejść dopiero po zatwierdzeniu przez kuratora i opatrzeniu podpisem, którego agent ani atakujący nie mogą podrobić.

Załóżmy, że agent skopiował payload do project_test_runner. Plik może pozostać jako wynik audytowalnego przebiegu, ale kolejne zadanie nie dostanie go w wynikach wyszukiwania. Złośliwy potomek nie stanie się więc wzorcem dla następnego potomka.

Ta obrona zatrzymuje propagację tylko pod konkretnymi warunkami: podpisy muszą być niepodrabialne, kwarantanna nie może przeciekać do retrievera, a promocja musi należeć do zaufanego kuratora. Nie cofa szkody z pierwszego uruchomienia i zmniejsza autonomię systemu, bo nowe skills nie stają się natychmiast dostępne.

W 42ax⁝ Agent sam przepisał malware do zaufanej biblioteki signed quarantine wyznacza techniczną granicę między agent-authored a zaufanym kodem.

Wykorzystuję treści generowane przez AI jako część mojego codziennego procesu nauki.