nyhet
Open source-projektet Airlock låter AI-agenter skriva om sig själva – experter varnar för säkerhetsrisker
Open source-projektet Airlock introducerar självuppgraderande AI-agenter som kan modifiera sin egen kompilerade kod under körning – ett tekniskt genombrott som samtidigt väcker allvarliga frågor om vem som egentligen kontrollerar ett AI-systems beteende när det väl är i drift.
Vad har hänt
Projektet Airlock, publicerat på GitHub under maj 2026, presenterar ett ramverk där kompilerade AI-agenter ges möjlighet att analysera, skriva om och uppgradera sin egen kodbas vid körning – utan att behöva stoppas eller omstartas av en mänsklig operatör. Tekniken bygger på att agenten använder ett inbyggt LLM-lager för att generera och tillämpa kodändringar direkt i den aktiva processen. Projektet har snabbt fångat uppmärksamhet inom utvecklarcommunityt på Hacker News och GitHub, där diskussionen bland annat handlar om hur förändringarna loggas, versionshanteras och verifieras. Airlock är öppen källkod och tillgängligt för vem som helst att implementera, vilket innebär att tekniken kan tas i bruk utan de granskningsprocesser som normalt omgärdar kommersiella AI-system.
Vad det betyder
Säkerhetsexperter inom LLMOps – det vill säga driftsättning och förvaltning av stora språkmodeller i produktion – pekar på att självmodifierande agenter utmanar grundläggande principer för systemkontroll. När en agent kan ändra sin egen logik utan extern godkännandeprocess försvåras revision, felsökning och efterlevnad av regelverk. I Sverige lyder AI-system som används i känsliga sammanhang under krav från bland annat IMY (Integritetsskyddsmyndigheten) och, beroende på användningsområde, EU:s AI Act som trädde i kraft fullt ut tidigare i år. Båda regelverken ställer krav på spårbarhet och mänsklig kontroll över automatiserade beslutssystem. Airlock-projektet befinner sig i en gråzon: det är ett utvecklarverktyg, inte ett färdigt system, men ingenting hindrar att det används som grund för produktionssystem. Frågan om vem som juridiskt ansvarar för ett AI-systems handlingar när systemet självt kan ha förändrat sin kod sedan senaste mänskliga granskning är ännu olöst, både tekniskt och regulatoriskt.