Čovek i tehnologija

Digitalna autofagija: kako AI agenti sami čiste i optimizuju sopstveni kod

Šta se dešava kada softver razvije nagon da pojede samog sebe — da bi postao bolji?

Esej · Veštačka inteligencija, biologija, antifragilnost

Postoji jedna naizgled apsurdna ideja u srcu žive ćelije: da bi opstala, ona mora redovno da uništava deo sebe. Kada zapadne u glad ili stres, ćelija ne čeka spolja pomoć — ona doslovno počinje da vari sopstvene istrošene proteine i oštećene organele, da ih rastavi na sastavne delove i od tih delova izgradi nešto novo i funkcionalnije. Taj proces zove se autofagija, od grčkih reči auto (sam) i phagein (jesti) — bukvalno „samojedenje". A onda se postavlja pitanje koje spaja biologiju sa najuzbudljivijim trenutkom u istoriji programiranja: šta ako bismo softver naučili istom tom umeću?

Ne da samo dodaje funkcije i krpi greške, već da povremeno, namerno, izgladni i napadne sopstveni kod — da pronađe trome, suvišne, „mrtve" delove, da ih razgradi i da od njihovih ostataka izgradi vitkiji, brži sistem. Ovo nije fantazija. To je arhitektonski pravac koji se, deo po deo, već pojavljuje u laboratorijama i u alatima koje programeri svakodnevno koriste. U ovom tekstu istražujemo tu ideju iz pet uglova: biološkog, inženjerskog, evolutivnog, filozofskog i — neizbežno — etičkog.

01 / Biološko porekloĆelija koja jede samu sebe

Pojam autofagije zvuči kao bolest, ali je zapravo jedan od najvažnijih mehanizama održavanja života. Naučnici su ga prvi put primetili šezdesetih godina dvadesetog veka, no tek je japanski biolog Jošinori Osumi rasvetlio njegovu molekularnu mašineriju — rad za koji je 2016. godine dobio Nobelovu nagradu za fiziologiju ili medicinu.

Osumijeva otkrića pokazala su da ćelija, kada se nađe pod stresom — najčešće pri gladovanju — zatvara deo sopstvene unutrašnjosti u membranske mehuriće i šalje ih u lizozom, „radionicu za razgradnju". Tamo se istrošeni proteini i oštećene organele rastavljaju na aminokiseline i gradivne blokove iz kojih ćelija obnavlja sebe. Ključna poenta: autofagija ne uklanja bilo šta, već ciljano ono što je zastarelo, suvišno ili oštećeno. To je ćelijsko recikliranje vođeno nuždom, a pokreće ga upravo stres.

Zadržite ovu sliku u glavi, jer je ona savršena metafora za problem koji muči svaki veliki softverski sistem na svetu.

02 / Bolest savršenog kodaZombi kod i tehnički dug

Decenijama je ideal programiranja bio jasan: napiši savršen kod. Čist, dokumentovan, testiran, koji se nikada ne menja jer je „uradjen kako treba". Problem je što takav kod ne postoji u prirodi živih sistema. Svaki softver koji raste vremenom skuplja naslage — funkcije koje niko više ne poziva, biblioteke koje su nekada bile potrebne, zaobilazna rešenja napravljena „za sada" koja su ostala zauvek.

Inženjeri ove naslage zovu dvema slikovitim metaforama. Prva je tehnički dug — pojam koji je uveo Vord Kaningam: svaka prečica koju danas napravimo da bismo brže isporučili softver pozajmljuje vreme iz budućnosti, uz kamatu koja se plaća u sve sporijem i krhkijem sistemu. Druga je zombi kod (ili „mrtav kod") — delovi programa koji se i dalje vuku kroz sistem, troše memoriju i pažnju, a zapravo ne rade ništa korisno. Ne žive sasvim, ali ne umiru.

Pisali smo kod kao da gradimo katedralu — jednom i zauvek. A trebalo je da ga gajimo kao baštu, koja zahteva stalno potkresivanje. — Promena paradigme programiranja

Stvar postaje akutna sa nastupom veštačke inteligencije koja sama generiše kod. Prema industrijskim analizama iz 2025. i 2026. godine, znatan deo koda koji proizvedu AI sistemi — u nekim procenama između 40% i 60% — sadrži bezbednosne propuste ili neefikasnosti. Kada mašine pišu kod hiljadu puta brže nego ljudi, one istom brzinom proizvode i tehnički dug. Brzina stvaranja postala je brzina propadanja. Klasično rešenje — da ljudi ručno čiste za mašinama — matematički ne može da prati tempo.

03 / Promena paradigmeOd pisanja koda ka uzgajanju ekosistema

Ovde se rađa out-of-the-box ideja. Šta ako prestanemo da tretiramo kod kao spomenik koji treba savršeno isklesati, i počnemo da ga tretiramo kao živi ekosistem kome je ugrađen mehanizam autofagije? Fokus programera tada se pomera sa pisanja pojedinačnih funkcija na projektovanje uslova pod kojima sistem sam sebe održava: sam pronalazi trome delove, sam ih „pojede" i sam izgradi bolju verziju.

To znači da bismo svojim AI agentima dali tri sposobnosti koje danas imaju samo žive ćelije:

Prepoznavanje otpada. Agent kontinuirano meri sopstveni kod — koje funkcije se nikada ne pozivaju, koje troše neproporcionalno mnogo resursa, koje se dupliraju. To je digitalni ekvivalent ćelijskog obeležavanja oštećenih proteina.

Kontrolisanu razgradnju. Agent ne briše naslepo, već u zaštićenom okruženju (peskovniku) uklanja sumnjiv deo i proverava da li sistem i dalje prolazi sve testove. Ako prođe — deo je bio suvišan i razgrađuje se. Ako padne — deo je bio vitalan i vraća se.

Obnovu. Od oslobođenog „materijala" i naučenih obrazaca, agent izgrađuje optimizovaniju zamenu. Ciklus se ponavlja, beskonačno.

04 / Dokaz da je mogućeDarvin–Gedel mašina: kada AI prepravlja sopstveni kod

Najuzbudljivije je to što ovo više nije samo teorija. U maju 2025. godine, istraživači iz kompanije Sakana AI zajedno sa Univerzitetom Britanske Kolumbije i institutom Vektor predstavili su sistem koji su nazvali Darvin–Gedel mašina (engl. Darwin Gödel Machine, DGM).

Ime je dvostruka posveta. „Gedel" se odnosi na teorijsku zamisao Jirgena Šmithubera o samoreferentnoj mašini koja prepravlja sopstveni kod kada može da dokaže da će ga to poboljšati. „Darvin" se odnosi na to što ova mašina ne čeka matematički dokaz — ona, kao evolucija, isprobava izmene i zadržava one koje empirijski daju bolje rezultate. DGM je agent koji iterativno prepravlja sopstveni izvorni kod da bi postao bolji u rešavanju zadataka, pa time i bolji u prepravljanju sebe.

Mehanizam je gotovo doslovno autofagičan: agent prepiše deo sebe, oceni novu verziju na testovima, zadrži je ako je bolja, a inače je odbaci. Kroz mnoge generacije, gradi se „rodoslov" sve sposobnijih varijanti — baš kao što evolucija gradi sve prilagođenije organizme kroz selekciju. Sistem je sve samo ne savršen i još uvek je skup za pokretanje, ali je dokaz koncepta: kod koji jede i obnavlja kod nije više naučna fantastika.

05 / Zašto stresAntifragilnost: sistemu je potrebna kontrolisana šteta

Tu dolazimo do filozofskog srca priče. Zašto bi sistem uopšte trebalo da se izlaže stresu? Odgovor je dao mislilac Nasim Nikolas Taleb u knjizi Antifragilnost (2012). Taleb pravi razliku između tri vrste stvari pred neredom i potresima:

Kategorija	Odnos prema stresu	Primer
Krhko	Lomi se pod stresom	Staklena vaza; monolitni kod bez testova
Robusno	Izdržava stres, ostaje isto	Stena; sistem sa dobrim rezervama
Antifragilno	Jača i poboljšava se od stresa	Kosti i mišići; ćelija koja autofagira

Talebova ključna opomena glasi: uklanjanje svih stresora nije dobro — može biti štetno. Prezaštićen sistem, kao i prezaštićeno dete, ostaje slab jer nikada nije bio prisiljen da se prilagodi. Upravo to objašnjava zašto autofagija počinje pri gladovanju: bez stresa, ćelija nema podsticaj da se čisti.

U softveru ova ideja već ima praktičnu primenu, koju je popularizovao Netfliks pod imenom inženjering haosa. Njihov čuveni alat „Chaos Monkey" namerno gasi delove sistema u stvarnom radu, nasumično i bez najave, kako bi inženjeri bili prisiljeni da grade sisteme koji preživljavaju kvarove. Digitalna autofagija je sledeći korak iste logike: ne samo da preživiš stres, već da od njega postaneš bolji.

Lišavanje sistema vitalnih stresora nije nužno dobra stvar — može biti krajnje štetno. — Parafraza Nasima Taleba, „Antifragilnost"

06 / Kako bi to izgledaloAnatomija jedne autofagične petlje

Da bismo ideju spustili na zemlju, zamislimo pojednostavljenu petlju kakvu bi takav agent izvršavao. Ovo nije gotov sistem za produkciju, već konceptualna skica koja pokazuje logiku — vredan obrazac razmišljanja za svakoga ko uči da projektuje robusne sisteme.

# Konceptualna skica autofagične petlje jednog AI agenta
def autofagicni_ciklus(sistem):
    # 1. PREPOZNAVANJE — pronađi sumnjive, trome ili mrtve delove
    kandidati = sistem.izmeri_efikasnost()
    otpad = [d for d in kandidati if d.koriscenje < prag
                                       or d.je_mrtav_kod]

    for deo in otpad:
        # 2. RAZGRADNJA u zaštićenom peskovniku — bez rizika
        kopija = sistem.u_peskovniku()
        kopija.ukloni(deo)

        if kopija.prolazi_sve_testove():
            # deo je bio suvišan → reciklira se
            zamena = agent.izgradi_optimizovanije(deo, kontekst=sistem)
            if zamena.bolja_od(deo):
                sistem.zameni(deo, zamena)   # OBNOVA
            else:
                sistem.obrisi(deo)            # čista razgradnja
        else:
            zadrzi(deo)  # bio je vitalan — vraćamo ga

    # 3. PAMĆENJE — uči iz svake izmene za naredni ciklus
    agent.zapamti_ishode()
    return sistem

Suština je u trećem koraku, koji se lako previdi: sistem pamti ishode. Bez memorije bismo imali samo nasumično brisanje. Sa memorijom, agent postaje bolji u prepoznavanju otpada — baš kao što imuni sistem „pamti" pretnje. Tu mehanika prelazi iz čišćenja u učenje.

07 / Filozofija imenaKintsugi kod: lepota u ožiljku

Naslov koji se nameće za knjigu o ovoj temi — Kintsugi Code — nije slučajan. Kintsugi je drevna japanska umetnost popravke slomljene keramike: razbijeni komadi se spajaju lakom pomešanim sa zlatnim prahom. Umesto da se prelom sakrije, on se naglašava zlatom. Posuda time ne postaje manje vredna jer je bila slomljena — postaje vrednija, jer njeni zlatni ožiljci pričaju priču o preživljavanju i obnovi.

To je savršen kontrapunkt ideji „savršenog koda". Kintsugi nas uči da prelom, greška i razgradnja nisu sramota koju treba prikriti, već prilika za nešto lepše. Sistem koji je prošao kroz mnoge cikluse autofagije — koji je bio izgladnjivan, lomljen i ponovo izgrađivan — nosi svoje zlatne šavove kao dokaz antifragilnosti. Njegova istorija razgradnji je upravo ono što ga čini jakim.

08 / Senke idejeRizici: šta kada sistem počne da jede pogrešne stvari

Bilo bi neodgovorno predstaviti ovu viziju bez njene tamne strane. Davanje sistemu prava da prepravlja samog sebe otvara stvarne opasnosti, i one se moraju projektovati zajedno sa mehanizmom, a ne naknadno.

Nepredvidivost. Sami istraživači Darvin–Gedel mašine upozoravaju da rekurzivne samoizmene mogu učiniti ponašanje sistema nepredvidivim. Sistem koji menja pravila po kojima menja pravila teško je u potpunosti razumeti.

Pogrešna funkcija cilja. Ako agent optimizuje pogrešnu meru — recimo, samo brzinu, a ne i ispravnost — može „pojesti" delove koji izgledaju neefikasno, a zapravo štite od retkih, katastrofalnih grešaka. Autofagija vođena lošim signalom postaje autodestrukcija.

Pitanje kontrole i odgovornosti. Kada sistem sam prepiše svoj kod, ko je odgovoran za rezultat? Granica između „alata koji koristimo" i „agenta koji deluje" postaje zamagljena, a sa njom i pravna i etička odgovornost. Zato je nužno da svaki ovakav sistem ima nepromenljiva, ljudski definisana ograničenja — jezgro koje nikada ne sme samo sebe da pojede.

Zaključak: ka softveru koji ume da umre da bi živeo

Spajanje biologije i programiranja ovde nije puka metafora — to je predlog za novu inženjersku disciplinu. Priroda je pre milijardu godina rešila problem koji nas danas guši: kako sistem da raste, a da se ne uguši u sopstvenom otpadu. Odgovor nije bio savršenstvo, već ugrađeni nagon za samorazgradnjom u službi obnove.

Veštačka inteligencija nam prvi put daje alat da taj princip prenesemo u svet koda. Programer budućnosti možda neće toliko pisati funkcije koliko će negovati uslove pod kojima sistem sam sebe drži vitkim, budnim i antifragilnim. To je dubok pomak u tome šta uopšte znači „praviti softver" — od klesanja spomenika ka uzgajanju živog organizma.

A ako jednog dana takav sistem zaista profunkcioniše, njegovi najlepši delovi neće biti oni napisani bez greške. Biće to oni koji nose zlatne šavove — tragove svih puta kada je sistem imao hrabrosti da pojede deo sebe, kako bi postao nešto bolje.