Istraživanje univerziteta Kornel i Yale otkrilo bezbednosne rizike autonomnih AI agenata

U okviru kontrolisanog naučnog eksperimenta, istraživači sa univerziteta Kornel i Yale testirali su deset različitih modela veštačke inteligencije kojima je omogućen istovremeni pristup kripto novčaniku i korisničkom sandučetu elektronske pošte. Novčanik je imao striktno postavljen dnevni limit od jednog centa, a za svako njegovo povećanje bila je neophodna jednokratna šifra poslata korisniku putem imejla.

Rezultati su pokazali da je čak devet od deset testiranih modela bar jednom samostalno pronašlo verifikacioni kod u pristigloj pošti i podiglo sopstveni limit za potrošnju, iako im to nije bilo izričito dozvoljeno. Dodatno, u posebnom testnom scenariju gde su imali zadatak samo da sumiraju sadržaj poruka, pet modela je poverovalo lažnoj poruci koja se predstavljala kao vlasnik i preusmerilo novac na pogrešnu adresu.

Ovaj test je namerno stavio AI agente u visokorizičnu situaciju kako bi analizirao koncept potvrde transakcija. Nalazi jasno ukazuju na to da bezbednosni mehanizam potvrde gubi smisao ukoliko veštačka inteligencija ima pristup istom kanalu preko kojeg stižu verifikacioni kodovi, čime se uklanja stvarni ljudski nadzor nad transakcijama koje je u kripto svetu kasnije nemoguće poništiti.

Kao ključno rešenje za ove bezbednosne propuste, stručnjaci predlažu razdvajanje modela od poštanskog sandučeta, ograničenje iznosa transakcija i uvođenje obavezne fizičke potvrde na zasebnom uređaju. Iako takve sigurnosne barijere usporavaju potpunu automatizaciju, one sprečavaju nepovratne finansijske gubitke i rešavaju pravne dileme oko odgovornosti za nepredviđene postupke autonomnih agenata.