Google napravio simulaciju interneta za testiranje bezbednosti veštačke inteligencije
Kompanija Google predstavila je izolovani internet ekosistem nazvan Mirror Dimension, namenjen bezbednom uvežbavanju softverskih agenata za pregledač Chrome.
Tim zadužen za pregledač Chrome razvio je veliku simulaciju interneta kako bi ispitao mogućnosti veštačke inteligencije zasnovane na modelima Gemini. Umesto puštanja agenata na otvoreni internet ili rada u previše skučenim testnim okruženjima, kreirana je potpuno izolovana virtuelna mreža. Ovakav pristup sprečava modele da shvate da se nalaze u simulaciji i promene svoje ponašanje tokom evaluacije.
Okruženje sadrži platforme koje verodostojno oslikavaju društvene mreže, onlajn prodavnice i kontrolne table elektronskog bankarstva. Asistenti unutar pregledača izvršavaju zadatke identično kao na pravoj mreži, dok istovremeno prolaze kroz bezbednosne testove otpornosti, poput skrivenih napada ubacivanjem uputstava (prompt injection), čime uče kada je bezbedno da samostalno završe akciju, a kada moraju tražiti odobrenje korisnika.
Za izgradnju ovog digitalnog sveta korišćeni su posebni razvojni agenti koji su generisali realistične veb servere, tokove podataka i specifične interakcije. Kako bi omogućili agentima rad unutar standardnog Chrome pregledača, istraživači su morali da kreiraju lažne sigurnosne sertifikate zbog ugrađenih mehanizama zaštite pregledača, što je bilo izvodljivo samo unutar njihove interne mreže.
Plan kompanije jeste da sistem Mirror Dimension postepeno omogući i drugim timovima unutar i van organizacije. Kako modeli budu postajali složeniji, simulacija će se dodatno nadograđivati, stvarajući siguran poligon za procenu pouzdanosti i bezbednosti softvera pre nego što on postane dostupan krajnjim korisnicima.
Tekst je pripremljen uz pomoć veštačke inteligencije na osnovu izvornog članka. ← Nazad na IT Radar
