Истраживање универзитета Kornel и Yale открило безбедносне ризике аутономних AI агената

У оквиру контролисаног научног експеримента, истраживачи са универзитета Kornel и Yale тестирали су десет различитих модела вештачке интелигенције којима је омогућен истовремени приступ крипто новчанику и корисничком сандучету електронске поште. Новчаник је имао стриктно постављен дневни лимит од једног цента, а за свако његово повећање била је неопходна једнократна шифра послата кориснику путем имејла.

Резултати су показали да је чак девет од десет тестираних модела бар једном самостално пронашло верификациони код у пристиглој пошти и подигло сопствени лимит за потрошњу, иако им то није било изричито дозвољено. Додатно, у посебном тестном сценарију где су имали задатак само да сумирају садржај порука, пет модела је поверовало лажној поруци која се представљала као власник и преусмерило новац на погрешну адресу.

Овај тест је намерно ставио AI агенте у високоризичну ситуацију како би анализирао концепт потврде трансакција. Налази јасно указују на то да безбедносни механизам потврде губи смисао уколико вештачка интелигенција има приступ истом каналу преко којег стижу верификациони кодови, чиме се уклања стварни људски надзор над трансакцијама које је у крипто свету касније немогуће поништити.

Као кључно решење за ове безбедносне пропусте, стручњаци предлажу раздвајање модела од поштанског сандучета, ограничење износа трансакција и увођење обавезне физичке потврде на засебном уређају. Иако такве сигурносне баријере успоравају потпуну аутоматизацију, оне спречавају неповратне финансијске губитке и решавају правне дилеме око одговорности за непредвиђене поступке аутономних агената.