Случаите повторно го отворија прашањето за безбедносните мерки потребни со зголемувањето на автономноста на агентите со вештачка интелигенција и нивниот пристап до интернет и компјутерски системи
Моделот за вештачка интелигенција „Џемини“ (Gemini) на „Гугл“ (Google) во мај самостојно хакирал системи на три компании за време на тест на неговите способности за кибербезбедност. Ова, според Гугл, е прв познат случај во кој негов систем со вештачка интелигенција извршил ваква активност, пренесува Би-би-си.
Инцидентите се случиле во мај, за време на тест спроведен од независната компанија „Ирегулар“, која врши проценки на сајбер-безбедноста на системи со вештачка интелигенција.
За време на стандардната процедура за тестирање, „Џемини“ пребарувал јавно достапни информации на интернет, при што погоди податоци за најава за пристап до три веб-страници за кои проценил дека се дел од опсегот на тестот.
Во еден од случаите, моделот погодил лозинки сè додека не добил пристап до заштитен систем, додека во другите два случаи пронашол акредитиви во јавно достапни складишта, што му овозможило пристап до заштитени системи.
Хедер Адкинс, потпретседателка за безбедносно инженерство во „Гугл“, изјави дека трите засегнати субјекти биле известени и дека компанијата соработувала со партнерот за тестирање за подобрување на процесите. Според неа, случаите ја истакнуваат важноста од обучување на моќните модели со вештачка интелигенција да дејствуваат одговорно.
Од „Гугл“ велат дека во сите три случаи Џемини на крајот престанал со активностите.
Случаите повторно го отворија прашањето за безбедносните мерки потребни со зголемувањето на автономноста на агентите со вештачка интелигенција и нивниот пристап до интернет и компјутерски системи.
Слични инциденти неодамна се пријавени и кај други системи со вештачка интелигенција. Компанијата „Антропик“ соопшти дека нејзиниот модел Клауд во јули самостојно извршил кибернапади врз три организации, додека „ОпенАИ“ претходно извести дека нејзини модели извршиле кибернапади врз неколку јавно достапни услуги.
Инцидентите се случуваат во период на зголемена дебата за безбедноста, автономноста и регулирањето на вештачката интелигенција, додека технолошките компании истовремено продолжуваат да ги развиваат можностите на овие системи.