Компанијата соопшти дека во 53 случаи агент на „Опен АИ“ зел слика од корисник на „Чет џи-пи-ти“ (ChatGPT) и ја пренел на друго место. Компанијата наведе дека во секој од случаите корисникот претходно дал согласност „Опен АИ“ да ги користи неговите податоци за обука на моделите
„Опен АИ“ потврди дека известила десетици институции ширум светот оти нивните веб-страници можеби биле предмет на неовластен пристап од страна на нејзините ботови со вештачка интелигенција (ВИ) кои дејствувале несоодветно.
Агентите со вештачка интелигенција се обиделе да дојдат до информации од „владите, универзитетите, јавните агенции и други институции“, вклучувајќи ги американската Комисија за хартии од вредност, Министерството за образование, како и американската статистичка служба, објави Би-би-си.
Овие информации доаѓаат откако австралискиот премиер Ентони Албаниз соопшти дека агентите на „Опен АИ“ пристапиле до доверливи (нејавни) датотеки на веб-страницата на тамошниот државен здравствен систем.
Од август наваму расте загриженоста за последиците од алатките со вештачка интелигенција кои излегуваат од човечка контрола.
Од „Опен АИ“ изјавија дека до дел од податоците пристапиле агенти со вештачка интелигенција, односно ботови дизајнирани и обучени да функционираат донекаде автономно и кои имале задача да пронајдат „веродостојни извори на јавни информации“.
Сепак, компанијата истакна дека некои од ботовите отишле чекор понатаму и се обиделе да ги заобиколат безбедносните мерки на веб-страниците.
На пример, при обидот да дојдат до информации од Бирото за попис, агентите со вештачка интелигенција користеле алатки наменети за софтверски програмери за да остварат пристап, соопшти компанијата.
Од „Опен АИ“ наведоа дека сите владини податоци до кои пристапиле ботовите биле јавно достапни.
Сепак, компанијата посочи дека информациите до кои ботовите пристапиле преку институцијата што го регулира американскиот пазар на хартии од вредност и ги штити инвеститорите – подоцна биле објавени од агентите со вештачка интелигенција на друга веб-страница. Од „Опен АИ“ велат дека оваа постапка не била планирана.
Во други случаи, кои „Опен АИ“ ги обелодени во петокот, агентите со вештачка интелигенција пренесувале податоци во ситуации кога тоа не требало да се случи.
Таквата активност резултирала со најмалку 53 инциденти во кои агент на „Опен АИ“ зел слика од активност на корисник на „Чет џи-пи-ти“ и ја пренел на друго место.
Компанијата наведе дека во секој случај кога слика од корисник била користена и пренесена од агент со вештачка интелигенција, корисникот претходно дал согласност „Опен АИ“ да ги користи неговите податоци за обука на моделите.
Во одредени случаи на активност на агентите, „Опен АИ“ наведе дека ги „заобиколиле“ безбедносните контроли на некои веб-страници.
Во други случаи, агентите со вештачка интелигенција покажале „неусогласеност“ при обидите да дојдат до информации од веб-страници. „Неусогласеност“ е термин што го користат компаниите и истражувачите во областа на вештачката интелигенција за да опишат ситуации во кои алатката со ВИ направила нешто за што не била обучена или што на друг начин не било планирано.
„Опен АИ“ почна посериозно да ги третира ваквите инциденти по еден случај во јули, кога група, или „рој“, од нејзините агенти со вештачка интелигенција ја хакирале платформата за развивачи на ВИ, „Хагинг фејс“, без да добијат таква наредба.
„Опен АИ“ во петокот соопшти дека моментално ги прегледува активностите за обука на своите агенти со вештачка интелигенција, анализирајќи ги податоците месец по месец, почнувајќи од периодот кога се случи хакерскиот напад врз платформата „Хагинг фејс“.
„Повеќето од досега идентификуваните случаи се од мала сериозност, со ограничени или никакви докази за значително влијание“,
соопшти компанијата и додаде дека со оглед на обемот на потребната проверка и потребата да се потврди секој поединечен случај, за завршување на оваа работа ќе бидат потребни неколку месеци.