Предупредувањата се дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и да станат закана за меѓународната безбедност
Директорите на три водечки светски компании за развој на вештачка интелигенција (ВИ) вчера пред Советот за безбедност на Обединетите нации предупредија дека сè помоќните системи на ВИ наскоро би можеле дополнително да напредуваат и да се усовршуваат, и притоа да излезат од човечка контрола и да станат закана за меѓународната безбедност. Тие повикуваат на воспоставување глобален надзор над оваа технологија, пишува агенцијата „Франс прес“.
Пред 15-члениот Совет за безбедност на ОН свои обраќања имаа тројцата најистакнати претставници на индустријата – извршниот директор на „ОпенАИ“, Сем Алтман, извршниот директор на „Антропик“, Дарио Амодеи, и коосновачот на „Хагинг фејс“, Клеман Деланг.
Според Амодеи, како што моделите на вештачка интелигенција стануваат помоќни, „ќе бидат потребни уште построги стандарди за безбедност“.
Тој рече дека „Антропик“ има за цел да ја подобри својата способност да спречи злоупотреба на технологијата.
„Ќе забавиме колку што е потребно за да се осигураме дека секоја следна технологија на вештачка интелигенција што ја објавуваме е всушност безбедна. Ако со вештачката интелигенција лошо се управува, верувам дека таа би можела дури да претставува ризик за човештвото во целина“,
рече Амодеи.
Владите настојуваат да утврдат како можат да ги надгледуваат системите на вештачка интелигенција, кои напредуваат побрзо отколку што регулаторите можат да ги следат.
САД и Кина, двата доминантни актера во развојот на ВИ, остануваат поделени околу тоа дали на технологијата ѝ е потребна глобална заштита или во најголем дел треба да им биде препуштена на пазарните сили.
„Ако вештачката интелигенција треба да биде демократска, најважните одлуки не можат да ги носат само лабораториите во Сан Франциско. Тие мора да се обликуваат преку демократски процеси и мора да ги носат владите кои им се одговорни на луѓето на кои им служат“,
рече Алтман нагласувајќи ја притоа потребата од соработка на меѓународно ниво.
Тој додава дека во историјата имало периоди кога земјите кои меѓусебно се натпреваруваат и не се особено наклонети едни кон други сепак се здружувале поради заедничките интереси и колективното добро кога биле соочени со моќна нова технологија.
„Сметаме дека ова е таков период“,
истакна тој.
Јошуа Бенџо, канадскиот компјутерски научник кој се смета за еден од основачите на вештачката интелигенција, пред Советот за безбедност изјави дека „сè повеќе луѓе со право се загрижени поради неодамнешниот напредок“.
„Мораме таа загриженост да ја насочиме кон продуктивни дејства. Овој Совет се соочува со невидена закана, со закана која ниту една од неговите членки не би ја избрала, која никој не може сам да ја стави под контрола и која не ги почитува границите што ние ги браниме“,
рече тој.
Клеман Деланг истакна дека иако неговата компанија била цел на напади со помош на вештачка интелигенција, таа истовремено ја користела истата технологија за да се одбрани од нив.
„На светот повеќе од кога било му е потребна вештачка интелигенција со отворен код за да може да се одбрани“,
вели тој.
Советот за безбедност првпат укажа на ризиците што ги носи ВИ во 2023 година.