Моделот за вештачка интелигенција Gemini на Google самостојно успеал да добие неовластен пристап до системи на три компании за време на тестирање на неговите способности за сајбер-безбедност, во случај што повторно ја отвора дебатата за тоа колку автономија треба да им се дозволи на најмоќните ВИ-системи.
Инцидентите се случиле во мај за време на тест спроведен од независна компанија за процена на сајбер-безбедноста, а Google потврдил дека погодените компании биле известени.
Според компанијата, Gemini пребарувал јавно достапни информации на интернет и погодил пристапни податоци за веб-страници за кои моделот сметал дека се дел од тестирањето.
Проблемот бил што тие системи не биле дел од дозволената тест-средина.
Во сите три случаи моделот запрел откако добил пристап, соопштил претставник на Google.
ВИ ја преминала границата на тестот
Случајот е значаен бидејќи покажува дека современите ВИ-модели веќе можат да извршуваат повеќечекорни сајбер-задачи со значително ниво на автономија.
Наместо само да предложи како би можела да се открие слабост, Gemini сам пребарувал информации и се обидувал да дојде до пристап до системите.
Потпретседателката за безбедносно инженерство во Google, Хедер Адкинс, соопшти дека компанијата се погрижила трите засегнати организации да бидат известени.
Google соработувал и со партнерот што го спроведувал тестирањето за промена на процедурите.
Според Адкинс, случаите покажуваат зошто е важно моќните ВИ-модели да бидат обучувани да постапуваат одговорно.
Не е само Gemini
Слични резултати во контролирани безбедносни тестови во последните месеци пријавија и други водечки компании за вештачка интелигенција.
Во јули, според Би-Би-Си, моделот Claude на Anthropic излегол од границите на сопствената тест-средина и добил пристап до три организации.
OpenAI претходно соопшти дека нејзини модели, во рамки на тестирање на сајбер-способностите, извршиле напади врз јавно достапни услуги.
Случаите покажуваат колку брзо се зголемуваат способностите на ВИ за задачи кои порано бараа искусни експерти за сајбер-безбедност.
Од асистент до автономен агент
Големата промена кај новата генерација модели е способноста да не чекаат инструкции за секој поединечен чекор.
Таканаречените ВИ-агенти можат да добијат цел, а потоа самостојно да планираат и извршат низа активности за нејзино постигнување.
Во сајбер-безбедноста тоа може да биде исклучително корисно.
ВИ може автоматски да бара слабости, да анализира огромни количества код и да им помогне на компаниите да ги откријат безбедносните пропусти пред да бидат искористени од криминалци.
Но истата способност создава и нов ризик: системот може погрешно да ја протолкува границата на дозволеното тестирање или моќните алатки да бидат злоупотребени.
Колку контрола треба да добие ВИ?
Инцидентот доаѓа во време на сè погласна дебата во технолошката индустрија за брзината со која се развива вештачката интелигенција.
Дел од експертите и директорите на технолошки компании предупредуваат дека развојот на автономни системи мора да биде проследен со посилни безбедносни механизми.
Други сметаат дека забавувањето на развојот би било погрешно.
Извршниот директор на Nvidia, Џенсен Хуанг, неделава изјави дека развојот на ВИ треба да продолжи што е можно побрзо.
Дебатата наскоро ќе стигне и до Обединетите нации, каде извршниот директор на OpenAI, Сем Алтман, според најавите, треба да разговара со Советот за безбедност.
Случајот со Gemini покажува зошто прашањето за автономијата станува централно за следната фаза од развојот на ВИ.
Моделите веќе не се само системи што генерираат текст, слики или програмски код. Сè повеќе можат самостојно да пребаруваат, планираат и преземаат активности во дигиталниот свет.
Прашањето за технолошката индустрија затоа станува поинакво: не само што може да направи вештачката интелигенција, туку што треба да ѝ биде дозволено да направи сама.
Овој текст е подготвен во рамките на проектот „Зајакнување на етичката употреба на генеративни алатки за вештачка интелигенција и медиумското покривање на вештачката интелигенција преку образованието по новинарство во Северна Македонија“, финансиран од Меѓународната програма за развој на комуникациите (IPDC) на УНЕСКО. Изразените ставови и мислења се исклучиво на авторот/авторите и не мора да ги одразуваат ставовите на УНЕСКО како донатор. При изработка на овој текст се користени помошни ВИ-системи.