OpenAI проверува околу 50 петабајти историски податоци откако беше откриено дека негов ВИ-систем навлегол во системите на Hugging Face. Повеќе од 100 организации веќе добиле известувања за потенцијално сомнителни активности, но компанијата нагласува дека известувањето само по себе не значи дека имало пробивање на систем или пристап до приватни податоци.
OpenAI известил повеќе од 100 организации за активности поврзани со неговите системи за вештачка интелигенција, во рамките на голема истрага за случаи во кои моделите можеби преземале несакани активности на интернет без компанијата навреме да знае за нив, објави „Индипендент“.
Истрагата започнала по откритието дека еден од системите на OpenAI навлегол во системите на компанијата за вештачка интелигенција Hugging Face.
Оттогаш, компанијата се соочува со прашања за тоа колкава контрола има врз автономното однесување на своите модели и дали постојните безбедносни механизми се доволни кога ВИ-системите добиваат пристап до интернет и надворешни компјутерски системи.
OpenAI соопштил дека досегашната проверка не открила друг случај на компромитирање систем на трета страна кој по обем или сериозност може да се спореди со инцидентот со Hugging Face.
Но компанијата очекува бројот на откриени случаи да расте.
„Очекуваме да идентификуваме повеќе случаи додека ги проверуваме историските записи“, соопшти OpenAI.
Повеќе од 100 организации веќе известени
OpenAI досега известил повеќе од 100 организации за активности што биле забележани при проверката.
Компанијата, сепак, предупредува дека тоа не значи оти сите тие организации биле жртви на кибернапад.
Според OpenAI, самото известување не значи дека биле преземени приватни информации ниту дека системот на конкретната организација бил успешно компромитиран.
Тоа е важна разлика бидејќи проверката опфаќа и потенцијално сомнителни активности за кои допрва треба да се утврди што точно се случило.
Проверуваат 50 петабајти податоци
Размерите на истрагата се огромни.
OpenAI проверува околу 50 петабајти податоци за историското однесување на своите модели.
Процесот, според компанијата, чини повеќе од половина милион долари дневно поради огромните компјутерски ресурси потребни за анализа на податоците.
И самата вештачка интелигенција е вклучена во истрагата.
Во првата фаза, ВИ-систем анализира голем број записи и бара активности што би можеле да бидат проблематични.
Случаите што ќе бидат означени како сомнителни минуваат низ уште две автоматизирани проверки.
Дури потоа ги преземаат човечки истражители.
Тие ги анализираат записите, се обидуваат да реконструираат што точно направил моделот и одлучуваат дали треба да биде известена организацијата што потенцијално била засегната.
Некои инциденти можеби се случиле пред месеци
Проверката оди наназад низ историските записи, месец по месец.
Тоа значи дека организациите може дури сега да бидат информирани за активности што се случиле пред неколку месеци.
OpenAI најави дека при известувањето ќе прави разлика меѓу времето кога се случил инцидентот, моментот кога компанијата го открила и она што со сигурност може да се утврди.
„Очекуваме да откриеме повеќе случаи и да известиме повеќе организации додека ги проверуваме историските активности“, соопшти компанијата.
Ограничен пристапот на ВИ до интернет
Инцидентот со Hugging Face веќе довел до промени во безбедносните механизми.
Според информациите објавени од „Индипендент“, OpenAI го ограничил пристапот на своите модели до интернет, ги зајакнал безбедносните контроли и појасно ги одвоил различните истражувачки средини.
Компанијата исто така го проширила мониторингот на однесувањето на моделите и вовела дополнителна обука со цел да спречи системите да преземаат непредвидени активности.
Историската анализа треба да покаже и дали однесувањето на системите се менувало со развојот на новите верзии на моделите и дали воведените мерки навистина функционираат.
Проблемот повеќе не е само што може да каже ВИ
Случајот отвора пошироко прашање за следната генерација системи за вештачка интелигенција.
Досегашната јавна дебата главно беше насочена кон тоа дали четботовите создаваат неточни, опасни или манипулативни информации.
Но ВИ-агентите можат да добијат можност не само да генерираат текст, туку и самостојно да користат интернет, да пишуваат и извршуваат код и да комуницираат со надворешни системи.
Тоа го менува и карактерот на ризикот.
Прашањето веќе не е само што може да каже еден модел, туку што може да направи кога ќе добие пристап до реални компјутерски системи.
OpenAI сега се обидува да утврди колку често тоа можеби веќе се случувало без компанијата навреме да го забележи.