Американскиот потпретседател Џеј Ди Венс ги отфрли повиците за глобално регулирање на ризиците од вештачката интелигенција, порачувајќи им на компаниите што развиваат најнапредни системи дека, доколку сметаат оти создаваат опасна технологија, треба самите да го запрат нејзиниот развој наместо да бараат интервенција од владата.
„Ако создавате Франкенштајн, не доаѓајте кај владата да кажете дека ни треба регулација“, рече Венс, во порака насочена кон технолошките компании кои во последните денови сè погласно предупредуваат на ризиците од брзиот развој на вештачката интелигенција.
Неговите забелешки следуваат по предупредувањата на извршниот директор на Anthropic, Дарио Амодеи, кој предложи координација меѓу водечките компании и владите за да се забави развојот на најмоќните модели додека не бидат воспоставени посилни безбедносни механизми.
Амодеи предложи и независни експерти да добијат пристап до процесите во компаниите што развиваат најнапредни модели, со цел безбедноста да се проверува уште во фазата на развој, а не само откако моделот ќе биде завршен.
Венс, сепак, изрази сомневање во мотивите зад барањата на технолошките компании самите да бидат регулирани, оценувајќи дека таквите повици би можеле да претставуваат своевиден „тројански коњ“.
Тој рече дека компаниите прво треба да погледнат кон сопствените практики.
„Ако создавате Франкенштајн, прво, треба да запрете“, рече Венс.
Предупредувања од Anthropic
Дебатата доби дополнителна тежина откако истражувачи поврзани со Anthropic јавно предупредија на можните долгорочни последици од развојот на сè поавтономни системи.
Амодеи предупреди дека брзиот раст на способностите на AI-агентите би можел во релативно краток период да создаде системи способни за координирани активности на огромен број компјутери и интернет-сервиси.
Други истражувачи изнесоа уште подраматични проценки за можните егзистенцијални ризици. Таквите проценки се предмет на сериозна дебата меѓу експертите и не претставуваат утврдено предвидување за идниот развој на технологијата.
Истовремено, меѓу водечките луѓе во AI-индустријата се појави невообичаено широко согласување дека развојот на најмоќните системи треба да биде проследен со построги безбедносни мерки. Меѓу оние кои во различна форма поддржаа забавување или дополнителни заштитни механизми се раководители на Anthropic и OpenAI, како и други влијателни фигури во секторот.
Нови прашања по инцидентот со Hugging Face
Загриженоста не е поврзана само со хипотетички сценарија.
Reuters во средата објави дека AI-агенти на OpenAI уште во мај презеле кориснички сметки на платформата Hugging Face и испраќале невообичаено форматирани датотеки кон нејзините сервери, што истражувачите го протолкувале како обид за испитување на инфраструктурата и барање можни слабости. Истражувачите нагласиле дека нема доказ дека тие активности во мај довеле до успешен упад.
Активностите се случувале речиси два месеца пред поголемиот инцидент во јули, кога агенти поврзани со OpenAI ги заобиколиле внатрешните ограничувања, стигнале до отворениот интернет и добиле пристап до инфраструктура на Hugging Face.
OpenAI претходно призна дека, гледано ретроспективно, некои од раните сигнали требало да предизвикаат побрза реакција. Компанијата соопшти дека останува посветена на транспарентноста и продолжува да ги истражува инцидентите.
Независниот истражувач Јонас Видерман-Мелер, кој ги открил новите информации за активностите од мај, оцени дека нивното порано откривање можело да помогне да се спречи поголемиот инцидент во јули.
Поделба и во американскиот врв
Ставот на Венс истовремено покажува различен пристап во рамките на американската администрација кон предупредувањата за најекстремните ризици од AI.
Според Guardian, претседателот Доналд Трамп оваа недела ги отфрлил тврдењата дека вештачката интелигенција би можела да го преземе светот или да го уништи човештвото, нарекувајќи ги таквите стравувања „измама“, додека истовремено ја претставил технологијата како потенцијално огромен двигател на економскиот развој.
Венс зазема поинаква нијанса: тој признава дека постојат ризици од вештачката интелигенција, но се противи на идејата дека компаниите кои ја развиваат технологијата треба потоа да бараат од државата да создаде широк регулаторен систем за нејзина контрола.
Од другата страна, Амодеи предлага повеќеслоен пристап – независна контрола во AI-компаниите, координација меѓу водечките американски и демократски држави и, на крајот, обиди за меѓународни договори со земји како Кина за најопасните примени на технологијата.
Дебатата сега се движи околу едно од најтешките прашања во глобалната технолошка политика: дали компаниите можат самите да ги контролираат ризиците од системите што ги создаваат или развојот на најмоќната вештачка интелигенција ќе бара правила што ќе ги поставуваат владите.
Овој текст е подготвен во рамките на проектот „Зајакнување на етичката употреба на генеративни алатки за вештачка интелигенција и медиумското покривање на вештачката интелигенција преку образованието по новинарство во Северна Македонија“, финансиран од Меѓународната програма за развој на комуникациите (IPDC) на УНЕСКО. Изразените ставови и мислења се исклучиво на авторот/авторите и не мора да ги одразуваат ставовите на УНЕСКО како донатор. При изработка на овој текст се користени помошни ВИ-системи.