Поранешен истражувач на компанијата Anthropic предупреди дека дел од луѓето кои работат на најнапредните системи за вештачка интелигенција се „вистински исплашени“ од брзината со која технологијата напредува и од можноста таа во иднина да стане тешко контролирана.
Џејкоб Коксон, 27-годишен истражувач кој претходно работел и во OpenAI, изјави дека ја напуштил Anthropic поради загриженост околу можните последици од неконтролиран развој на ВИ.
„Верувам дека, ако не забавиме при сегашната стапка на напредок, постои сериозна можност сите да умреме во релативно блиска иднина“, рече Коксон.
Неговото предупредување е крајно и оспорувано од дел од индустријата, но се појавува во момент кога и некои од највлијателните директори во секторот јавно бараат построги правила.
Извршниот директор на Anthropic, Дарио Амодеи, повика компаниите да го забават развојот на најмоќните модели за да им се даде повеќе време на владите и индустријата да воспостават безбедносни механизми.
Според него, со идејата за координирано забавување и посилен надзор се согласиле и шефот на OpenAI, Сем Алтман, и Илон Маск, кој ја води xAI.
Страв од глобална технолошка трка
Коксон вели дека регулацијата би имала ограничен ефект доколку биде воведена само во САД или во западните земји.
Според него, секој обид за забавување би морал да биде координиран и со Кина, бидејќи во спротивно компаниите и државите би продолжиле да се натпреваруваат кој прв ќе развие помоќни системи.
Тој тврди дека токму чувството дека се наоѓаат во трка ги плаши дел од истражувачите.
„Луѓето што работат во овие компании се целосно сериозни кога бараат регулација, бидејќи се чувствуваат заробени во трка и се плашат од нејзиниот исход“, рече тој.
Коксон тврди дека некои негови колеги размислуваат и за лични мерки во случај брзиот развој на технологијата да предизвика поширока нестабилност.
Друг истражувач на Anthropic, Еван Хубингер, јавно напиша дека и самиот проценува оти постои повеќе од 10 проценти веројатност напредната ВИ да предизвика исчезнување на човештвото во следната деценија.
Таквите проценки не претставуваат консензус меѓу научниците и не може сигурно да се предвиди дали или кога би можело да се развие систем способен за таков исход.
Anthropic: Ризиците се реални, но работиме на заштита
Anthropic соопшти дека отсекогаш отворено зборувал и за потенцијалните придобивки и за ризиците од ВИ.
Компанијата вели дека развива безбедносни механизми, ги тестира моделите во обиди да открие опасно или непредвидливо однесување и ги објавува резултатите за да овозможи надворешна проверка.
Од Anthropic велат дека индустријата би имала корист од „законски и проверлив“ систем преку кој компаниите би го координирале темпото на пуштање нови, помоќни модели.
Компанијата претходно соопшти дека задржала еден од своите понапредни модели од поширока употреба поради безбедносни ризици откриени при тестирањето.
OpenAI, исто така, забавил дел од развојот на понов систем поради загриженост поврзана со сајбер-безбедноста.
Силиконската долина не е единствена
Дел од технолошките лидери ги отфрлаат сценаријата за уништување на човештвото како претерани.
Извршниот директор на Nvidia, Џенсен Хуанг, во минатото ја нарече идејата дека ВИ ќе биде „крај на човештвото“ бесмислена.
Шефот на платформата Hugging Face, Клеман Деланг, исто така ја доведе во прашање тежината што треба да им се даде на проценките на Коксон, иако подоцна изрази подготвеност да учествува во разговори за безбедносни решенија.
Критичарите на алармантните предупредувања дополнително тврдат дека големите компании може да имаат комерцијален интерес во посилна регулација, бидејќи високите трошоци за усогласување би можеле да им отежнат на помалите конкуренти да влезат на пазарот.
Обама бара политичка рамка
Дебатата веќе се префрла и во американската политика.
Поранешниот американски претседател Барак Обама предупреди дека ВИ може да стане „опасна“ доколку не биде правилно управувана, објави Ројтерс, повикувајќи се на „Њујорк тајмс“.
На приватен настан за собирање средства, Обама рекол дека технологијата се развива многу брзо и главно во приватниот сектор.
Тој го повикал лидерот на демократите во Претставничкиот дом, Хаким Џефрис, да подготви поширока рамка за јавна дебата околу ВИ доколку демократите ја преземат контролата врз Домот на изборите во ноември.
Обама, исто така, смета дека кандидатите на претседателските избори во 2028 година треба да имаат јасен план за безбедносните и економските последици од ВИ.
Од технолошко прашање кон политички ризик
Главната поделба во индустријата повеќе не е околу тоа дали ВИ треба да продолжи да се развива, туку колку брзо и под каква контрола.
Оптимистите гледаат можност за забрзување на медицинските истражувања, продуктивноста и научните откритија. Скептиците предупредуваат дека истите способности може да се искористат за сајбер-напади, автономни системи, манипулација или активности што луѓето повеќе не можат лесно да ги контролираат.
Засега нема научен консензус дека ВИ се приближува до сценарио во кое би можела да го загрози опстанокот на човештвото.
Но фактот дека таквите предупредувања сега доаѓаат од самите компании што ја предводат глобалната ВИ-трка ја претвора дебатата од технолошка расправа во прашање на политика, национална безбедност и меѓународна регулација.