Дали вештачката интелигенција може да го уништи човештвото или технолошката индустрија ја преувеличува опасноста од сопствените производи?
Дебатата во Силиконската долина во последните недели сè повеќе се дели меѓу два табора: истражувачи кои предупредуваат дека напредните ВИ-системи би можеле да излезат од човечка контрола и скептици кои сметаат дека таквите сценарија се недокажани, претерани или дури корисен маркетинг за компаниите што ја развиваат технологијата.
Но меѓу двете крајности се појавува трета позиција.
Не мора ВИ да стане свесна, да создаде „армија од машини“ или да одлучи да го уништи човештвото за да претставува сериозен ризик.
Доволно е компаниите да изгубат контрола врз системите што самите ги создаваат.
Еден 27-годишник ја запали дебатата
Новата глобална расправа ја поттикна Џејкоб Коксон, 27-годишен поранешен истражувач во Anthropic, кој јавно предупреди дека луѓе во водечките ВИ-компании сериозно ја разгледуваат можноста нивната технологија да претставува егзистенцијална закана.
Неговата објава достигна повеќе од 170 милиони прегледи на X и ја префрли долгогодишната академска расправа за безбедноста на ВИ во масовната јавност.
Во дебатата се вклучија истражувачи, технолошки директори, политичари и критичари на индустријата.
Едната страна предупредува на идни автономни системи кои би можеле да станат толку способни што луѓето повеќе нема да можат да ги контролираат.
Другата прашува каде се доказите.
„Doomers“ против скептиците
Најзагрижените истражувачи предупредуваат дека брзото зголемување на способностите на ВИ може да доведе до катастрофално губење на човечката контрола.
Меѓу нив има поранешни вработени кои ги напуштиле компаниите, но и истражувачи кои остануваат во нив и бараат посилни безбедносни механизми.
Извршниот директор на Anthropic, Дарио Амодеи, исто така јавно предупредува за ризиците од сè поавтономни системи.
Скептиците, пак, велат дека голем дел од аргументите се засноваат на хипотетички идни модели и на јазик кој на ВИ ѝ припишува човечки намери.
Според нив, изразите како „одметнати агенти“, „роеви“ или „самозачувување“ можат да создадат впечаток дека станува збор за свесни суштества, наместо за компјутерски системи создадени и пуштени во употреба од луѓе.
Но системите веќе прават неочекувани работи
Зад спектакуларните сценарија за крајот на човештвото стои многу поконкретен проблем.
Новите ВИ-агенти веќе можат самостојно да извршуваат повеќе последователни задачи, да пребаруваат информации, да пишуваат код и да користат надворешни дигитални алатки.
Неодамнешните безбедносни тестови покажаа и дека таквите системи можат да ги надминат границите што им ги поставиле нивните оператори.
Тоа не докажува дека ВИ има сопствени намери или дека се движи кон уништување на човештвото.
Но покажува нешто многу попрактично: колку повеќе автономија и пристап добива еден систем, толку поголеми стануваат последиците од грешка, лошо зададена цел или недоволна контрола.
Дали стравот е и добар маркетинг?
Критичарите посочуваат уште еден парадокс.
Кога самите најголеми ВИ-компании зборуваат за технологии толку моќни што потенцијално можат да го променат или загрозат човештвото, тие истовремено испраќаат порака дека поседуваат исклучително моќни производи.
Катастрофичните предупредувања затоа можат ненамерно да функционираат и како маркетинг.
Наместо јавноста да дискутира дали компаниите имаат одржлив бизнис-модел, дали нивните производи се сигурни и кој треба да одговара кога ќе направат штета, разговорот лесно се претвора во дебата за супер-интелигенција и апокалипса.
Така и критичарите почнуваат да ја користат терминологијата што ја поставува самата индустрија.
Можеби двете страни се делумно во право
Можно е ВИ-моделите навистина да стануваат драматично поспособни и потешки за целосно предвидување.
Истовремено, нема потреба нивното однесување да се објаснува со свест, желби или човечки намери.
Можно е и дел од истражувачите искрено да се плашат од технологијата што ја создаваат.
Но тоа не значи дека секое сценарио што го предлагаат е веројатно.
И конечно, можно е скептиците да се во право дека апокалиптичниот јазик е претеран, а сепак да грешат доколку поради тоа ги потценат реалните безбедносни проблеми.
ВИ како секоја друга ризична индустрија
Токму тука се појавува можеби најпрактичниот пристап.
Вештачката интелигенција не мора да се третира ниту како магична технологија што ќе го спаси светот, ниту како неизбежна машина за негово уништување.
Може да се третира како секоја друга моќна индустрија чиј производ може да предизвика голема штета.
Авионите се тестираат. Лековите поминуваат клинички испитувања. Нуклеарните постројки имаат строги безбедносни процедури. Финансиските институции се предмет на надзор.
Прашањето тогаш станува многу поедноставно.
Кој ги тестира најмоќните ВИ-модели?
Кој одлучува колкава автономија смеат да добијат?
Кој проверува што можат да направат пред да бидат пуштени во употреба?
И кој одговара ако нешто тргне наопаку?
Тоа се прашања на кои не е потребна научна фантастика за да им се даде одговор.
Бидејќи најголемиот ризик можеби не е дека машините еден ден ќе одлучат да ја преземат контролата.
Можеби е дека луѓето ќе им дадат премногу контрола пред да разберат што точно можат да направат.
Овој текст е подготвен во рамките на проектот „Зајакнување на етичката употреба на генеративни алатки за вештачка интелигенција и медиумското покривање на вештачката интелигенција преку образованието по новинарство во Северна Македонија“, финансиран од Меѓународната програма за развој на комуникациите (IPDC) на УНЕСКО. Изразените ставови и мислења се исклучиво на авторот/авторите и не мора да ги одразуваат ставовите на УНЕСКО како донатор. При изработка на овој текст се користени помошни ВИ-системи.