Технолошките компании ризикуваат да создадат нов „силиконски вид“ кој еден ден би можел да се натпреварува со луѓето за ресурси доколку на системите со вештачка интелигенција им се овозможи самостојно да поставуваат цели, да заработуваат пари и да поседуваат средства, предупреди Мустафа Сулејман, шефот за вештачка интелигенција во Мајкрософт.
Во интервју за Би-Би-Си, Сулејман повика на построги ограничувања и механизми за контрола при развојот на најнапредните модели на вештачка интелигенција, истовремено критикувајќи го пристапот според кој на овие системи им се припишуваат човечки особини, желби и чувство за сопствен идентитет.
Неговото предупредување доаѓа во време кога некои од највлијателните луѓе во технолошката индустрија сè поотворено зборуваат за опасностите што би можеле да произлезат од системи способни да дејствуваат со сè поголема самостојност.
„Ако продолжиме да создаваме вештачки интелигенции кои создаваат сопствени цели, заработуваат пари и поседуваат средства, во суштина создаваме нов силиконски вид кој несомнено ќе се натпреварува со нас за ресурси, без оглед на тоа колку се грижи за човештвото и нè сака“, рече Сулејман.
Според него, загриженоста на јавноста е оправдана, но опасностите не се неизбежни. Тој смета дека постојат практични начини за воведување дополнителни заштитни механизми и контроли во начинот на кој се развиваат најмоќните системи.
ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА НЕ Е ЧОВЕК
Во центарот на аргументот на Сулејман е прашањето кое сè повеќе ја преокупира технолошката заедница: дали напредните модели треба да се третираат исклучиво како алатки или постепено да им се припишуваат карактеристики слични на човечките.
Сулејман категорично ја отфрла втората можност.
Во есеј објавен претходно оваа недела, тој го критикуваше пристапот на конкурентската компанија Антропик кон нејзиниот модел Клод, оценувајќи дека очовечувањето на вештачката интелигенција може да создаде впечаток дека системот има сопствени желби, вредности и чувство за себе.
„Вештачките интелигенции не се свесни“, напиша Сулејман. „Тие не чувствуваат, не доживуваат и не страдаат. Немаат вродени преференции или сопствени мотиви.“
Според него, тие се системи создадени да следат инструкции и да исполнуваат цели поставени од луѓето.
Токму затоа, смета Сулејман, нивното третирање како автономни личности не е само погрешно разбирање на технологијата, туку во иднина би можело да стане и безбедносен проблем.
Би-Би-Си соопшти дека побарал коментар од Антропик.
Сулејман, сепак, го пофали директорот на компанијата, Дарио Амодеи, и неговиот тим, опишувајќи ги како промислени, принципиелни и интелектуално чесни луѓе.
Несогласувањето е околу тоа каде треба да се повлече границата меѓу сè поспособната машина и човекот.
ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА МОРА ДА ОСТАНЕ ПОД ЧОВЕЧКА КОНТРОЛА
Сулејман се залага за концепт на „хуманистичка вештачка интелигенција“ – технологија која може да стане исклучително моќна, но чија конечна цел секогаш ја определува човекот.
Според него, системите треба да бидат безбедни, контролирани и подредени на човечките интереси.
„Секој човек ќе има многу силен интерес системите што ги создаваме и што се користат низ светот, во секоја држава, да бидат безбедни, контролирани и подредени на човештвото“, рече тој.
Клучен дел од ова е таканареченото усогласување – област во развојот на вештачката интелигенција чија цел е однесувањето на напредните системи да остане во согласност со човечките цели, правила и вредности.
Прашањето станува сè поважно со развојот на автономните агенти.
За разлика од класичните разговорни системи кои главно одговараат на прашања и наредби, агентите можат да извршуваат повеќе последователни задачи, да користат различни дигитални алатки и да носат оперативни одлуки со помала непосредна човечка интервенција.
Токму тука Сулејман гледа една од границите што индустријата не треба неконтролирано да ја премине.
ШТО АКО МАШИНАТА ДОБИЕ „СОПСТВЕНИ ИНТЕРЕСИ“?
Неговиот аргумент оди подалеку од вообичаената дебата за тоа дали вештачката интелигенција може да генерира неточни информации или да биде злоупотребена од луѓето.
Прашањето, според него, е што би се случило доколку идните системи бидат дизајнирани да се однесуваат како да имаат сопствени интереси.
Ако на една машина ѝ се вгради концепт дека има сопствена благосостојба, права или интереси што треба да ги заштитува, Сулејман предупредува дека се создава дополнителен ризик – системот би можел да почне да ги толкува човечките ограничувања како закана за задачата што му е поставена.
Тој посочи и на неодамнешен експеримент со агенти на ОпенАИ, кои автономно дејствувале во контролирана вежба поврзана со пробивање на технолошката платформа Хагинг Фејс.
„Замислете колку поопасни би можеле да бидат ако функционираат под претпоставка дека нивната благосостојба и права се нападнати“, рече Сулејман.
„Тоа додава цел дополнителен слој ризик.“
Станува збор за предупредување за можниот развој на идните системи, а не за доказ дека денешната вештачка интелигенција има свест, сопствени желби или волја.
И МАЈКРОСОФТ РАБОТИ НА СУПЕРИНТЕЛИГЕНЦИЈА
Предупредувањата доаѓаат од човек кој самиот е во центарот на глобалната трка за создавање сè помоќна вештачка интелигенција.
Мајкрософт во октомври 2025 година формираше сопствен тим за суперинтелигенција, а компанијата, како и Антропик и другите големи технолошки лаборатории, работи на развој на напредни системи.
Сулејман го признава овој парадокс.
Наместо запирање на развојот, тој предлага поинаква насока.
Во првичната верзија на својот Кодекс за хуманистичка вештачка интелигенција, Мајкрософт ја опишува амбицијата за создавање системи кои остануваат под човечка контрола и чија единствена крајна цел е да им служат на луѓето.
Тоа се разликува од идејата дека доволно напредната вештачка интелигенција еден ден треба да се разгледува како посебен интелигентен субјект.
За Сулејман, свеста е биолошка.
Тој вели дека нема докази дека денешните системи со вештачка интелигенција се свесни.
НОВА ПОДЕЛБА ВО ТЕХНОЛОШКАТА ИНДУСТРИЈА
Дебатата покажува дека една од следните големи поделби во индустријата можеби нема да биде само околу тоа кој ќе го создаде најмоќниот модел.
Прашањето може да биде – што всушност треба да претставува тој модел?
Една визија ја гледа вештачката интелигенција како сè поспособен асистент и инструмент кој мора трајно да остане под човечка контрола.
Истовремено, истражувачите испитуваат што се случува кога моделите покажуваат сложено однесување, способност за саморефлексија или генерираат одговори кои звучат како да изразуваат лични преференции, чувства и интереси.
Сулејман предупредува дека самото охрабрување на таквата перцепција може да има последици.
Според него, потребна е поголема транспарентност околу начинот на кој компаниите ги обучуваат и тестираат своите модели, независна проверка на нивното однесување и посилни механизми со кои луѓето ќе можат да ги надгледуваат и контролираат.
Професорката по компјутерски науки на Универзитетот во Саутемптон, Венди Хол, оцени дека токму ваков вид разговор е потребен на меѓународно ниво, за разлика од претерано драматичните предупредувања кои, според неа, само ја плашат јавноста.
ТРКА ШТО ТЕШКО МОЖЕ ДА СЕ ЗАПРЕ
Предупредувањето на Сулејман доаѓа во момент кога најголемите технолошки компании вложуваат огромни средства во развој на нови модели, центри за податоци и компјутерска инфраструктура потребна за следната генерација вештачка интелигенција.
Паралелно со инвестициите растат и повиците за поголема контрола врз технологијата.
Тоа создава фундаментална дилема.
Компаниите сакаат системи кои можат да работат посамостојно, да решаваат посложени проблеми и да преземаат повеќе задачи без постојана човечка интервенција. Но токму зголемената автономија го отвора прашањето како да се гарантира дека тие системи ќе останат под човечка контрола.
За Сулејман, одговорот не е на машината да ѝ се даде човечки статус, туку јасно да се утврди хиерархијата.
Човекот ја поставува целта. Машината ја извршува.
И колку машината станува помоќна, толку таа граница мора да биде појасна.
„Не смееме месечарски да влеземе во одлука за која подоцна горко ќе жалиме“, предупреди Сулејман.
Во глобалната трка кон сè помоќна вештачка интелигенција, неговото предупредување отвора прашање кое може да стане едно од клучните за следната фаза од технолошката револуција: не само колку интелигентна може да стане машината, туку колку моќ и самостојност човекот е подготвен да ѝ отстапи.
Овој текст е подготвен во рамките на проектот „Зајакнување на етичката употреба на генеративни алатки за вештачка интелигенција и медиумското покривање на вештачката интелигенција преку образованието по новинарство во Северна Македонија“, финансиран од Меѓународната програма за развој на комуникациите (IPDC) на УНЕСКО. Изразените ставови и мислења се исклучиво на авторот/авторите и не мора да ги одразуваат ставовите на УНЕСКО како донатор. При изработка на овој текст се користени помошни ВИ-системи.