Британско-канадскиот научник Џефри Хинтон, добитник на Нобеловата награда и еден од пионерите на современата вештачка интелигенција, предупреди дека човештвото можеби ќе открие оти би било подобро никогаш да не ја развило оваа технологија.
Во интервју за британскиот „Гардијан“, 78-годишниот научник изјави дека вештачката интелигенција има потенцијал да донесе огромен напредок, но и да предизвика сериозни економски, општествени и безбедносни последици.
„Можеби ќе се покаже дека ќе ни беше подобро никогаш да не ја развиевме“, изјави Хинтон.
Тој предупреди дека голем инцидент предизвикан или овозможен од вештачката интелигенција би можел да се случи до крајот на 2026 или во текот на 2027 година.
Како можни сценарија ги наведе нападите врз електроенергетската инфраструктура и финансискиот систем, кои би можеле да предизвикаат масовни прекини во снабдувањето со електрична енергија или привремена блокада на банкарските услуги.
„Чернобил“ на вештачката интелигенција
Хинтон ги спореди неодамнешните инциденти поврзани со автономни системи за вештачка интелигенција со раните предупредувања за опасностите од нуклеарната технологија.
Според него, настаните во кои системи со вештачка интелигенција покажале ризично однесување потсетуваат на нуклеарниот инцидент во американската електрана Три Мајл Ајленд во 1979 година.
Тој предупреди дека следниот сериозен инцидент би можел да биде споредлив со Чернобил според вниманието што би го предизвикал во јавноста.
Хинтон појасни дека не мисли на нуклеарна катастрофа, туку на потенцијално голем технолошки инцидент што би можел да ги натера владите да преземат построги мерки за контрола.
Како пример наведе напад врз електроенергетскиот систем или инцидент што би го прекинал функционирањето на финансискиот систем во период од една недела.
Станува збор за предупредувања и можни сценарија, а не за потврдени прогнози дека такви настани сигурно ќе се случат.
Хинтон ги обвинува технолошките лидери дека го потценуваат ризикот
Нобеловецот упати остри критики кон раководителите на некои од најголемите компании што развиваат вештачка интелигенција.
Тој ги спомена извршниот директор на „ОпенАИ“, Сем Алтман, основачот на „Мета“, Марк Закерберг, и сопственикот на „Икс“ и компанијата „xAI“, Илон Маск.
Хинтон смета дека раководителите на овие компании се свесни за ризиците, но дека комерцијалната конкуренција и потенцијалната заработка имаат предност пред безбедноста.
Особено ја критикуваше улогата на Алтман во развојот на најмоќните модели на вештачка интелигенција.
Неговите оценки се лични ставови за одговорноста на технолошката индустрија, а не утврдени факти за намерите на споменатите директори.
Алтман претходно изјави дека јавноста треба да има доверба дека компанијата ќе постапува одговорно, бидејќи ја разбира големината на предизвиците поврзани со технологијата.
За десет години ќе се знае дали човештвото успеало
Хинтон смета дека во следната деценија, а можеби и порано, ќе стане појасно дали човештвото ќе успее да ги контролира ризиците од вештачката интелигенција.
Тој опишува две можни насоки на развој.
Во првата, технологијата ќе овозможи значително зголемување на продуктивноста, научни откритија и подобрување на животниот стандард.
Во втората, нејзиниот неконтролиран развој би можел да доведе до масовна невработеност, продлабочување на разликите меѓу богатите и сиромашните и сериозни општествени поделби.
Според него, иднината ќе зависи од тоа дали владите и компаниите навреме ќе воспостават ефикасни механизми за безбедност и надзор.
Бара контрола како кај лековите
Хинтон предложи најмоќните системи за вештачка интелигенција да подлежат на задолжително независно тестирање пред да бидат пуштени во јавна употреба.
Според него, потребен е регулаторен модел сличен на оној што се применува при одобрувањето нови лекови.
Компаниите, смета тој, треба да достават уверливи статистички докази дека придобивките од нивните модели ги надминуваат потенцијалните штети.
Тој предупреди дека постапувањето дури откако ќе настане сериозна штета не е соодветен начин за регулирање на технологии со потенцијално големи последици.
Хинтон поддржува меѓународни стандарди за тестирање и независно оценување на најнапредните системи за вештачка интелигенција.
Такви мерки поддржуваат и повеќе држави, меѓу кои Германија, Канада, Австралија и Сингапур.
Судир со пристапот на Трамп
Предупредувањето на Хинтон доаѓа во време на засилена конкуренција меѓу САД и Кина за развој на најмоќните системи за вештачка интелигенција.
Американскиот претседател Доналд Трамп се спротивставува на воспоставување глобална регулаторна рамка што би ја ограничила американската технолошка индустрија.
Хинтон, напротив, смета дека меѓународната соработка е неопходна за спречување сериозни инциденти.
Тој предупреди дека владите можеби ќе ја сфатат сериозноста на опасностите дури откако ќе се случи голем технолошки неуспех.
Од пионер на технологијата до предупредувач за нејзините опасности
Хинтон е меѓу научниците чии истражувања на вештачките невронски мрежи ги поставија темелите на денешните системи за машинско учење.
Тој помина повеќе децении развивајќи технологии што овозможуваат компјутерите да препознаваат обрасци, да учат од податоци и да решаваат сложени задачи.
Во 2023 година ја напушти компанијата „Гугл“, објаснувајќи дека сака слободно да зборува за ризиците од брзиот развој на вештачката интелигенција.
Во 2024 година ја доби Нобеловата награда за физика заедно со американскиот научник Џон Хопфилд, за нивните придонеси во развојот на машинското учење со вештачки невронски мрежи.
Неговите најнови изјави беа дадени пред прикажувањето на документарниот филм „AI: Probably Nothing to Worry About“, во кој се појавува заедно со Демис Хасабис, извршниот директор на „Гугл Дипмајнд“.
И покрај сериозните предупредувања, Хинтон не смета дека негативното сценарио е неизбежно.
Тој верува дека човештвото сè уште има можност да го насочи развојот на технологијата кон позитивни резултати, но само доколку се вложат значителни напори во нејзината безбедност и контрола.