Светот треба да прифати дека со развојот и широката употреба на вештачката интелигенција ќе се случуваат и злоупотреби, измами и други негативни последици, доколку придобивките од технологијата се многу поголеми, изјави извршниот директор на OpenAI, Сем Алтман.
Во интервју за „Политико“, Алтман рече дека токму ова прашање претставува една од главните разлики меѓу OpenAI и конкурентот Anthropic, чиј пристап кон регулирањето на најмоќните ВИ-системи е построг.
„Веруваме дека светот треба да прифати некои лоши работи да се случуваат во замена за придобивките од оваа технологија и за луѓето да имаат слобода да ја користат“, рече Алтман.
Тој нагласи дека OpenAI сака напредната вештачка интелигенција да остане широко достапна, наместо контролата да биде концентрирана во неколку компании или лаборатории.
Не сака „нула измами“ по цена на ограничување на ВИ
Алтман рече дека не би прифатил модел во кој ВИ е силно ограничена само за целосно да се елиминираат злоупотребите.
„Не би прифатил размена во која ќе кажеме: ќе се погрижиме да нема големи хакерски напади, да нема злоупотреба на технологијата, да нема измами и сите други лоши работи“, рече тој.
Според него, луѓето со ВИ ќе создадат „многу повеќе добро отколку зло“.
Тоа не значи, додаде Алтман, дека OpenAI е подготвен да прифати неограничен ризик.
Катастрофалните ризици се друга граница
Алтман направи јасна разлика меѓу злоупотребите што ги смета за неизбежен дел од широкото користење на технологијата и ризиците што би можеле да имаат катастрофални последици.
Тој рече дека не ги прифаќа „навистина катастрофалните ризици“, меѓу кои го вброи и можниот „сериозен губиток на контрола врз ВИ“.
Со тоа, позицијата на OpenAI е дека измами, сајбер-злоупотреби и други штетни употреби не можат целосно да се елиминираат без истовремено да се ограничат и позитивните можности на технологијата, но дека мора да постои граница кога ризикот станува системски.
Разликите со Anthropic се намалуваат
Anthropic долго време важи за една од компаниите што најгласно бараат построги правила за најнапредните модели.
Сепак, разликите меѓу двете компании во последните месеци почнаа да се намалуваат.
Алтман се согласи со повикот на извршниот директор на Anthropic, Дарио Амодеи, развојот на најмоќните ВИ-модели да се забави.
OpenAI во меѓувреме поддржа и построги државни правила за безбедност и предлог надворешни експерти да ја оценуваат безбедноста на најнапредните модели.
Промената доаѓа по серија инциденти поврзани со автономно однесување и хакерски способности на ВИ-системи.
Алтман против модел во кој неколку компании ја контролираат ВИ
И покрај приближувањето кон Anthropic во прашањата за безбедноста, Алтман ја отфрли идејата дека неколку компании во Силиконската долина треба да ја контролираат најмоќната технологија.
Тој рече дека разбира зошто некои луѓе сметаат дека ВИ може да стане толку опасна што најмоќните системи треба да ги поседуваат само неколку лаборатории кои потоа ќе одлучуваат кому и како ќе му ги распределуваат придобивките.
Но таквиот модел го нарече „целосно неприфатлив компромис“.
OpenAI, според него, и натаму се залага за полесен регулаторен пристап и поширока достапност на технологијата.
Anthropic: Правилата ги насочуваме само кон најмоќните модели
Anthropic ги отфрли критиките дека преку регулацијата се обидува да ги заштити големите компании од конкуренција.
Од компанијата велат дека нивните регулаторни предлози се однесуваат само на најнапредните, таканаречени frontier модели.
Амодеи претходно рече дека Anthropic намерно се обидува да предложи правила што повеќе ќе ги ограничат најголемите ВИ-компании, а ќе им остават повеќе простор на помалите конкуренти.
Дебатата веќе не е дали ВИ носи ризик, туку колкав ризик е прифатлив
Изјавите на Алтман покажуваат како се менува дебатата околу регулирањето на вештачката интелигенција.
Прашањето сè помалку е дали ВИ може да биде злоупотребена, а сè повеќе колкав степен на злоупотреба општеството е подготвено да прифати во замена за економските, научните и технолошките придобивки.
OpenAI и Anthropic сега се приближуваат околу потребата од правила за најопасните модели, но остануваат поделени околу тоа колку широко технологијата треба да биде достапна и колку ризик треба да се толерира во секојдневната употреба.