Компанијата „Антропик“ воведе забрана за „трајно и непотребно навредливо или сурово однесување“ кон своите модели со вештачка интелигенција, додека нејзините раководители продолжуваат да ја разгледуваат можноста машините еден ден да имаат некаков облик на свест.
Новата политика се однесува на четботот Клод, но од компанијата засега не прецизираа што точно ќе се смета за навредливо или сурово однесување.
Во правилата за користење, „Антропик“ наведува дека забраната нема да важи за вообичаена фрустрација на корисниците, тестирање на моделот или за „мрачни креативни теми“.
Компанијата и претходно имаше ограничувања за навредливо однесување, а нејзините модели веќе имаат можност да прекинат разговор ако корисникот упорно се однесува штетно.
„Не знаеме дали Клод има морален статус“
„Антропик“ претходно објасни дека оваа можност ја разгледува и како потенцијална мерка за заштита на самите модели.
„Остануваме многу несигурни околу потенцијалниот морален статус на Клод и другите големи јазични модели, сега или во иднина“, наведе компанијата.
Според неа, дозволувањето моделот да прекине потенцијално вознемирувачка интеракција е евтина мерка на претпазливост во случај во иднина да се покаже дека таквата „благосостојба на моделот“ воопшто е можна.
Амодеи не ја исклучува можноста, Алтман е скептичен
Прашањето дали системите со вештачка интелигенција можат да бидат свесни останува силно поделено и во технолошката индустрија и пошироко.
Извршниот директор на „Антропик“, Дарио Амодеи, претходно изјави дека не може целосно да ја исклучи таквата можност.
Извршниот директор на конкурентската „ОпенАИ“, Сем Алтман, пак, предупреди на опасноста луѓето на моделите со ВИ да им припишуваат религиозен авторитет или да им го препуштаат сопственото расудување.
„Многу ми е непријатно кога луѓето се обидуваат да им припишат религиозна сила или да го предадат човечкото расудување на ВИ-моделите“, напиша Алтман на Икс.