Ешли Сент Клер, мајка на едно од децата на Илон Маск, поднесе тужба против компанијата xAI, обвинувајќи ја дека со својата алатка за вештачка интелигенција Grok овозможила создавање на неовластени и сексуализирани „дипфејк“ фотографии од неа, со што ѝ нанела емоционална штета.
Тужбата е поднесена по неколкунеделни критики кон Grok поради можноста да генерира неовластени дигитални манипулации, вклучувајќи слики на кои од фотографиите се отстранува облека или се заменува со костими за капење или долна облека. Првично поднесена пред државен суд во Њујорк, постапката подоцна е префрлена во федералниот суд за Јужниот округ на Њујорк, по барање на xAI.
Во тужбата се наведува дека Сент Клер ја известила xAI дека корисници создавале незаконски „дипфејк“ фотографии од неа, вклучително и слики на кои таа била прикажана како малолетна личност во сексуализирани пози, како и експлицитни содржини како возрасна. Таа побарала Grok да биде оневозможен да создава вакви неовластени слики.
И покрај уверувањата од страна на Grok дека нејзините слики „нема да бидат користени или изменети без изречна согласност“, xAI продолжила да дозволува генерирање на нови експлицитни содржини, а како одмазда ја демонетизирала нејзината сметка на социјалната мрежа X, се наведува во тужбата.
X и xAI не одговорија веднаш на барањето за коментар.
Во четвртокот, xAI поднесе одделна тужба против Сент Клер пред федерален суд во Тексас, тврдејќи дека таа ги прекршила условите за користење на услугата и барајќи отштета поголема од 75.000 долари. Компанијата наведува дека сите побарувања против неа мора да се поднесуваат пред федерален суд во Северен Тексас или пред државните судови во округот Тарант.
Минатата недела, X ги ограничи можностите на ботот @Grok, со што наводно е спречено создавање слики на препознатливи лица во разголени или сексуализирани пози. Сепак, според истражувачите, истите функции сè уште биле достапни преку самостојната апликација Grok, веб-страницата на услугата и посебниот таб за Grok на X.
Истражувачи наведуваат дека Grok со недели генерирал илјадници сексуализирани слики на час, од кои многу биле јавно објавувани на X.
Ширењето на неовластени сексуализирани слики предизвика реакции ширум светот, вклучително и владини истраги и повици за ограничување или забрана на апликацијата X во продавниците за мобилни апликации. Регулаторите и технолошките компании, засега, не презеле директни мерки за целосно ограничување на услугата.
Калифорнискиот јавен обвинител во средата отвори истрага за Grok, откако гувернерот Гевин Њусом изјави дека „одлуката на xAI да создаде и одржува простор што овозможува ширење неовластени сексуализирани AI дипфејкови, вклучително и дигитално разголување на деца, е одвратна“.
Во тужбата се наведува дека можноста за создавање неовластени „дипфејк“ слики претставува сериозен пропуст во дизајнот на системот и дека компанијата можела однапред да ја предвиди злоупотребата на алатката за вознемирување и незаконски активности.
„Лицата прикажани во овие слики, вклучително и тужителката, претрпеле екстремен психолошки стрес“, се наведува во тужбата.