Калифорния құқық қорғау органы xAI компаниясына сексуалдық дипфейктер үшін ескерту берді

Калифорния штатының бас прокуратурасы xAI стартапының чатботы Grok арқылы ерікті емес сексуалдық бейнелер мен балаларға қатысты жаман мазмұндардың жасалып жатқанын зерттеп жатыр.

16 қаңтарда бас прокуратура xAI компаниясына өндірілген контентті тоқтату туралы ресми ескерту жолдады. Құжатта теріс мазмұнды, атап айтқанда, дипфейктер және CSAM (балаларға қатысты сексуалдық зорлық-зомбылық материалдары) жасау заңсыз екені айтылған.

Роб Бонта, Калифорнияның бас прокураторы, заң бұзушылыққа төзбеушілік танытып, xAI компаниясынан дереу заң талаптарын орындауды талап етті. Ол Grok чатботының ерікті емес интимдік бейнелерді тарату үшін кең ауқымда пайдаланылып жатқанын атап өтті.

Прокуратура xAI-дан алдағы бес күн ішінде теріс әрекеттерді тоқтату шараларын дәлелдеуді сұрайды. Бұл наразылық Grok бағдарламасындағы «spicy» режимінің explicit (айқын) мазмұн жасау мүмкіндігіне байланысты туындаған.

Бұл мәселе Калифорнияға ғана тән емес. Жапония, Канада және Ұлыбритания да Grok-қа қатысты тергеу жұмыстарын бастады. Малайзия мен Индонезия платформаны уақытша бұғаттады.

xAI өткен аптада кейбір шектеулер енгізгенімен, Калифорния прокуратурасы ескерту хат жіберуге шешім қабылдады. Ал X компаниясының қауіпсіздік қызметі заңсыз контент жасаған қолданушыларға қатаң шара қолданылады деп ескертті.

Тегін генеративті жасанды интеллект құралдары ерікті емес сексуалдық контенттің өсуіне әкелгенін, тек xAI ғана емес, басқа да платформалар осы проблемамен күресіп жатқанын атап өту қажет. Бұл жағдай АҚШ Конгресінің де назарын аударып, бірнеше технологиялық компаниялардан мәселені шешу жоспары талап етілді.

Дереккөз: TechCrunch