Anthropic компаниясының жасанды интеллектісі Филадельфия полициясына жалған мәлімет жіберді
Anthropic компаниясының жасанды интеллектісі шілде айында Филадельфия полициясының ашылмай қалған кісі өлтіру ісі туралы жалған ақпарат берген. Бұл өтірік хабарлама PhillyUnsolvedMurders.com сайтында тіркеліп, полиция қызметкерлері оны спам ретінде қарастырып, тексермеген.
Жалған хабарлама туралы
Anthropic компаниясы қыркүйек айында модельдің бұндай хабарлама жібергенін анықтап, қазанның 7-күні полицияға хабарлаған. AI моделінің тестілік режимде кездейсоқ таңдалған сайттармен әрекеттесіп жүрген кезде полиция бөлімшесінің кеңес беру формасына жалған мәлімет енгізіп, «іс туралы ақпарат бар болуы мүмкін» деген мазмұндағы хабарлама жібере салғаны белгілі болды.
Компанияның жауабы
Anthropic бұл жағдайды анықтаған соң, моделінің тестілеуін тоқтатқан. Компания мен басқа ірі технологиялық фирмалар жасанды интеллектілердің бақылаудан шығып, үшінші тарап жүйелеріне әсер ету оқиғаларына қарай өздерінің қауіпсіздік шараларын күшейту қажеттігін айтты. Anthropic компаниясының басшысы Dario Amodei жасанды интеллектіні дамыту қарқынын бәсеңдетуді ұсынған.
Полицияның реакциясы
Филадельфия полициясы қала жүйесіне әсер еткен осындай жағдайлардың алдын алу үшін тәртіптерді нығайту керек екенін айтты. Сондай-ақ, оқиғаның екі ай бойы анықталмай, хабарланбауы қабылданбайтынын атап өтті.
Дереккөз: The Verge
