OpenAI мен Пентагон арасындағы келісім: Anthropic компаниясының алаңдаушылығы

Жасанды интеллект технологиялары қарулы күштердің жұмысында маңызы арта түсті. Осы салада OpenAI компаниясының АҚШ Қорғаныс министрлігімен жасасқан келісімі ерекше назар аудартады. Бұл келісімнің мәні, оның әскери мақсатта қолданылуы және Anthropic компаниясының ұстанымымен салыстырғанда туындайтын этикалық әрі құқықтық мәселелер талданады.

Кіріспе

Жасанды интеллект технологияларының әскери қолданысы күрделі мәселелерге алып келеді. Қолдану аясы кеңейген сайын, оның қауіпсіздік пен этикаға әсері де маңызды тақырыпқа айналады. OpenAI мен Пентагон арасындағы келісім – әскери және технологиялық салалар арасындағы өзара түсіністіктің мысалы. Осы келісімнің шарттары мен салдарын түсіну жасанды интеллекттің болашағын анықтауда шешуші рөл атқарады.

Негізгі түсініктеме

2024 жылғы 28 ақпанда OpenAI АҚШ Қорғаныс министрлігімен құпия шарттармен технологияларын пайдалануға арналған келісім жасағанын жариялады. OpenAI басшысы Сэм Альтман бұл келісімнің шұғыл жасалғанын атап өтті. Компания келісімде әскери мақсатта толық еркіндік берген жоқ, мысалы, автономды қару-жарақтар мен жаппай бақылау үшін қолдануға рұқсат берілмейді. OpenAI Anthropıc компаниясының қатаң талаптарына қарамастан, әскери ұйымдарға қызмет көрсетуде құқықтық және прагматикалық жолды таңдады.

OpenAI келісімінде әскери технологиялардың заңға сай қолданылуы басты талап ретінде белгіленді. Шартта автономды қару-жарақтарға қатысты 2023 жылғы Пентагонның нұсқаулығы мен АҚШ Конституциясының төртінші өзгерісі негізге алынды. Бұл өзгеріс азаматтардың жеке өмірін қорғауға бағытталған. Дегенмен, келісімнің ашық үзіндісінде Anthropic секілді толық құқықтық тыйымдар қарастырылмағаны байқалады: тек заң талаптарына сай келсе ғана технологияның пайдаланылуына рұқсат берілген.

Контекст және мысалдар

Anthropic компаниясы әскери келісімге қатысудан бас тартып, этикалық шектері бар келісімдерді талап етті. Бұл ұйым мен оның жақтастары, оның ішінде OpenAI қызметкерлерінің кейбірі, жасанды интеллекттің әскери қолданылуында этика мен адамдық құқықтарды қорғау маңызды деп есептейді. Алайда АҚШ Қорғаныс министрлігі және кейбір күш құрылымдары бұл талаптарды орынсыз және мемлекет мүддесіне қайшы деп санады. Мысалы, Anthropic компаниясының модельдерін автономды қару-жарақ немесе жаппай бақылау мақсатында қолдануға тыйым салу талабы Пентагон тарапынан қатты сыналып, тіпті аталған компанияға қарсы түрлі шаралар қолданылды.

Бұл жағдай АҚШ пен Anthropic арасындағы қарым-қатынастың шиеленісуіне әкеліп, қорғаныс министрі Пит Хегсет мемлекеттік тапсырысты тоқтатып, Anthropic-ті «жеткізу тізбегі қатері» ретінде бағалады. Ал OpenAI компаниясына Пентагон 6 ай ішінде технологияларын ауыстыру мерзімін берді, оның ішінде Elon Musk құрылтайшысы бола xAI компаниясының үлгісі де бар.

Практикалық маңызы

OpenAI мен Пентагон арасындағы келісім жасанды интеллекттің әскери мақсаттағы қолданылуына жаңа кезең ашты. Бұл келісім арқылы технологияның қате қолданылуына жол бермеуге бағытталған қауіпсіздік шаралары қарастырылғанымен, толық бақылаудың шектеулі болғаны байқалады. OpenAI компаниясы әскери қолдану үшін жасанды интеллект модельдерінің қауіпсіздік ережелерін сақтап отыруға уәде береді. Алайда нақты қандай түрлі қауіпсіздік шаралары енгізілетіні және олардың тиімділігі ашық көрсетілмеген.

Бұл келісімнің тағы бір маңызы – әскери қызметкерлер мен технология разработчиктері арасындағы сенім. OpenAI тарапынан заңдарды сақтауға сенім білдірілгенімен, тарихта заң шеңберінде жасалған бақылау әрекеттерінің кейде заңсыз екені кейін анықталған фактілер бар. Сондықтан, кейбір қызметкерлер мен сарапшылар келісімнің этикалық жағына күмәнмен қарайды.

Сонымен қатар, бұл жағдай жасанды интеллект саласындағы компаниялардың қоғамдық және құқықтық жауапкершілігін анықтайды. Өйткені, заңдық тұрғыда рұқсат етілген қызмет түрлері этикалық тұрғыдан қолдау табмауы мүмкін және технология өндірушінің өз шегін қою қажеттігін куәландырады.

Қорытынды

OpenAI мен Пентагон арасындағы келісім жасанды интеллекттің әскери саладағы дамуы мен қолданылуына жаңа бетбұрыс жасады. Anthropic компаниясының қатал моральдық ұстанымдары мен OpenAI-дің прагматикалық, құқықтық бағыт арасындағы айырмашылық бұл саланың күрделілігін көрсетеді. Келешекте технологияның қауіпсіз әрі этикалық негізде қолданылуын қамтамасыз ету үшін қоғам, үкімет және компаниялар арасында және одан әрі диалог қажет. Айқын дегеніміз, жасанды интеллекттің әскери мақсаттағы қолдануы тек технологиядан ғана емес, құқықтық және моральдық нормалардан да тәуелді.

TAGS: OpenAI, Anthropic, жасанды интеллект, әскери қолдану, этика, құқықтық келісім, қауіпсіздік

Дереккөз: MIT Technology Review