Google DeepMind–тің миллиондаған жасанды интеллект агенттері арасындағы өзара әрекеттестік қауіптері

Жасанды интеллект ұлттық және халықаралық деңгейде күнделікті өмірді түбегейлі өзгерту үстінде. Бұл технологияның дамуымен қатар, оның қауіпсіздігі мен қауіп-қатерлерін зерттеу мәселелері алдыңғы қатарға шықты. Google DeepMind компаниясы миллиондаған жасанды интеллект агенттерінің өзара әрекеттесуі кезінде туындайтын мүмкін қауіптерге ерекше назар аударып, бұл тақырыпты зерттеуге қаражат бөледі. Бұл мәселе әсіресе маңызды, себебі адам бақылауынсыз тұтас агенттер желісінің жұмысы қоғамға және экономикаға елеулі әсер етуі ықтимал.

Жасанды интеллект агенттерінің көп агенттік жүйелеріндегі тәуекелдер

Google DeepMind-тың AGI қауіпсіздігі мен сәйкестендіру зерттеуін басқарушы Рохин Шахтың айтуынша, бақылаусыз және бір-біріне берілген нұсқауларға сәйкес автономды әрекет ететін агенттер массалық түрде енгенде жаңа қауіп қаупі пайда болады. Мұндай жағдайларда қауіп нақты әрі кешенді өзгерістерге ұшырауы мүмкін, себебі бір агенттің әрекеті басқа көптеген агенттердің мінез-құлқына әсер етеді. Сондықтан мыңдаған немесе миллиондап агенттер өңделгенде, жалпы жүйенің күйін болжау қиынға соғады, ал бұл өз кезегінде қауіпсіздік шараларын күшейтуді талап етеді.

Зерттеулерді қаржыландыру және ынтымақтастық

Осы тақырыптағы зерттеулерді жандандыру мақсатында Google DeepMind бірнеше басқа ұйымдармен бірігіп, көп агенттік жүйелер мінез-құлқын зерттеу және қауіпті сценарийлерді болдырмау жолдарын іздестіруге 10 миллион доллар көлемінде грант бөлді. Бұл қаржыландыруға Schmidt Sciences (Эрик пен Венди Шмидтің қайырымдылық қоры), Ұлыбритания үкіметінің ARIA агенттігі, Cooperative AI қоры және Google-дың Google.org қоры қатысады. Мақсат – индустриядан тыс зерттеулерді ынталандыру, себебі академиялық орта ұзақ мерзімді перспективаларды қарастырып, коммерциялық зертханалар алмайтын мәселелерге көңіл аударуы мүмкін.

Көп агенттік қауіпсіздік саласындағы зерттеулердің қажеттілігі

Рохин Шах пен Джеймс Фокстың пікірінше, көп агенттік жүйелер қауіпсіздігі бойынша жүйелі зерттеулер әлі қалыптаспаған сала. Олар ең алдымен агенттердің бір-бірімен әрекеттесуі кезінде төнетін тәуекелдерді нақтылау үшін шынайы симуляциялар өткізуді ұсынады. Бір немесе бірнеше агенттің жеке мінез-құлқын зерттеу арқылы толық жүйенің іс-әрекетін болжау мүмкін емес. Мысалы, үлкен тілдік модельдер негізіндегі агенттердің әрдайым рационалды әрекет жасауына кепілдік жоқ, әсіресе олардың әрекеттері өзара байланысты және үнемі өзгеріп отырғанда.

Қауіптің нақты түрлері және мысалдар

Арнайы қауіптер интернеттегі қазіргі бар жағдайлардың күшейтілген нұсқалары ретінде қарастырылады: алаяқтық, зиянды нұсқаулар беру тәсілі арқылы агенттерді шпиондық бағдарламаларға айналдыру, түрлі кибершабуылдар. Джеймс Фокстың айтуынша, қоғам өміріндегі маңызды цифрлық орта абсолютті тәртіпсіздікке ұрынбауын қамтамасыз ету керек. Қауіптің таралуы азырақ деп күтгенімен, агенттер экономикаға кеңінен енген сәтте нақты қаржылық әрі әлеуметтік қауіптер пайда болады.

Жүйеге сенім және қауіпсіздік стратегиялары

Google DeepMind – жалғыз ұйым емес, бұл мәселеге назар аударады. Мысалы, Anthropic компаниясы агенттерді енгізу кезінде киберқауіпсіздік бойынша нөлдік сенім ұстанымын қолдайтын нұсқаулықтар жариялады, мұнда кез келген жүйенің осал болуы, агенттің шабуылшысы болуы ықтимал деп есептеледі. Tel Aviv-те орналасқан Akeyless компаниясының технологиялық жетекшісі Рефаэл Энджел сөзінің маңыздылығын атап, бұрынғы қауіпсіздік әдістері адамның жазған бағдарламасын ұстанса, агенттер жазылмаған амалдар жасап, тіпті зиянды нұсқауларды оқып, әрекеті өзгереді дейді. Сондықтан қауіпсіздік стандарттары бір зертханаға тәуелді болмауы қажет.

Практикалық қолдану және маңыздылық

Бұл зерттеу қаржыландыруы және ғылыми ынтымақтастық жасанды интеллект агенттерінің ықтимал қауіптерін алдын алу үшін қажетті қолдауды беріп, күмәнсіз сенім мен қауіпсіз қолдануды дамытуға жол ашады. Сонымен қатар, көптеген агенттер арасындағы өзара әрекетті зерттеу арқылы осы технологияның қоғам мен экономикаға тигізер әсерін минимализациялауға болады. Нақты әлеуметтік және техникалық қауіптерді бұрыннан іске асқан жағдайлардан үйрену арқылы басқару шеңбері кеңейеді.

Қорытынды

Миллиондаған жасанды интеллект агенттерінің өзара әрекеттесуі жаңа әрі күрделі қауіптер туғызады. Google DeepMind және серіктес ұйымдар осы бағыттағы зерттеулерді нығайтуға бағытталған. Мақсат – көп агенттік жүйелердің мінез-құлқын түсіну, олардың қауіпті сценарийлерін анықтау және түзету жолдарын іздестіру. Бұл жұмыстар жасанды интеллект технологиясын әділ әрі қауіпсіз дамытуға ықпал етеді, ал қауіпсіз жүйелер қоғамдағы сандық ортадағы тұрақтылықты қамтамасыз етеді. Алайда, бұл бағыттағы сын-қатерлер әлі де көп, сондықтан ғылыми орта мен индустрия арасындағы диалог маңызды.

Дереккөз: MIT Technology Review