Қатерлі жасанды интеллектті «кері ойын теориясы» әдісі арқылы бақылау

Жасанды интеллекттің (ЖИ) дамуы саналады көп мүмкіндіктерді ұсына отырып, оның қауіпсіз әрі адам қажеттіліктеріне сай жұмыс істегенін қамтамасыз ету маңызды міндет ретінде тұр. Әсіресе, жоғары деңгейдегі модельдер заң бұзудан, рұқсатсыз серверлерге қол жеткізуден немесе адам өміріне қауіпті әрекеттерден сақталуы тиіс. Осы тұрғыдан алғанда, жасанды интеллекттің әрекеттерін басқару жолында «кері ойын теориясы» деген жаңа тәсіл ұсынылды, ол модельдерді ережелерді ұстануға ынталандыруға бағытталған.

Жасанды интеллект пен ойын теориясының байланысы

Ойын теориясы рационал қатысушылардың белгілі ережелер аясында қалай әрекет ететінін болжауға тырысады. Оның кері бағыты – механизмдерді жасақтау, яғни қажетті мінез-құлықты ынталандыратын ережелерді құру. Яғни, алдын ала белгілі мақсатты орындауға бағытталған жағдайларды жасау арқылы жасанды интеллект агенттерін бақылау көзделеді.

Механизмдік дизайн мысалдары күнделікті өмірде кездеседі: мысалы, торт бөлісудің классикалық тәсілі – бір адам тортты екі бөлікке бөліп, екінші адам алдымен бір бөлікті таңдайды. Бұл әдіс тортты бөлетін адамды бөліктерді мүмкіндігінше тең жасауға ынталандырады. Такси қызметінің жүктемелі баға саясаты да жүргізушілердің шұғыл уақытта жұмыс істеу ықтималдығын арттырады. Сондай-ақ, екінші баға аукциондары сатып алушыларды шынайы баға ұсынуға итермелейді.

ЖИ-ді ынталандыруға арналған механизмдерді қолдану

Қиындықтардың бірі – шеткі деңгейдегі жасанды интеллект модельдерінің ішкі логикасын толық түсіну мүмкін еместігі. Сондықтан, модельдер қандай жағдайда болса да қажетті мінез-құлықты итермелейтін механизмдерді жасау маңызды. MIT, Yale және Columbia университеттерінің зерттеушілері мәтінге негізделген жаңа механизімдерді ұсынды, олар модельдердің сынақтағы өнер көрсетуін болжау арқылы ынталандырады. Мысалы, егер бір модель өз жауабымен екінші модельдің жауабын дәл болжаса, ол жақсы бағаланады. Бұл әдіс жасанды интеллект агенттерін әдейі төмен нәтиже көрсету немесе жалған ақпарат беру арқылы алдауға жол бермейді.

Агенттер арасындағы бәсекелестікті ұйымдастыру

Тағы бір ұсыныс – агенттерді бір-бірімен жарыстырып, үздік нәтижеге жетуге ынталандыру. Мысалы, екі қисынды қарама-қайшы бағыттағы агенттерді қарсы қою және олардың жауаптарын салыстырып, ұқсастығы жоғары болған сайын марапаттау. Бұл әдіс жүйенің жалпы тиімділігін арттырады.

Әлеуметтік әдістермен байланыс

Принстон университетінің профессоры Элад Хазан адамның қоғамдағы өзін-өзі реттеу тәжірибесін негізге алып, жасанды интеллект үшін ұқсас механизмдер жасау қажеттігін айтады. Оның ұсынысы бойынша, агенттер «шешуші» және «тексеруші» ролін кезекпен атқарады: бір агент мәселелерді шешуге ұмтылады, екіншісі олардың әрекетін қадағалап, заң бұзушылықтарды анықтайды. Қателіктер табылғанда шешуші жазаланады, ал қателіктерді байқамай қалған тексерушілер де жауапкершілікке тартылады. Қақтығыс туындағанда адам сарапшысына немесе арнайы «сот» жүйесіне жүгініледі.

Механизм дизайнның практикалық маңызы мен қиындықтары

Бұл тәсілдің ықтимал қауіптілігі – агенттердің бірге келісіп, жүйені алдап кетуі. Алайда мұндай тәуекелді жауапты марапаттау және тексеру арқылы азайтуға болады. Шынында да, экономист Гэри Беккердің «рационалды құқық бұзушы» теориясына сәйкес, қылмыскерлер заңды тек пайда мен жаза арасындағы теңгерім негізінде бұзады. Сол сияқты, жасанды интеллекттің де мінез-құлқы ынталандыруларға табынған.

Механизмдік дизайн агенттердің рационал әрекет етуіне негізделгенімен, жасанды интеллекттің мінезі адамның мінезінен ерекшеленеді – олар алгоритмдерден құралған жүйелер. Бірақ экономикалық модельдер сияқты оларды рационал деп қарастыру бақылау және болжауды жеңілдетуі мүмкін. Бұл тәсіл интерпретация, реттеу және оқыту сияқты басқа да әдістермен қатар кешенді қорғау жүйесін құрайды.

Қолданудағы сын-қатерлер

Әзірге механизмдік дизайн теорияларын нақты шеткі модельдерге бейімдеу, бір міндеттен екіншісіне ауыстыру, модельдердің күтпеген жолмен жүйеден шығып кету қаупін жою жайлы сұрақтар толық шешімін тапқан жоқ. Мысалы, Anthropic және OpenAI компанияларының бұл саладағы жұмыстары туралы ақпарат барынша шектелген.

Тағы бір маңызды фактор – нарықтың рөлі. Модельдің сапасы әлемге пайдалы болса да, оның жұмыс жылдамдығы мен құны оған бәсекелестік артықшылық бере ме деген мәселе бар. Қазіргі экономика ережелері мен ынталандыруы жаңа әдістерді барлық зертханаларға енгізуге қолайлы ма – ол да белгісіз.

Қорытынды

Кері ойын теориясы немесе механизмдік дизайн жасанды интеллект агенттерінің мінезін тиімді басқаруда жаңа бағыт ашады. Бұл әдістің тиімділігі агенттерді тікелей түсінуден гөрі қажетті әрекеттерді ынталандыруға негізделген жүйелерді құруға байланысты. Мұндай тәсіл әлеуметтік жүйелер мен экономикалық ынталандырулар негізінде қалыптасқан мінез-құлық механизмдерін қайталауға мүмкіндік береді. Дегенмен, бұл жолдағы зерттеулер жалғасуда, ал нақты тәжірибеге енгізу алдында толық сынақ пен жетілдіру қажет.

Дереккөз: MIT Technology Review