Жасанды интеллект агенттерін және «Суперинтеллекттің» адалдығын бақылау

Жасанды интеллект (ЖИ) технологиялары күн сайын алға басып, өмірдің әр түрлі саласына әсерін тигізуде. Осыған байланысты оларды бақылау және бағыттау мәселесі маңызды орын алады. Әсіресе, өздігінен әрекет ететін және күрделі шешім қабылдайтын жасанды интеллект агенттерінің іс-әрекетін басқару – болашақ қауіпсіздігі мен тиімділігінің кепілі саналады. Мақалада «кері ойын теориясы» әдісі арқылы ЖИ агенттерінің тәртібін қалай реттеуге болатыны қарастырылады. Сондай-ақ, осы саладағы саяси және технологиялық контекстілерге тоқталып, тәжірибелік маңыздылығы талданады.

Кері ойын теориясының мәні және маңызы

Ойын теориясы – рационалды ойыншылардың белгілі ережелер аясында қалай әрекет ететінін болжайтын математикалық әдіс. Әдетте ол белгілі шарттарда мінез-құлықтың нәтижесін зерттейді. Ал кері ойын теориясы – керісінше, қалаған мінез-құлықты тудыратын ережелерді арнайы жобалау жолымен тиімді нәтижеге жетуге бағыттайды. Бұл тәсіл ЖИ агенттерінің біз белгіленген норма мен ережелерге сай жұмыс істеуін қамтамасыз етеді.

Мысалы, тортты екі адам бөлісіп жатыр делік: біреу оны кеседі, екіншісі бірінші дәмін татады. Мұндай жағдайда кесуші торттың бөліктерін тең етіп қиюға ынталанады. Сол сияқты, кері ойын теориясы – ЖИ модельдерін осындай ынталандыру механизмдерімен қамтамасыз ету арқылы олардың сенімді және қауіпсіз жұмыс жасауына септігін тигізеді.

Қоғамдық және саяси контекст

Жақында өткен айда АҚШ-та Президент Трамп жасанды интеллектке қатысты «Суперинтеллект» деген жаңа атау енгізді. Бұл термин мемлекеттік мекемелердің ресми жұмыстарында көбірек қолданыс табуды талап етеді. Алайда технология саласындағы кейбір ірі ойыншылар әлі күнге дейін «жасанды интеллект» атауын қолдауда. Мұндай терминологиялық өзгеріс саясат пен технология саласындағы сенім тестін сипаттайды: жаңа атауды пайдаланатындар белгілі бір әкімшілікке бейілділігін білдіреді, ал қолданбағандар сыни көзқарастың нысанына айналуда.

Осыдан кейін АҚШ пен әлемде жасанды интеллект саласындағы реттеу мәселелері, оның ықпалы мен қауіптілігі кеңінен талқылануда. Мысалы, кейбір саяси кандидаттар ЖИ бақылауына қатысты заңнамалық өзгерістерді сайлау науқандарына бағыттайды. Сонымен қатар, ірі компаниялардың Қытай нарығымен араласуына қойылатын шектеулер, ақпараттық қауіпсіздік мәселелері және қолданылған жаңа технологиялардың әлеуметтік әсері айтылады.

Жасанды интеллекттің тәжірибелік қолданылуы мен маңыздылығы

ЖИ агенттерінің принципті орнатылған ережелерге сай қызмет етуі олардың қауіпсіз әрі сенімді әдіспен жұмыс жасауына негіз болады. Кері ойын теориясының моделдері осы бағытта үлкен үміт күттіреді. Осының арқасында ЖИ жүйелері адам мен қоршаған ортаның мүддесіне сай, этикалық нормаларды сақтай отырып, шешім қабылдай алады.

Сонымен қатар, ЖИ-дің технологиялық әлеуетін толық пайдалану үшін, оның саясаттық механизмдері әзірленуі керек. Бұл ЖИ-дің дамуына теріс ықпал ететін емес, оның қауіпсіз етіп дамуына септігін тигізеді. Мысалы, қоғамдық сенімді арттыру, ақпараттық қауіпсіздікті нығайту және халықаралық ынтымақтастықты күшейту мәселелері осы салада маңызды орын алады.

Тағы бір маңызды аспект – осы технологиялардың экологияға әсері және жануарлар әлемінің қорғалуына байланысты мәселелер. Қалалық шудың өсуі құстардың табиғи мінез-құлығына әсер етіп, оларды бейімделуге итермелейді. Сондықтан технологияның дамуын табиғат пен адамзат үшін үйлесімді ету маңызды.

Қорытынды

Жасанды интеллект агенттерінің әрекетін тиімді басқару – ғылым мен қоғам алдына тұрған күрделі міндет. Кері ойын теориясы бұл міндетті шешуде тың әдіс ұсынады. Ол ЖИ-дің қалаулы мінез-құлқын ынталандыру арқылы бақылауға мүмкіндік береді. Алайда бұл механизмдердің нақты өмірде тиімді жұмыс істеуін қамтамасыз ету үшін қосымша зерттеулер мен тәжірибелер қажет. Сонымен бірге, технологиялық прогресті саясаттық және этикалық тұрғыдан ұтымды реттеу маңызды. Осылайша, жасанды интеллект адамның мүддесіне қызмет ететін, сенімді және қауіпсіз серіктес ретінде дамуға бастайды.

TAGS: жасанды интеллект, кері ойын теориясы, суперинтеллект, этика, ақпараттық қауіпсіздік, технологиялық реттеу, экология

Дереккөз: MIT Technology Review