AI-дың өзін-өзі қайта жетілдіру қабілеті ойдағыдай тез іске аспауы мүмкін

Жасанды интеллект (ЖИ) саласының ең ұмтылыстардың бірі – бұл технологияның өздігінен жетіле алу мүмкіндігі. Кейбір үлкен тілдік модельдер коды жазып, оқу үшін жасанды деректер әзірлей отырып, оларды іске қосатын чиптерді оңтайландыра алады. Зерттеушілердің болжамдары бойынша, ЖИ-дың өзін-өзі қайта жаңарту қабілеті жақында жүзеге асады деп күтілуде. Алайда соңғы зерттеу мұндай мүмкіндіктің орындалуы әлі де уақытты талап ететінін көрсетеді.

Жасанды интеллект зерттеуіндегі шектеулер

Принстон университетінің зерттеушілері Питер Киргис пен Саяш Капур жетекшілігімен жүргізілген зерттеуде ЖИ агенттерінің ашық формадағы зерттеулер жүргізуге әзір емес екені анықталды. Ашық формадағы зерттеулер – нақты жауаптары жоқ, сыни ойлауды, талғам мен сот қабілетін қажет ететін күрделі тапсырмалар. Мұндай қасиеттер ЖИ-дың өзін-өзі жетілдіруі үшін аса маңызды саналады.

Әртүрлі мекемелердің қатысуымен жүзеге асырылған зерттеуде агенттер техникалық мәселелерді шеше алса да, үздік машина оқыту конференцияларында қабылданатын сапада жалпы ғылыми зерттеулер жаза алмайтыны дәлелденді. Бұдан терең бақылауларды автоматтандыру саласындағы кейбір алдын ала күткен мерзімдердің шындыққа сай келмейтінін аңғару мүмкін.

Зерттеу әдісі мен қолданылған сынақтар

Көптеген алдыңғы зерттеулер тек оқшауланған тапсырмаларды орындауға бағдарланған, мысалы, инженерлік мәселелерді шешу немесе тіл модельдерін шағын өлшемдегі критерийлермен тексеру. Алайда нағыз ғылыми прогресс жаңа гипотезалар ұсынуды, қандай дәлел қажет екендігін түйсінуді және жағдайларды басынан қайта қарауды талап етеді.

Зерттеушілер “көлеңкелі бағалау” атты жаңа сынақ әдісін ұсынды. Ол аясында AI агенттері жарияланбаған ғылыми мақаланың зерттеу сұрағына жауап іздеді. Бұл сұрақтар 2026 жылғы беделді NeurIPS конференциясына ұсынылған екі мақаланың негізінде алынған. Бір сұрақта үлкен тілдік модельдің мінез-құлқын анықтайтын “персоналардың” модельдің салмақтарын өзгерту арқылы басқарылып-басқарылмайтыны зерттелді. Екіншісі модельдің болжамдарына сенімсіздік танытатын жағдайларды анықтайтын құралды жобалау жайында болды.

Нәтижелер мен олардан туындайтын мәселелер

AI агенттеріне алты күн, Anthropic компаниясының API қызметтеріне $3000, GPU ресурстары және ашық вебке толық қолжетімділік берілді. Зерттеу барысында агенттер ғылыми әдебиетті шолып, жүздеген тәжірибелер жасап, нәтижелерін жүйеледі. Дегенмен, осы жұмыстың нәтижелері мақала авторлары тарапынан қабылданудан бас тартылды.

Агенттердің инженерлік дағдылары жоғары бағаланса да, жалпы зерттеу жүргізу қабілеті төмен екені байқалды. Олар кейде сәйкес келмейтін эксперименттер ұйымдастырып, жұмысын түсінікті етіп жазуда қиындыққа ұшырады, жаңашылдық енгізбеді. Қиындықтардың негізгі себебі – агенттердің шығармашылық пен пайымдауда әлсіздігі болды. Олар идеялардың әртүрлі нұсқаларын жеткілікті зерттеді деп айту қиын, тез қате бағытқа сеніп қалды.

Шығармашылық пен қайта қарау қабілетінің жоқтығы

Агенттер бастапқы автордың өздері ұсынған гипотезаларға ұқсас ерекше болжамдар жасаса да, оларды аз ғана деректерге сүйене отырып қате деп таныды. Қиындық түскен жағдайда жолды түбегейлі өзгертіп, басынан бастап қайта қарау секілді қабілеттер жетіспеді. Көмекші агенттердің немесе сыртқы ЖИ тексеру құралдарының кері байланысын қолдануда да кемшіліктер байқалды. Зерттеу барысында уақыт пен ресурстарды тиімді пайдалана алмады, зерттеу кезеңдеріне берілген нұсқаулықтарды орындауда қиналды.

Қызығы, агенттер эксперименттер мен деректерді жасыру немесе бұрмалау сияқты теріс қылықтарға бармады. Бұл да зерттеу нәтижелеріне сенім артуға мүмкіндік береді.

Агенттердің шектеулері және оқыту ерекшеліктері

Капурдың пайымдауынша, бұл нәтижелер агенттердің оқыту әдістерімен байланысты. Олар көбіне автоматты түрде тексеруге болатын тапсырмаларды орындауға мамандандырылады (күшейтілген оқыту). Ал тапсырыстың ашық және шексіз сипаты оқыту ортасын құруды қиындатады. Бұл модельдердің креативті ойлау, сыни көзқарас пен күрделі зерттеулер жүргізуге дайын еместігінен хабар береді.

Қазіргі уақытта зерттеу Mythos атты Anthropic компаниясының ең жетілдірілген моделімен жалғасуда. Алайда бұл модель АҚШ әкімшілігінің қауіпсіздік талаптарына сәйкестік нәтижесінде тек арнайы ұйымдарға қолжетімді.

Жасанды интеллект дамуының болашақ контексті

Зерттеудің кейбір шектеулері бар. Мысалы, сынақ екі ғана ғылыми мақалаға қатысты, оларды бағалаған авторлар AI жасаған жұмыс екенін білді. Бұл бағалауға әсер етуі мүмкін. Сондай-ақ зерттеудің дизайн және орындалу кезеңінде зерттеушілердің субъективті көзқарасы ықпал еткен ықтималдық бар.

Бұл зерттеу recursive self-improvement (өзін-өзі рекурсивті жетілдіру) концепциясының жақын арада жүзеге асатындығы туралы оптимистік көзқарастарды қайта қарауға себеп береді. Anthropic пен OpenAI компаниялары бұған дейін моделдерді өздігінен жаңартуға бағытталған қадамдарын жариялады. Дегенмен, ішкі бақылау нәтижелері бүгінгі AI жүйелерінде шығармашылықтың жетіспейтіні туралы ұғымды растауда.

Практикалық маңызы мен келешек зерттеулерге ұсыныстар

AI жүйелерінің тез дамуды автоматтандыру құралына айналуына үлкен мүдде мен ынталандыру бар. OpenAI автоматтандырылған зерттеушіні құруды мақсат етіп қойды, Anthropic өздігінен жетілетін ЖИ-ды келесі кезең деп есептейді. Бостон университетінің профессоры Найджонг Кимнің айтуынша, бұл бағытта жүйелі инвестиция мен саналы еңбек қызықты жетістіктер әкелуі ықтимал, тіпті қазір ол сәйкес деңгейде болмаса да.

Дегенмен, дамудың екі бағытта жүруі ықтимал: сынап-бақылауға оңай, нақты әрі тар тапсырмалар бойынша қарқынды алға жылжу, ал жалпы ашық зерттеулерде баяу даму. Ашық зерттеудің recursive self-improvement үшін қаншалықты маңызды екені үлкен сұрақ болып қала береді.

Капурдың пікірінше, айрықша салаларда жеткен ірі прогрестер – трансформерлер мен жаңа архитектураларды ойлап табу – шығармашылық секірістер арқылы жүзеге асты. Ал кейбір зерттеушілер трансформацияға қажетті барлық қасиеттерді қазірдің өзінде бар деп санайды, тек жедел оқыту мен есептік көрсеткіштерді жақсарту жеткілікті болуы мүмкін.

Қорытынды

Жасанды интеллекттің өзін-өзі жетілдіру мүмкіндігі бүгінгі күнде өте танымал және үміт шашатын тақырып болғанымен, зерттеулер оның толық іске асу уақыты алыс екенін көрсетеді. Агенттердің техника саласындағы дағдылары жақсы болса да, терең шығармашылық пен ашық зерттеу жүргізу деңгейінде көп кемшіліктер көрсеткені байқалды. Бұл салада үлкен өзгерістер жасау үшін оқыту әдістерін қайта қарастырып, модельдердің креативтілік қабілетін жетілдіру маңызды. Болашақ зерттеулер мен технологиялық жетістіктер recursive self-improvement әлеуетін шынайы бағалауға мүмкіндік береді.

TAGS: жасанды интеллект, өзін-өзі жетілдіру, үлкен тілдік модельдер, зерттеу әдістері, шығармашылық, AI агенттері, ғылыми жетістіктер

Дереккөз: MIT Technology Review