BotPsy: Құрылғыда орнатылатын жеке көмекші және субмиллиардтық параметрлі агентті тілдік модель

Кіріспе

Жасанды интеллект саласында жылдам дамып жатқан бағыттардың бірі – құрылғыда орнатылатын, жеке көмекші ретінде жұмыс істейтін шағын әрі тиімді тілдік модельдер. Бұл бағыттың маңыздылығы пайдаланушының жеке деректерін қорғаумен байланысты, сондай-ақ операциялық шығындарды төмендетуге мүмкіндік беруінде. BotPsy моделі осы талаптарға жауап беретін 0.8 миллиард параметрі бар агентті тілдік модель ретінде ұсынылады. Ол көпшілікке қолжетімді әрі құрылғыда дербес жұмыс істей алатын серіктес ретінде әзірленген.

Негізгі түсіндірме

BotPsy – Qwen3.5-0.8B негізінде құрастырылған, құралдарды тиімді пайдалана алатын, агенттік функцияларды жүзеге асыратын модель. Оның негізгі ерекшелігі – параметрлер санының шағын болуы және бұл өз кезегінде кейбір тапсырмалар ауқымында жоғары жылдамдық пен тиімділік ұсынады. Осы модель түрлі салаларда: веб іздеу, саяхат, сауда, қаржы, бизнес операциялары, құрылғылар мен автокөліктерді басқару, файлдар мен құжаттар, күнтізбе, электрондық хат пен хабарласу секілді кең ауқымды міндеттерді орындауға бағытталған.

BotPsy өзінің кішігірім көлеміне қарамастан, құралдарды қолдануда және көпкезеңді тапсырмаларды орындауда көшбасшы орынға шыққан. Ол 1,2 миллиард параметрге дейінгі модельдер қатарында өнімділігі жоғары саналады және кейбір көрсеткіштерде одан үлкен модельдерден асып түседі.

Контекст және мысалдар

Сыртқы бұлт технологияларына негізделген тілдік модельдердің пайдалануында бірнеше кемшіліктер бар. Олардың бірі – жоғары операциялық шығындар мен қызметтің тұрақсыздығы, сонымен бірге провайдерлердің қызмет көрсетуді шектеуі немесе тоқтатуы мүмкіндігі. Сондай-ақ, бұлттағы модельдерді жеке және компаниялық арнайы талаптарға толық икемдеу шектеулі және деректердің құпиялығын қамтамасыз етуде қаупі бар.

BotPsy осы мәселелерге балама ретінде ұсынылады. Модель жоғары сенімділікпен нұсқауларды орындайды, көпкезеңді әңгімелер мен тапсырмаларды меңгереді. Мысалы, телефон арқылы қызмет көрсету кезінде ұзақ әңгімелер жүргізу мен нақты саясатқа сәйкес әрекет ету қабілеттілігі жоғары бағаланды. Сонымен қатар, модель құралдарды шақыру қажеттігі туындамаған кезде әрекет жасамауды өзі анықтайды, бұл ақпараттық галлюцинациялар мен қате әрекеттер санының азаюына ықпал етеді.

Бенчмарк көрсеткіштері

BotPsy өзінің бастапқы нұсқасымен салыстырғанда негізгі агенттік тапсырмаларда өнімділігін екі еседе арттырды. BFCL v4 индексі 23.4-тен 44.0-ға, ACEBench 30.1-ден 58.7-ге өсті. Сондай-ақ, ол 1,2 миллиард параметрлік басқа модельдермен жарысқанда жетіспейтін нәтижелер көрсетті. Мысалы, 2,5 есе үлкен Qwen3.5-2B-Think моделін алғанда да BotPsy бес көрсеткіш бойынша озып шықты.

Практикалық маңызы

BotPsy құрылғыда орнатылып, жеке көмекші ретінде пайдаланушының деректерін сыртқы серверге жібермей, толық қауіпсіздікті қамтамасыз етеді. Бұл корпоративтік және жеке тәжірибеде құпиялылықты сақтау маңызды болған жағдайларда ерекше құнды. Модель ресурсты үнемдеп, көпкезеңді әрі күрделі тапсырмаларды тиімді орындай алады, сонымен қатар құралдар арқылы сыртқы қызметтерге сауатты шақыру жасайды.

Шағын модель болғанына қарамастан, BotPsy үздіксіз нұсқауларды орындауға бейімделіп, қолданған сайын дәлірек жұмыс істеуге бейім. Осы арқылы ол жолсерік-ассистент ретінде кең таралуға және смартфондар мен басқа да құрылғыларда кеңінен қолданылуға лайықты.

Ашық кодты және әртүрлі форматта қолжетімді болуы зерттеу мен білім беру саласында жетілдіруге мүмкіндік береді. Бұл пайдаланушылар мен жүйе жасаушылар үшін икемділік пен ашықтықты арттырады.

Қорытынды

BotPsy – жылдам әрі ықшам агенттік тілдік модельдер қатарында айрықша орын алған шешім. Оның құрылғыда жұмыс жасау мүмкіндігі, қауіпсіздікке басымдық беруі және өнімділік көрсеткіштерінің жоғары болуы шектеулі параметрлер санында сапалы нәтижеге қол жеткізуді көрсетеді. Болашақта оның функционалдығы кеңейтіліп, жеке тұлғалар мен кәсіпорындар үшін тиімді құралға айналады.

Дереккөз: Hugging Face Blog