Open-weight жасанды интеллект модельдері жетілдіріліп жатыр, алайда қауіпсіздік мәселелері сақталуда
Жасанды интеллект саласындағы соңғы жетістіктер
2026 жылдың тамызында AI қауіпсіздігі бойынша SaferAI ұйымының есебіне сәйкес, Қытайдың Z.ai компаниясының GLM-5.2 ашық салмақты жасанды интеллект моделі OpenAI GPT-5.5 және Anthropic Claude Opus 4.7 модельдерінен артта қалмай, олардың кибер және биологиялық мүмкіндіктеріне жақындап келеді. Бұл технологиялардың дамуы маңызды, себебі олар әлеуетті қауіп-қатерлерді арттырады.
Қауіпсіздік пен мүмкіндіктер арасындағы айырмашылық
GLM-5.2 моделі сыртқы қайшылықты кибер және биологиялық тапсырмаларды орындауға бас тарта қойған жоқ, ал Claude Opus 4.7 осындай тапсырмаларды жиі орындаудан бас тартқан. Бұл ашық салмақты модельдердің қауіпті қолдануға қолжетімді болуы мен олардың бақылаусыз пайдаланылуы қауіптің өскені туралы ескерту болып табылады. Қауіпсіздік шаралары API деңгейінде қолданылғанымен, модельді жергілікті жабдықтарда іске қосқан кезде олар жойылуы мүмкін.
Қорғаныс шаралары және шектеулер
OpenAI пен Anthropic сияқты жетекші әзірлеушілер киберқауіпсіздік пен биологиялық зиянды ықпалдарды шектеу үшін арнайы классификаторлар, бас тарту оқытуы және API бақылауын пайдаланады. Дегенмен, олар толық сенімді емес, өйткені модельдерді «жаруы» тәсілдері қорғаныс шараларын жеңіп өтіп отыр. Ал ашық салмақты модельдерге мұндай қорғау тәсілдері қолданылмайды, өйткені олар кез келген жүйеде іске қосылуға икемделген.
Қытайдағы жасанды интеллект пен реттеу
Қытай билігі жасанды интеллекттің қауіп-қатерлерін мойындап, ашық салмақты модельдердің дамуына және олардың қатаң бақылаумен пайдаланылуы қажеттілігін атап өтті. Дегенмен, Қытайдағы регламенттер негізінен саяси мазмұн мен әлеуметтік тұрақтылыққа бағытталған, ал киберқосымшалар мен биологиялық қауіптіліктерге қатысты қатаң шаралар әлі жетілмеген.
Қауіпсіздіктің болашағы мен тәуекелдерді басқару
GLM-5.2 сияқты ашық салмақты модельдердің шығуы қауіпсіздік пен қолжетімділік арасындағы балансты басқару мәселесін қайтадан өзекті етіп отыр. Мамандар модельдерді қауіпті ақпараттан тазарту немесе киберқолдануларға шектеу қою арқылы тәуекелдерді азайту қажет екенін айтады. Сонымен қатар, қорғаныс шаралары мен алдын алу шаралары жетілдірілу керек.
Дереккөз: TechCrunch
