AI құралдарының шектеулері киберқауіпсіздік зерттеушілерінің жұмысын тежейді
Америкалық және халықаралық AI компаниялары киберқауіпсіздік саласындағы зерттеушілерге арналған модельдерін қауіпсіздік мақсатында қатал шектеулермен қамтамасыз етеді. Алайда бұл шектеулер нақты осалдықтарды анықтайтын және оларды жою жолдарын зерттейтін зерттеушілердің жұмысын қиындатуда.
Қауіпсіздік шектеулері және олардың әсері
2026 жылы АҚШ үкіметі Anthropic компаниясының Mythos және Fable AI модельдеріне экспорттық бақылау енгізді. Бұл шара модельдердің арқылы зиянкестерге арналған кибершабуылдар ұйымдастырылады деген қауіппен байланысты болды. Кейін бұл шектеулер жұмсарып, Fable 5 барлық пайдаланушыларға ашық болды, ал Mythos 5 тек АҚШ-тың арнайы тексерілген ұйымдарына берілуде.
Зерттеушілердің пікірі
Offensive киберқауіпсіздік мамандары шектеулерді сынап, олар зерттеуді және осалдықтарды анықтауды қиындатады дейді. Мысалы, Chris Anley кодтағы қателікті анықтау үшін AI моделінен эксплойт сұрағанда, шектеулер модельдің жауап беруіне кедергі келтіреді деп есептейді. Бұл құралдар әрі шабуылға, әрі қорғанысқа арналғандықтан, оларды бөлу мүмкін емес.
Paolo Stagno сияқты мамандар өз компаниялары үшін AI-дың белгілі шектеулі нұсқаларын ғана пайдаланып, күрделі жұмыстар үшін ашық кодты модельдерді қолданады. Бұл тәсіл қауіпсіздік деректерінің сыртқа таралуынан сақтайды.
Шектеулердің мәселелері және шешу жолдары
Chris Thompson сияқты сарапшылар қолданыстағы шектеулер кейде келіспеушіліктер мен тұрақсыздық тудырады дейді. Зерттеушілер уақытының көбі AI моделімен күресуге кетіп, тікелей осалдықты талдау мен пайдалануға көңіл бөле алмайды. Нәтижесінде олар АҚШ бақылауынан тыс қытайлық ашық модельдерді таңдауда.
Thompson шектеулерді қатайту орнына, AI компанияларының зерттеушілерге жауапкершілікпен пайдалануға кеңірек мүмкіндік беруі қажет деп санайды. Әйтпесе, киберқауіпсіздік саласындағы қорғаныс құрған мамандардың бәсекелестіктен қалып қою қаупі артады.
Дереккөз: TechCrunch
