AI қауіпсіздігін басқаруда барлығы қиындыққа кезігуде – тіпті Google де
Google Cloud компаниясының операциялық директоры Фрэнсис де Соуза 2026 жылғы мамырда Los Angeles қаласындағы іс-шарада AI қауіпсіздігін басқару мәселесінің өзгермелі күйде екенін айтты. Ол ұйымдардың AI платформаларын құрған кезде қауіпсіздікті соңынан қосуға болмайтынын, әрі бұл мәселенің жоғары басшылық деңгейінде қаралуы қажеттігін атап көрсетті.
AI қауіпсіздігі мен платформалар
Де Соуза ұйымдарға “көлеңкелі AI” деп аталатын, қызметкерлердің бақылаусыз жеке құралдарды қолдануының қауіптеріне назар аудару қажеттігін айтты. Ол AI стратегиясы мәліметтер мен қауіпсіздік стратегиясымен бірге жасалуы тиіс екенін, көп бұлтты ортада үйлесімді қауіпсіздік қағидалары қажет екенін атап өтті.
Қауіптің өзгерген сипаты
Ол бұрынғы қорғаныс әдістері ескіргенін, енді шабуылдардың басталуы мен келесі кезеңге өтуі арасы секунттармен өлшенетінін ескертті. Сонымен бірге, машиналық модельдер, мәліметтер ағындары, агенттер және сұрамалар сияқты жаңа нысандар да қорғалуы тиіс. Сонымен қатар, енгізілген агенттер ұмытып кеткен мәлімет қорларын анықтап, олардың қауіпсіздігін бұзуы мүмкін.
Қорғаныс шаралары мен кадр тапшылығы
Қорғанысты машина жылдамдығымен жүргізудің қажеттігі, толық агенттік қорғаныс жүйелерін адам күші қадағалайтын кезеңнің басталып келе жатқаны айтылды. Бұл мәселе тек технологиялық емес, басқару деңгейіндегі проблема болып есептеледі. Дегенмен, AI қауіпсіздігін басқаратын мамандар азайып, осал тұстар көбейіп отырғаны байқалады.
Google Cloud және API кілттері проблемасы
Жақында Google Cloud қолданушыларының API кілттері арқылы Gemini AI модельдеріне рұқсатсыз қолжетімділік мәселелері анықталды. Кейбір пайдаланушылардың төлемдері бірнеше мың долларға дейін өсті. Google бұл жағдайларды қайтарып берді, бірақ автоматты төлем шегін көтеруді тоқтатпақ емес. Аталмыш кілттерді жою ақыры толық қорғаныс бермейтіндігі, шабуылдаушылар 23 минут бойы қолжетімділігін сақтайтыны белгілі болды.
Дереккөз: TechCrunch
