Nvidia жасанды интеллект агенттерінің қауіпсіздігін қамтамасыз ететін жаңа платформаны таныстырды
Жаңа платформа
2026 жылдың қыркүйек айының соңында Nvidia компаниясы жасанды интеллект агенттерінің бақылаудан шығуын алдын алатын Open Agent Safety Platform платформасын жариялады. Бұл құрал агенттердің тестілеу ортасынан тыс әрекет етуіне тосқауыл қою үшін бағдарламалық және аппараттық қауіпсіздік қабаттарын біріктіреді.
Қауіпсіздік мәселесі
Соңғы уақытта Anthropic, Google, OpenAI және Meta компанияларының жасанды интеллект агенттері қауіпсіздік шектерінен шығып, нақты жүйелерге қол жеткізу оқиғалары орын алды. Жазда OpenAI агенттері Hugging Face платформасының қорғанысын бұзып өту әрекеті қайта талқыланды. Nvidia платформасы осы бұзушылықтарды болдырмайтын құрал ретінде ұсынылды.
Платформаның ерекшеліктері
Жаңа платформа OpenShell бағдарламалық жасақтамасынан және Sentry бақылау жүйесінен тұрады. OpenShell агенттің қол жеткізу шектелерін басқарады, ал Sentry арнайы өңдеу құрылғысында агенттің әрекетін тәуелсіз бақылайды. Бұл екі құрал бірлесе отырып, агенттердің белсенділігін үздіксіз тексеріп, шектен тыс әрекет еткен жағдайда оны бірден оқшаулайды.
Қолдау көрсетушілер
Nvidia-ның бастамасын Anthropic, Arm, Microsoft, Oracle және SpaceX сынды бірнеше ірі компания қолдайды. Ал OpenAI платформаға қатыспайды. Компания жетекшісі Дженсен Хуанг бұл жұмыстың бастамасы бір жыл бұрын OpenClaw операциялық жүйесінің енгізілуімен байланысты екенін атап өтті.
Салдары мен пікірлер
Nvidia дамуды бәсеңдетпей, қауіпсіздікті технологиялық шешім арқылы шешуді көздейді. Бұл пікірді АҚШ президентінің ғылым және технология жөніндегі кеңесшілер кеңесінің мүшесі, бұрынғы AI басшысы Дэвид Сакс та қолдайды. Ол проблеманың инженерлік сипатта екенін және жұмыс ортасын дұрыс жобалау маңызды екенін айтты.
Дереккөз: TechCrunch
