Microsoft басшысы Сатья Наделла жасанды интеллект модельдерін тоқтатуға мүмкіндік беретін «апаттық тежегіштің» қажет екенін айтты
2026 жылғы 10 қазанда Microsoft компаниясының бас директоры Сатья Наделла жасанды интеллекттің сенімділігі мен қауіпсіздігін арттыру үшін оның басқарылуын қайта қарастыру қажеттігін атап өтті. Ол жасанды интеллект модельдерін сыртқы бақылауға және кез келген уақытта тоқтату мүмкіндігіне ие болу қажет екенін айтты.
Жасанды интеллекттің сенімділігі мен қауіпсіздігі
Наделла X әлеуметтік желісіндегі жазбасында супер интелекті қараңғы бөлмедегі механизм ретінде қарауға болмайтынын жеткізді. Оның пікірінше, модель жұмыстарын үйлестіретін басқару құралдары мен модельді бөліп қарастыру керек.
Апаттық тежегіштің маңыздылығы
Microsoft басшысы әр маңызды модель әрекеті өзгертілмейтін адам түсінетін дәлелдермен расталуы тиіс екенін атап өтті. Сонымен бірге, рұқсат етілген адам модельдің орындайтын жұмысын ортасында тоқтата алуы тиіс.
Ол бұл жүйені «апаттық тежегіш» ретінде қарастыруды ұсынды және модельдердің бұзылуы ықтимал екенін есепке ала отырып, бақылауды бастапқы кезеңнен ұйымдастырудың маңызын жеткізді.
Жасанды интеллект қауіпсіздігі саласындағы мәселелер
Наделланың мәлімдемелері жасанды интеллект модельдерін басқарудағы қиындықтар мен соңғы уақытта бірнеше ірі компаниялардың бақылауында қарама-қайшылықтар ұшырап отырған жағдайларға қатысты айтыла жатыр. Бұл пікірлер Anthropic компаниясының бас директоры Дарио Амоедидің сақтық шараларын күшейту туралы жоспарын жариялағаннан кейін айтылды.
Дереккөз: TechCrunch
