ETSI халықаралық стандарты жасанды интеллект қауіпсіздігін реттейді

Еуропалық телекоммуникация стандарттары институты (ETSI) EN 304 223 стандартын қабылдап, жасанды интеллект жүйелерін қорғауға арналған негізгі қауіпсіздік талаптарын енгізді. Бұл стандарт кәсіпорындарда қолданылатын жасанды интеллект модельдері мен жүйелерінің қауіпсіздігін қамтамасыз етудің халықаралық деңгейдегі алғашқы еуропалық стандарты болып табылады.

Стандарт жасанды интеллект жүйелеріндегі деректерді улау, модельді жауып қою және шабуылдар сияқты ерекше қауіптерге назар аударады. Ол нейрондық желілерден бастап генеративті интеллект пен қарапайым болжамды жүйелерге дейінгі әртүрлі жасанды интеллект түрлерін қамтиды. Ғылыми зерттеулер үшін қолданылатын модельдер стандарт шеңберінен тыс қалады.

Құжатта жасанды интеллект қауіпсіздігі үшін жауапкершіліктің үш негізгі рөлі анықталды: әзірлеушілер, жүйе операторлары және деректерді сақтаушылар. Бұл бөлініс компанияларда жиі араласатындықтан, әрбір рөлдің міндеттері егжей-тегжейлі белгіленген. Мысалы, ашық кодты модельді қаржылық алаяқтықты анықтау мақсатында бейімдейтін фирма әзірлеуші мен жүйе операторы ретінде бір уақытта жауапты болады. Бұл деректердің шығу тегін жазып, модель дизайнын тексеріп отыруды міндеттейді.

Сонымен қатар, деректердің рұқсаттары мен тұтастығын бақылайтын деректерді сақтау рөліне (Data Custodians) ерекше назар аударылған. Олар жүйенің қолданылуы және оқыту үшін пайдаланылған деректердің қауіпсіздік талаптарына сәйкестігі үшін жауапты болады.

Стандарт жасанды интеллект қауіпсіздігін жүйені енгізу кезеңінде ғана емес, жобалау сатысында да қамтамасыз етуді талап етеді. Бұл кезеңде қауіпті талдау жүргізіліп, функционалдық мүмкіндіктердің барлығы тек қажетті мөлшерде шектелуі тиіс. Мысалы, көпмодальды модельдерде қажетсіз аудио немесе кескін өңдеу мүмкіндіктері қауіп тудыруы мүмкін.

Сонымен бірге, әзірлеушілер мен жүйе операторлары толық активтер тізімін жүргізіп, тәуелділіктер мен байланыстарды анықтауы қажет. Бұл айнымалы кезде белгісіз модельдерді тауып, олардың қауіпсіздігін бақылауға мүмкіндік береді. Сондай-ақ, стандарт жасанды интеллектке бағытталған шабуылдардан кейін жүйені қалыпты күйге қайтару үшін арнайы апаттық қалпына келтіру жоспарларын жасауды міндеттейді.

Жеткізу тізбегіндегі қауіпсіздік мәселелері де ескерілген. Үшінші тараптың немесе ашық кодты ресурстардың компоненттерін пайдаланғанда жүйе операторлары олардың қауіпсіздігін тексеріп, қауіп-қатерлерді құжаттамада көрсете отырып, шешім қабылдауы керек. Қара жәшік әдісімен жасалған шешімдер стандарт бойынша қабылданбайды.

Сондай-ақ, сыртқы пайдаланушыларға арналған API қызметтері жосықсыз шабуылдарды болдырмау үшін шектеулер қойып, модельдің қайта инжиниринг жасалуына және деректерді улауға жол бермеуі тиіс.

Осылайша, ETSI EN 304 223 стандарты жасанды интеллект жүйелерінің қауіпсіздігін кеңінен қамтып, ұйымдардың осы технологияны қауіпсіз әрі әділ пайдалануы үшін нақты талаптар мен жауапкершіліктерді белгілейді.