Anthropic жасанды интеллект модельдерінің түпнұсқалығын дәлелдеу жүйесін әзірлеп жатыр

Жаңа жүйенің мақсаты және жұмысы

Anthropic компаниясы FlashProve атты ашық көзді жүйені жасап жатыр, ол жасанды интеллект модельдері шығарған нәтижелердің қай модельге тиесілі екенін дәлелдейді. Бұл жүйе криптографиялық дәлелдеме ретінде функция атқарып, пайдаланушыларға жауап алған моделі нақты сол екенін растауға мүмкіндік береді.

Жүйенің ерекшеліктері

FlashProve жалған модельдердің алданып қалмауы үшін жасалған. Бұл технология модельді құратын зертхананың өзі басқа модельмен нәтижені алмастыру әрекеттерінен сақтайды. Мысалы, компания арзанырақ модельге ауысып, шығындарын азайтып немесе қымбатырақ моделдің нәтижесін көрсетіп, жалған ақпарат бере алмайды.

Қолданылу салалары

Жүйе басқа тараптардың белгілі бір жұмысты нақты бір модель орындағанын растауына да көмектеседі. Мысалы, бағдарламалық кітапхананың осалдықтары үздік киберқорғау моделімен тексерілген немесе бизнес-жоспар нақты модельдің сараптамасынан өткенін растай алады.

Техникалық мәліметтер

Бұл технология әр модельдің «саусақ ізі» деп аталатын бірегей мәліметтік көшірмесін жариялауды талап етеді. Ол модельдің ішкі параметрлерін ашпай, криптографиялық тексеруге мүмкіндік береді. FlashProve жүйесі жеңіл болғандықтан, тексеруді жергілікті құрылғыда орындауға болады.

Жоба дамуы және ашықтығы

Зерттеушілер GitHub платформасында жүйенің техникалық сипаттамасы мен жұмыс істейтін кодын ашық лицензия бойынша жариялады. Жоба әлі толық аяқталмаған, сондықтан жүйені жүзеге асыру жоспарланбайды, алайда басқа мамандардың оны жетілдіруі үшін ортаға салынды.

Дереккөз: TechCrunch