🤗 Kernels: маңызды жаңартулар
Кіріспе
Жасанды интеллект пен арнайы есептеулер саласында ядролар (kernels) — операцияларды жылдамдататын және тиімділігін арттыратын маңызды программалық құрамдас бөліктер болып табылады. Hugging Face компаниясының 🤗 Kernels жобасы ядроларды біріздендіру, тарату және пайдалану әдістерін жетілдіруге бағытталған. Бұл мақалада жобадағы негізгі жаңартулар мен олардың маңызы қарастырылады.
Негізгі түсіндірме
Жоба төрт бағытта дамыды:
Жаңа репозиторий түрі ретінде Kernels енгізілуі
Hub платформасында ядроларға арналған «kernel» деп аталатын жаңа репозиторий түрі құрылды. Осы арқылы пайдаланушыларға қандай операциялық жүйе, жеделдеткіштер және бэкенд нұсқалары қолдау табатыны айқын көрсетіледі. Бұл ядроларға деген іздеу мен қолжетімділікті арттыруға мүмкіндік береді және жасанды интеллект экожүйесіне оң әсер етеді.
Қауіпсіздіктің күшеюі
Ядролар Python үдерісі сияқты құқықтармен жүйеде орындалатындықтан, олардың зиянды болуы қауіпті. Сондықтан жоба бастапқыдан қауіпсіздікке ерекше көңіл бөлді. Ядроларды қайта құру және олардың бастапқы кодымен сәйкестігін тексеру қағидалары енгізілді. Nix жүйесі көмегімен жиналымдар таза және оқшауланған ортада орындалады. Сонымен қатар, қосымша қорғау ретінде сенімді баспагерлер және кодты қолтаңбамен қорғау енгізілді.
Сенімді баспагерлер
Жаңа репозиторий түрімен бірге тек қауымдастыққа сенім артқан ұйымдар ғана ядроларды жариялауы мүмкін. Сонымен бірге, басқа ұйымдар немесе пайдаланушылардан ядро жүктегенде «trust_remote_code» деген параметрді мақұлдау талап етіледі. Бұл қорғаныс зиянды ядро жүктеуге тосқауыл қояды.
Кодқа қолтаңба қою
Кодтың түпнұсқалығын қорғау үшін ядроларға қолтаңба қойылады. Бірегей жеке және ашық кілттер қолданылып, ядро ортаға шығар алдында өзінің дұрыс екені расталады. Қолтаңба Sigstore құралымен уақытша жеке кілттерді қолданып қойылады, бұл қауіпсіздікті одан әрі арттырады. Әзірге қолтаңба тексеру ядро жүктелгенде толық қолданылмайды, бірақ тестілеуге дайындалуда.
Қолданушы интерфейстерінің жаңартылуы
Kernels және kernel-builder командалық жол интерфейстері арасында нақты бөлініс орнатылды. Kernels – ядроларды жүктеу және пайдалану үшін арналған кітапхана болса, kernel-builder тек ядроларды құрастыруға бағытталған құрал. Бұл бағдарламалар жеңіл әрі нақты қызмет атқарады, пайдаланушыларға ыңғайлы.
Фреймворктер мен бэкендтерді кеңейтілген қолдау
Torch Stable ABI қолдауы енгізілді. Бұл ядролардың нақты Torch нұсқасына немесе одан кейінгі екі жылға дейінгі нұсқаларға сәйкес келуін қамтамасыз етеді. Бұған қоса, Apache TVM FFI стандартты интерфейсі қолдау тапты, бұл ядроларды бірнеше фреймворктер арасында үйлесімді қылады (PyTorch, Jax, CuPy және т.б.).
Контекст және мысалдар
Жасанды интеллекттегі ядролар өзара белгілі бір құрылғыларда жедел өнімділік көрсетеді. Мысалы, Torch 2.9 Stable ABI негізіндегі ядро Torch-тың 2.9 және одан кейінгі нұсқаларында дұрыс жұмыс істейді. Apache TVM FFI арқасында бір ядро бірнеше платформаларда орындалуы мүмкін. Сондай-ақ, агенттер ядроларды автоматты түрде жасап, сынақтан өткізу үшін kernel-builder мен kernels құралдарын пайдаланады. Мұндай агенттік тәсіл ядроларды тез және тиімді оптимизациялауға ықпал етеді.
Төменде агенттік ядролар үлгілері көрсетілген:
Практикалық маңызы
Жаңартулар ядроларды қолданудың қауіпсіздігін арттырады, пайдаланушыларға сенімді ресурстар ұсынады. Сонымен бірге, көпфреймверкалық қолдау оларды әмбебап етеді, түрлі аппараттық платформада тиімділік пен өнімділікті жоғарылатады. Сенімді баспагерлер мен кодқа қолтаңба саясаты қауіпті кодты таратудың алдын алады және жүйелердің бүтіндігін сақтайды.
Агенттік ядролар дамуы ядролардың өзіндік жасалуын және оңтайлануын жеделдетеді, жоғары өнімді модельдерді жетілдіруді жеңілдетеді. Осылайша, Hugging Face-тің 🤗 Kernels экожүйесі жасанды интеллект ядроларын қауіпсіз, тиімді және қолжетімді етуде маңызды құралға айналды.
Қорытынды
🤗 Kernels жобасындағы негізгі жаңартулар ядроларды басқаруда сенімділік пен ашықтықты күшейтті, ядроларды құру және пайдалану процесін нақтылады. Жоба ядролардың қауіпсіздігі мен үйлесімділігін арттыру арқылы жасанды интеллект саласын дамытуға үлес қосуда. Kernels технологиясының алға басуы жасанды интеллект қолданбаларындағы есептеу мүмкіндіктерін кеңейтіп, тиімділікті жоғарылатады.
TAGS: ядролар, қауіпсіздік, жасанды интеллект, Hugging Face, пакет басқару, агенттік даму, бағдарламалау құралдары
Дереккөз: Hugging Face Blog
