NVIDIA Nemotron 3 Embed: Жаңа Embedding Модельдеріндегі Алға Қозғалыс пен Агенттік Іздеу Мүмкіндіктері

Жасанды интеллект саласындағы ақпаратты іздеу және сұрыптау технологияларының маңызы өсуде. Көптеген көпсатылы агенттік жүйелерде ақпаратты дәл және тиімді іздеу — негізгі міндеттердің бірі. Осы тұрғыдан, NVIDIA компаниясының Nemotron 3 Embed атты жаңа embedding модельдер жиынтығы іздеу сапасын арттыруда және өндірістік деңгейде қолайлылық ұсынуда маңызды қадам ретінде қаралады. Бұл мақалада Nemotron 3 Embed моделдері, олардың ерекшеліктері, бағалау нәтижелері мен қолдану мүмкіндіктері талданады.

Nemotron 3 Embed модельдерінің негізгі ерекшеліктері

Nemotron 3 Embed — ашық және коммерциялық қолжетімді embedding модельдер жиынтығы. Олар әртүрлі өлшем мен есептеу қуатына сәйкес үш негізгі модельден тұрады:

• Nemotron-3-Embed-8B-BF16: ең жоғарғы дәлдікпен ерекшеленетін, RTEB рейтингісінде бірінші орынға жайғасқан флагмандық модель. Күрделі тапсырмалар мен іскерлік RAG жүйелеріне арналған.
• Nemotron-3-Embed-1B-BF16: орташа ресурстармен сапалы жұмыс істейтін, өнімділік пен шығынды оңтайландыруға бағытталған модель. Шатақ және шығындарға сезімтал сервистерге лайықталған.
• Nemotron-3-Embed-1B-NVFP4: NVIDIA Blackwell архитектурасы үшін арнайы оңтайландырылған, аз жады қажет ететін және жоғары өтімділікпен ұтымды жұмыс атқаратын 4-биттік нұсқа.

Бұл модельдердің әрқайсысы оңтайлы өнімділік пен қолданыс аясын қамтамасыз етеді, соның арқасында бизнес пен зерттеу салаларындағы әртүрлі талаптарға жауап береді.

Бағалау және нәтижелер

Nemotron 3 Embed модельдері бірнеше өлшем бойынша тексерілді: іздеу сапасы, агенттік тапсырмалардағы тиімділік және өндіріске енгізудегі артықшылықтар мен шектеулер.

RTEB рейтингіндегі жетістік: Nemotron-3-Embed-8B-BF16 моделі RTEB көптілді іздеу көрсеткішінде үздік нәтиже көрсетті (78,5%), сонымен бірге MMTEB Retrieval тапсырмаларында да жоғары дәлдікке ие болды. Одан кейінгі Nemotron-3-Embed-1B-BF16 моделі RTEB-де 72,4% көрсеткішпен алдыңғылардан айтарлықтай озып, іздеуді тездету және ресурстарды үнемдеу тұрғысынан тиімді.

Агенттік іздеуде қолданудың артықшылықтары

Іздеудің дәлдігі агенттік жүйенің жалпы өнімділігіне тікелей әсер етеді. Қате немесе маңызды емес ақпаратты алу үдерісі ұзаққа созылып, артық өңдеу мен қайта сұрауларға әкеледі. Nemotron 3 Embed моделдері іздеуді жылдамдатып, маңызды ақпаратты жылдам табуға көмектеседі. Бұл агенттердің қайталау іздеуін азайтып, қажетсіз түсініктердің алдын алады. Бұның нәтижесінде, тапсырмаларды орындауға жұмсалатын токен ресурстары азайып, есептеу тиімділігі артады.

NVFP4 архитектурасы бойынша масштабтау

Жоғары өтімділік пен аз кідіріспен жұмыс істейтін сервистерге арнайы Nemotron-3-Embed-1B-NVFP4 моделі ұсынылған. NVIDIA Blackwell чипінде NVFP4 4-биттік форматында салмақтар мен активацияларды өңдеп, есептеулерді жеделдетеді. Бұл тәсіл дәстүрлі FP16 нұсқаларға қарағанда екі есеге дейін өнімділікті арттырады. Сонымен қатар, кванттау технологиялары арқылы модельдің дәлдігі шамамен 99% сақталады, яғни жады көлемі мен энергия шығыны төмендейді, ал сапасы жоғары деңгейде қалады.

Өндірістік ортаға енгізу және интеграция

Nemotron 3 Embed жинағы Hugging Face платформасында қолжетімді болып, өнімге тез енгізу мен бейімдеуге мүмкіндік береді. NVIDIA NIM (NVIDIA Inference Microservice) негізінде Rust тілінде жазылған микроқызмет модельді әртүрлі аппараттық конфигурациялармен үйлесімді түрде жүргізеді. Тестілеу көрсеткіштеріне сәйкес, Nemotron 3 Embed NIM шешімі RTX PRO 6000 және GB200 GPU-ларында кәсіби деңгейдегі жүйелермен салыстырғанда бірқатар жағдайларда жақсы жұмыс нәтижесін көрсетті. Бұл өндірістік масштабтағы қолданбалар үшін өте маңызды, себебі жүктеменің үлкендігі мен мәлімет ауқымының күрделілігі орташа деңгейлі модельдерді де тиімді пайдалануға мүмкіндік береді.

Nemotron 3 Embed модельдерін жасау ерекшеліктері

Nemotron-3-Embed-8B-BF16 моделі Ministral-3-8B-Instruct-2512 негізіндегі архитектураның рекурренттік кодтау жүйесі толық жетекші энкодерге айналдырылып, толық мәтін шеңберінде іздеу үшін қолданылды. Қарапайым және синтетикалық мәтін жұптарының контрастты алдын ала оқытуы, көптілді тематикалық дерекқорларда соңғы баптаулар нәтижесі жоғары дәлдік пен әмбебаптықты қамтамасыз етті. Ал Nemotron-3-Embed-1B-BF16 және NVFP4 нұсқалары осы 8B флагманғадан сығымдап, оңтайландырылған дайындаудан өтті, бұл шағын ресурстар жағдайында да жақсы нәтижеге қол жеткізуге мүмкіндік берді.

Қорытынды

Nemotron 3 Embed модельдері – іздеу жүйелерін жаңа деңгейге көтеретін, кең ауқымды тапсырмаларға лайықталған, икемді және әр түрлі технологиялық талаптарға сәйкестендірілген шешімдер жиынтығы. Олардың жоғары нәтиже көрсететін 8 миллиард параметрлі нұсқасы және ресурстарды үнемдеуге арналған жеңілдетілген түрлері іскерлік, зерттеу, код іздеу және агенттік жады жүйелеріне лайықталған. Nemotron 3 Embed арқылы NVIDIA іздеу технологияларының сапасын, қолжетімділігін және тиімділігін арттыруда үлес қосты.

TAGS: жасанды интеллект, embedding модельдері, NVIDIA, ақпаратты іздеу, агенттік жүйелер, кванттау, Hugging Face

Дереккөз: Hugging Face Blog