Granite 4.0 1B Speech: Компактты, көптілді және шекаралық құрылғыларға арналған сөйлесу моделі

Сөйлеуді автоматтық тану және тілдерді аудару саласында модельдердің сапасы мен тиімділігі жаңа технологиялардың дамуымен ерекше маңызды болуда. Бұл тұрғыда, IBM компаниясы әзірлеген Granite 4.0 1B Speech моделі шағын өлшемі мен көптілді қолдауымен жүйелер арасында өз орнын бекемдеді. Мұндай модель әсіресе ресурсы шектеулі құрылғылар мен көптілді ортаға бағытталған қосымшалар үшін үлкен мәнге ие.

Модельдің негізгі сипаттамалары

Granite 4.0 1B Speech – бұл автоматтық сөйлеуді тану (ASR) және екіжақты сөйлеу аудару (AST) функцияларын біріктірген шағын әрі тиімді модель. Оның параметрлер саны алдыңғы нұсқасы granite-speech-3.3-2b-мен салыстырғанда жартысына тең, алайда ағылшын тіліндегі транскрипцияның дәлдігі жоғары. Сонымен бірге, модель спекулятивті декодтау әдісінің арқасында тез жауап береді.

Тілдік қолдау аясын кеңейту мақсатында орыс, француз, неміс, испан, португал және жапон тілдері қамтылған. Жапон тіліне арналған автоматтық сөйлеуді тану мүмкіндігі мен есімдер мен қысқартулардың танылуын жақсартатын кілтсөздерге бейімдеу жүйесі енгізілді. Бұл қасиеттер пайдаланушылар арасындағы жиі қойылатын сұраныстарды ескере отырып жасалған.

Контекст пен мысалдар

Granite 4.0 1B Speech OpenASR рейтингінде бірінші орынға ие болды, соның арқасында ашық сөйлеуді тану жүйелері арасында жоғары орында тұрғаны дәлелденді. Осы модельдің кішігірім көлеміне қарамастан, ағылшын тіліндегі стандартты сынақтарда қарапайым сөз қателігі («Word Error Rate» – WER) төмен болып, тиімділігін көрсетті.

WER мөлшері модельдің сөйлеуді қаншалықты дұрыс танитынын көрсетеді – осы көрсеткіш неғұрлым төмен болса, нәтиже соғұрлым жақсы саналады. Есептеулер көптеген деректер жиынтықтары бойынша жүргізілді, және Granite 4.0 1B Speech басқа көптеген ірі модельдермен салыстырғанда параметрлер саны аз болса да өте бәсекеге қабілетті болды.

Пайдалану және әсері

Модель Apache 2.0 лицензиясымен ашық қолжетімді етіп шығарылды, сондықтан оны transformers және vLLM сияқты ортада еркін енгізуге болады. Әртүрлі ASR және AST сынақтарының нәтижелері модельдің көптілді және аударма тапсырмаларында өзін жақсы көрсеткенін растайды.

Өнеркәсіптік ортада жоғары тәуекелдерді анықтау қажеттігі болса, Granite Guardian жүйесімен бірге қолданып, қауіпсіз және сенімді қызметтер жасауға мүмкіндік бар. Тиімділігін және шағын өлшемін ескере отырып, модель телефон, планшет, және шекаралық құрылғыларда сөйлесу және аударма қосымшаларын дамытудың негізгі құралы ретінде қолданылуда.

Қорытынды

Granite 4.0 1B Speech өзінің қолжетімді өлшемі, көптілділігі және жоғары дәлдігінің арқасында күрделі тапсырмаларға лайықты шешім ұсынады. OEM және ІТ-компаниялар үшін бұл модель ресурсы шектеулі құрылғыларда жүйелік өнімділікті арттырып, пайдаланушыларға сапалы сөйлеу тану мен аударма қызметін ұсыну мүмкіндігін кеңейтеді.

Дереккөз: Hugging Face Blog