Mustafa Suleyman: Жасанды интеллект дамуының шегі алыс

Адамдар жаралған әлеміміз сызықты құрылымды ұстанады. Егер бір сағат бойы жүрсеңіз, белгілі қашықтықты еңсересіз, ал егер екі сағат жүрсеңіз, қашықтық та екі есеге артады. Бұл интуиция саваннадағы тіршілігімізге қызмет етті. Алайда, жасанды интеллект пен оның негізгі экспоненциалды өсу үрдістерін бағалау кезінде бұл көзқарас түбегейлі жарамайды.

Жасанды интеллект дамуының негізгі тенденциялары

2010 жылдан бері жасанды интеллект саласындағы даму ауқымы шынымен таңқалдырушы: алдыңғы қатарлы модельдерді оқыту үшін қолданылатын есептеу көлемі 10¹⁴ операциядан 10²⁶ операцияға дейін ұлғайды. Бұл экспоненциалды өсу барлық басқа үрдістердің негізіне айналған басты фактор.

Кейбір сыншылар даму шегінің жақындап қалғанын, мәліметтердің жетіспеушілігін немесе энергия ресурстарының шектеулігін алға тартады. Алайда осы күштерді талдап қарағанда, экспоненциалды үрдістің сақталуы нақты көрінеді.

Өркендеу механизмдері мен технологиялық жетістіктер

Есептеу құрылғыларының жылдамдығы

Nvidia компаниясының чиптері соңғы алты жылда есептеу өнімділігін жеті есеге жақын арттырды. 2020 жылы 312 терафлопс тапқан чиптер бүгінде 2250 терафлопсқа жетуде. Microsoft AI-дың Maia 200 чипі долларға шаққанда өнімділік жағынан нарықтағы үздіктердің бірі болып саналады.

Жады технологияларының дамуы

HBM (жоғары өткізу қабілетті жады) технологиясы чиптерді вертикальді түрде жинақтап, мәліметтер ағынын жылдамдатты. Соңғы буыны – HBM3 – алдыңғы нұсқасымен салыстырғанда өткізгіштігін үш есе арттырды, бұл процессорлардың үздіксіз жұмыс істеуіне мүмкіндік береді.

Үлкен есептеу кешендерінің пайда болуы

NVLink және InfiniBand сияқты технологиялар жүз мыңдаған графикалық процессорларды біріктіріп, қойма көлеміндегі суперкомпьютерлер жасауға жол ашты. Бұрын мұндайға қол жеткізу мүмкін емес еді.

Контекст және мысалдар

2020 жылы тілдік модельдерді оқыту 8 GPU-мен 167 минуттай уақыт алса, қазіргі заманғы жабдықтардың көмегімен бұл процесс төрт минуттан да аз уақытты талап етеді. Бұл Moore заңының болжамымен салыстырғанда 50 есе жоғары тиімділік екенін көрсетеді.

2012 жылы AlexNet нейрондық желісін оқытуда екі GPU пайдаланса, бүгінгі үлкен кластерлерде 100 000 GPU жұмыс істеп, олардың әрқайсысы алдыңғы модельдерге қарағанда әлдеқайда қуатты.

Epoch AI зерттеуіне сәйкес, көрсеткішті деңгейге жету үшін есептеу қуаты орташа есеппен әр сегіз ай сайын екі есе төмендеп келеді, бұл Moore заңындағы 18-24 айдық кезеңнен әлдеқайда тиімді.

Практикалық маңызы және әсерлері

Алдағы жылдары жасанды интеллект жүйелері қарапайым сұрақтарға жауап беретін көмекшілер емес, код жаза алатын, бірнеше апта және айға созылатын жобаларды басқара алатын, келіссөздер жүргізіп, логистиканы реттей алатын жартылай автономды агенттерге айналады.

Бұл өзгеріс когнитивті еңбекке негізделген барлық салаға елеулі ықпал етеді. Энергия тұтыну – басты шектеулердің бірі. Бір ғана салқындатқыш көлеміндегі AI құрылымы 120 кВт энергия пайдаланады, бұл жүзге жуық үйдің тұтынысымен тең.

Дегенмен, күн энергиясы мен аккумуляторлар бағасының айтарлықтай арзандауы арқылы таза энергиямен кең масштабты жұмыс жасау мүмкіндігі күшейеді. Бұл технологиялық және қаржылық негіз қазіргі кезде АҚШ және әлем бойынша кеңінен іске асырылуда.

Қорытынды

Mustafa Suleyman айтуынша, жасанды интеллект саласындағы есептеу қуатының күрт өсуі – бүгінгі технологиялық дәуірдің басты оқиғасы. Осы өрлеу әлі басталған ғана. Бұл үрдіс когнитивті молшылыққа қол жеткізуге және жасанды интеллекттің адамзат өміріне терең ендірілуіне әкеледі.

Дереккөз: MIT Technology Review