AI агенттері – сіздің “әріптестеріңіз” емес

Кіріспе

Жасанды интеллекттің кең өріс алуымен оның қызметшілері немесе агенттері туралы түсінік кеңінен таралуда. Кейбір компаниялар жасанды интеллект құралдарын өздерінің қызметкерлерімен теңестіріп, оларға ат қойып, нақты міндеттер жүктейді. Алайда осындай құралдарды адам әріптестерінен ерекшелеу маңызды. Бұл мәселе сарапшылардың назарында тұр, себебі жасанды интеллект агенттерін «әріптес» ретінде қабылдау жұмыс нәтижесіне және жауапкершілік тұжырымдамасына әсер етеді.

Негізгі түсіндірме

Эмма Вайлс, Бостон университетінің бизнес профессоры, жасаған зерттеу жасанды интеллект агенттерін адам қызметкері ретінде атау олардың жұмыс сапасына кері ықпал ететінін көрсетті. Зерттеуге қатысушылар «AI қызметкерінің» тапсырмасын чат-ботқа қарағанда 18% аз қателік тапқан. Бұл бот екенін білмей, оларға жасанды интеллект бағдарламасын командадағы әріптес сияқты қабылдау, шын мәнінде, оның өнімділігін төмендетеді. Мұндай қате қабылдау адам жауапкершілігін әлсіретеді және жұмыс барысындағы бақылауды нашарлатады.

Агенттік жасанды интеллекттің шынайы мәні

AI агенттері – нақты мақсатқа жету үшін белгіленген алгоритм бойынша үздіксіз жұмыс істейтін бағдарламалар. Олардың техникалық деңгейі күрделі тапсырмаларды орындауда жақсы нәтижеге жетіп отыр. Бірақ оларды толыққанды адам әріптесі немесе қызметкер ретінде қарау шындыққа сай келмейді. Бұл көзқарас жасанды интеллект мүмкіндіктеріне шектен тыс сенім тудырып, сол арқылы оны бақылайтын адамдардың жауапкершілігінің төмендеуіне әкеледі.

Контекст және мысалдар

Microsoft, OpenAI, Anthropic, Google сияқты ірі компаниялар жасанды интеллект агенттерін адам тәрізді ынтымақтастық құралы ретінде ұсынуда. 1 261 менеджердің шамамен үштен бірі өз компаниясында AI агенттерін қызметкер ретінде қарастырады, олардың 23%-ы оларды ұйымдық диаграммада да көрсетеді. Дегенмен, бұл тәжірибе пайдалы ақпаратты төмендетуі мүмкін.

Мысалы, Ирандағы мектепке түсірілген бомбалық соққы кезінде қателіктерді бүкілдей жасанды интеллект агенті – Claude-қа артуы көпшілік арасында тараған. Алайда түпкі себеп адамдық шешімдер мен басқарудағы кемшіліктерге байланысты болғаны анықталды. Бұл оқиға AI агенттеріне сенім артудың қауіптілігін көрсетеді және олардың кінәлі екенін қабылдаудың әділетсіз екенін айқындайды.

Практикалық маңызы

MIT-тің экономисі Дарон Асэмоглу AI агенттерін адамның жұмысын толықтай алмастыруға бағыттау тиімді емес деп есептейді. Оның орнына жасанды интеллект адам қабілеттерін жақсартатын құрал ретінде дамуы қажет. Стэнфорд университетінің зерттеуі бойынша 1 500 қызметкерге олардың жұмысында AI қандай тапсырмаларды атқара алатыны туралы ақпарат берілді. Қызметкерлер AI-дің кейбір үдерістерді автоматтандыруға көмектесуі қажет деп санағанымен, олардың көпшілігі техникалық мамандар ұсынған кейбір тапсырмаларды AI орындағанын қаламады. Бұл әлеуметтік және эмоционалдық факторлардың маңызын көрсетеді.

Жалпы алғанда, жасанды интеллект агенттерін «қызметкер» деп атау ыңғайлы әрі оңай жол болып көрінеді, әсіресе қателік болған жағдайда. Бірақ бұл атау құралдың шынайы мүмкіндіктерін арттырмайды. Сол себепті, жасанды интеллект қызметкерлерінің өнімділігі мен сапасын арттыру үшін адам жауапкершілігі мен бақылауының маңыздылығын ұмытпау қажет.

Қорытынды

Жасанды интеллект агенттерін адам әріптесі ретінде қарау жұмыс барысындағы қателіктердің көбеюіне және жауапкершіліктің адамнан құралға қарай артылуына әсер етеді. Олар – құралдар, және негізгі жауапкершілік адам қызметкерлердің мойнында. AI-ды тиімді пайдалану үшін оның шынайы мүмкіндіктерін дұрыс бағалап, адаммен үйлесімділігін қамтамасыз ету қажет. Тек осылай ғана жасанды интеллект біздің қабілеттерімізді шынымен жақсарта алады.

TAGS: жасанды интеллект, AI агенттері, адам және машина, жұмыс сапасы, жауапкершілік, автоматтандыру, басқару

Дереккөз: MIT Technology Review