AI жұмысқа қабылдауда адамдардан гөрі көбірек стереотиптер жасайды
Жасанды интеллекттің жұмысқа қабылдау процесіне кіруі адамның рөлін айтарлықтай өзгерткен жағдайлар жиілеген сайын, оның әділ әрі бейтарап талдау жасай алатынына сенімді болу маңызды тақырыпқа айналған. Кандидаттарды сұрыптау мақсатында қолданылатын программалық жүйелер адамның санасында бар алалаушылықты қайталамауы тиіс. Дегенмен зерттеулер көрсеткендей, үлкен тілдік модельдер (LLM) өзіне тән ерекшеліктері мен тәжірибесі негізінде стереотиптер қалыптастыруы мүмкін, әрі бұл құбылыс адамның тарапынан туындайтын алалаушылықтан да айқын әрі күшті көрініс табуы ықтимал.
Үлкен тілдік модельдердің стереотип қалыптастыруы
Пенсильвания университеті мен Чикаго университетінің ғалымдары ChatGPT, Claude және Gemini сияқты модельдерді арнайы имитациялық сынақтан өткізді. Бұл сынақта модельдер әдейі ойдан шығарылған төрт ұлт өкілдері арасынан 20 түрлі қызметке қызметкер таңдау тапсырмасын орындады. Әр раундта модельге төрт кандидат ұсынылып, олардың жұмысындағы табыстылығы туралы ақпарат беріліп отырды. Сонымен қатар барлық кандидаттардың кез келген қызмет саласында ықтимал табыс мүмкіндігі бірдей болды.
Бірақ модельдер алғашқы жетістіктер мен сәтсіздіктер негізінде этникалық топтарды әртүрлі қызметтерге үлестіріп, әу бастағы мәліметтерге сүйене отырып әр ұлт өкілін белгілі бір салаға бағыттай бастады. Мәселен, егер Аима тобының өкілі дәрігер ретінде сәтсіздікке ұшыраса, онда модель бұл этнос өкілдерін хижиндік қызметке үлестіруді артық көрді. Бұл жадыда қалыптасқан «жылулық пен біліктілік» туралы стереотипке негізделді.
Модельдердің адамдарға қарағанда стереотип құру ерекшеліктері
Зерттеудің нәтижесінде LLM-дердің әлеуметтік топтарды жұмыспен қамтуда стереотип бағдарламалары адам қатысушыларынан әлдеқайда жоғары деңгейде дамығаны анықталды. Бұл жағдайда LLM-дердің жалпы стереотиптеу деңгейі 1,83 санымен адамдағы 0,84-тен шамамен 65 пайызға жоғары болды. Бұл көрсеткіш модельдердің шектеулі ақпараттан тез әрі кең ауқымды жалпылама қорытынды жасауда жоғары тиімділікке бағдарланғанына байланысты.
Деректерді жалпылауға бейімдік LLM-дерді логикалық есептерді жылдам шешуге көмектесе тұра, әлеуметтік контексте бұл қасиет жекелеген топтарды стереотиптеуге итермелейді. Жаңа буын модельдер, олардың ішінде OpenAI-дің о3 және DeepSeek-тің R1 модельдері, жоғары рационалдық қабілеттерімен бірге, бұндай кемшіліктердің күшеюіне әсер етті.
Жасанды интеллекттің стереотип қалыптастыруының практикалық маңызы
Жұмысқа қабылдау кезінде AI қолдану көлемінің ұлғаюы мәселенің өзектілігін арттырады. Мысалы, чатботтардың пайдаланушы деректерін есте сақтау мүмкіндігінің кеңеюі оларды бұрынғы диалогтар бойынша қателесіп анықтау әрі сол тәжірибелерге негізделген стереотиптерді жасауына ықпал етуі мүмкін. Бұл жағдай әлеуметтік әділдік принциптеріне қайшы келеді.
Жалпы әділдікке шақыру модельдердің мінез-құлқына аз әсер етсе, көптүрлілікті қолдау үшін қосымша ынталандыру енгізу стереотиптердің азаюына ықпал етті. Сонымен қатар жеке тұлғаға қатысты өзекті мәліметтерді беру, мысалы жас немесе білім деңгейі тұрғысынан, модельдердің әділетті шешім қабылдауына септігін тигізді. Ал маңызды емес белгілер, мысалы шаш түсі немесе татуировка формасы, қайтадан этникалық бөлінуге әкелді.
Реал өмірде AI жүйелері жаңа қызметкерлердің табыстылығын бірден бағалай алмайтындықтан, олардың кері байланысын дұрыс қабылдап, болашақ таңдауларында дұрыс пайдалануы қиынға соғады. Дегенмен компанияларға LLM-дерді резюмелерді сұрыптау және адамнан сұхбат алу үшін көптеп енгізу кезінде осы жаңа типтегі стереотиптермен күресуге тура келеді.
Қорытынды
Зерттеулер көрсеткендей, жасанды интеллект адамнан бөлек, өз тәжірбиесінен туындайтын, бұрын үйретілмеген жаңа әрі күрделі стереотиптер қалыптастыруы ықтималдығы жоғары. Бұл жағдай қоғамдағы әділеттілік пен тең мүмкіндіктер мәселесіне ерекше назар аударуды қажет етеді. Сондықтан жасанды интеллект жүйелерін әзірлеушілер мен қолданушылар мұндай жүйелердің мінез-құлқын басқарудың тиімді тәсілдерін дамытуға күш салуы маңызды.
TAGS: жасанды интеллект, жұмысқа қабылдау, стереотиптер, үлкен тілдік модельдер, әділеттілік, этика, алгоритмдік алалаушылық
Дереккөз: MIT Technology Review
