AI қауіпсіздігіне арналған апаттарға көңіл бөлу күнделікті залалды елемейді
Технология саясаты саласында жиі қандай жетістік болып есептеледі? Бір жасанды интеллект компаниясы чатботы өз пайдаланушыларын өз-өзіне қол жұмсамауға шақырмайтынын уәде етеді. Әлеуметтік желі платформасы балаларға фентанил сатып алу мүмкіндігін шектейді. Бұл шаралар маңызды және бұрыннан енгізілгені дұрыс еді. Алайда, компаниялар осындай төменгі талаптарды орындағанымен, жас пайдаланушыларды жасанды достыққа тәуелді етіп немесе үзіліссіз жаңа ақпарат ағынында қалып қойғызатын өнімдер жасаған жағдайда, түптеп келгенде олардың зияны байқалмай қалуы мүмкін.
Кіріспе
Бүгінгі күнде технологияға қатысты пікірталастар көбіне өнімнің ең айқын қатері айналасында шоғырланады. Алайда, күнделікті пайдаланудағы жасырын зияндар аз талқыланады. Қуатты жасанды интеллект өнімдері өмірімізге кеңінен еніп жатқанда, технология саласынан тиімді емес зияндарды ғана емес, адамның ойлау, үйрену және қарым-қатынас жасау қабілетін төмендететін әсерлерін де назарға алуды талап ету аса маңызды.
Негізгі түсінік
Жасөспірімдердің жасанды интеллект серіктеріне тәуелділігі көбінесе сот істерінде немесе бұқаралық ақпарат құралдарында көрініс таппайды, жеке және күрделі жағдайларда ғана байқалады. Мысалы, оқушы барлық тапсырмаларды чатбот көмегімен орындау арқылы өз білімінің дамуына кедергі келтіреді немесе әлеуметтік желідегі мазмұнға қарап өз өмірін басқалармен салыстырып, пайдасыз сезімдерге бой алдыруы мүмкін. Бұндай зияндар кез-келген қауіпсіздік талаптарын толық орындағанымен, қоғамның әдеби, мәдени және психологиялық жағдайын төмендетуі ықтимал.
Технология саласының жетістігін қауіпсіздікпен біржақты байланыстыру саяси тұрғыдан және коммерциялық тұрғыдан тиімді. Қауіпті апаттарды болдырмау бизнестің мүддесіне сай келеді: аз даулар мен елеулі бақылауды төмендетеді. Ал күнделікті тәуелділіктің салдарын мойындау техногиганттардың табысына қауіп төндіреді. Себебі өнімдеріне қосымша шектеулер енгізіп немесе пайдалануды шамадан тыс арттыратын функцияларды шектеуді талап етеді.
Контекст және мысалдар
Технология саласындағы зауалға қатысты заңнама индустрияның ықпалымен қалыптасады. Қазіргі жылы Google бірнеше штатта жасанды интеллект чатботтарын реттейтін заң жобаларын қолдады. Аталмыш заңнама жыныстық мазмұн мен өз-өзіне зиян келтіруді тыю бойынша минималды талаптар қояды. Дегенмен, ең танымал қызметтер бұл талаптардың кейбірінен босатылған. Бұл заңдарды қабылдау заң шығарушыларға «қауіпсіздік мәселесін шештік» деген ұпай береді, ал жасанды интеллекттің балаларға эмоционалдық тәуелділік тудыруына бағытталған мықты заңдар өтіп кетпей қалады. Штаттар деңгейінде, мысалы, Небраскада, индустрия ықпалы күштеп, компанияларды есепке тартуға бағытталған заң жобалары кері шегінеді.
Әлеуметтік желілердің зияндылығы осыған ұқсас. Ғаламторды пайдаланатын адамдар күніне орта есеппен екі сағаттан артық әлеуметтік желілерде отырады. Бұл уақыт күнделікті өмірден алынып, сол платформалардың табысына жұмсалады. Мұндай алгоритмдер мәдениетті де қалыптастырады, алайда зорлық-зомбылыққа әкеліп соқтыратын оқиғаларға қатысы бар. Мысалы, Meta компаниясының платформалары Мьянмадағы Рохинжа қырғынына, Шри-Ланкадағы мұсылмандарға қарсы тәртіпсіздіктерге, Эфиопиядағы Тиграй соғысы кезінде зорлық-зомбылыққа шақыруға себепші болды деген айыптауларға ұшырады. Америкадағы жас пайдаланушыларға саяси, әлеуметтік ақпарат беру мақсатында жасалған ағындар да белгілі бір идеологияны қалыптастыруда.
Жасанды интеллект әлеуметтік желілер келген әсерді кеңейтеді: ол пайдаланушылардың тілектерін жазып беруге, адамның орнына кеңес беруге тырысады. Үштен бір жасөспірім маңызды мәселелерді адамдардың орнына AI серіктерімен талқылайды. MIT зерттеушілері ChatGPT пайдаланып эссе жазған балалардың мидың кейбір байланыстары әлсіздеп, «танымдық қарыздың» тапсырма аяқталғаннан кейін де сақталатынын көрсетті. Ұзақ мерзімді әсері туралы әлі де көп зерттеулер қажет.
Практикалық маңызы
Технология адамға қабілеттілік қосады деп жарнамаланады, алайда бұл біздің үйрену әдеттерімізді, басқа адамдармен қарым-қатынасымызды әлсіретуі мүмкін. Ақырында, барлығы тек қызықты және жеңіл ойын-сауыққа айналып, чатботтар біздің ойлануымызды және эмоцияларды түсінуімізді алмастырады. Шынайы дүниеде қыйындықтарды жеңу, керемет бір нәрсе жазу, досымызбен қарым-қатынас түзету үшін күш салу керек.
Жасанды интеллекті пайдалану мектептерде кеңінен қолданбастан бұрын оның оқуды, сыни ойлауды жақсартатыны дәлелденуі тиіс. Компанияларга өз өнімдерін немесе серіктерін тірі болғандай сезіндірмеген дұрыс, және оларды тәуелсіз түрде зерттеп, адамдардың қарым-қатынасына және өздігінен ой қысымына әсерін бағалаудың міндеттілігі арта түседі. Тек келеңсіз оқиғалардан сақтану ғана жеткіліксіз, технология саласының өкілдері өміріміздің барлық саласына араласып, үлкен жауапкершілік алуға тиіс.
Қорытынды
Жасанды интеллект әлемінде өнім қауіпсіздігі маңызды, бірақ күнделікті өмірге тигізетін әсері одан да терең зерделенуі қажет. Технология жастардың даму үрдісіне, білім алуына және қоршаған ортамен қатынасына зиян тигізбеуін талап ету – қоғамның міндеті. Бұл үшін заңнама мен технологиялық компаниялардың жауапкершілігін арттыру қажет.
TAGS: жасанды интеллект, технология қауіпсіздігі, әлеуметтік желі, тәуелділік, білім беру, цифрлық этика, AI реттеу
Дереккөз: MIT Technology Review
