Жасанды интеллекттің аса жоғары деңгейі өте қауіпті деген ескерту жасанды интеллект зерттеушілерінен шықты
Жасанды интеллект саласында жұмыс істейтін зерттеушілер 2026 жылғы сұхбаттар сериясында аса жоғары интеллектінің адамзат үшін өте қауіпті болуы мүмкін екенін айтты. Бұндай жүйелер адамды жойып жіберуі мүмкін деген қорқыныштар кең талқыланып жатыр.
Зерттеушілердің пікірлері
OpenAI, Google DeepMind және Anthropic компанияларының бұрынғы және қазіргі қызметкерлері жасанды интеллекттің адамзаттың жойылуына әкелуі мүмкін деген ескерту жасады. Мысалы, Geoffrey Irving бұл ықтималдықты «теңге лақтыруға» теңеді. Google DeepMind-тың зерттеушісі Neel Nanda бұл мүмкіндіктің кем дегенде 10 пайыз екенін айтты. Daniel Kokotajlo superintelligence-тің «тәңірлік қуатқа» ие болатынын және оны бақылау мүмкін еместігін айтты.
Тәуекел мен жұмыс істеу себептері
Зерттеушілер қауіп-қатерлер туралы ашық талқылаудан тысқары, бұл қауіптің маркетинг немесе жалған үміт емес екенін атап өтті. Олар өз жұмыстары осы қауіптерді азайтуға бағытталғанын айтты. Мысалы, Google қызметкері Mary Phuong өз пікірі зертхана қаржыландыратынын ескертті, ал Neel Nanda өзінің жұмысын тоқтатар еді, егер ол тәуекелдерді азайтатынына сенбейтін болса.
Дереккөз: The Verge
