«Адамзаттың жойылу қаупі бар»: ЖИ жасаушы компаниядағы зерттеуші жұмыстан кетті

Жасанды интеллектіні дамытудағы бәсеке қауіпті шекке жетіп барады. Anthropic компаниясының зерттеушісі Джейкоб Коксон технологиялық компаниялар қауіпсіздік мәселесін екінші орынға ысырып, өзін-өзі жетілдіретін суперинтеллект жасауға асығып жатыр деп мәлімдеді, деп хабарлайды NewsMedia.kz.

Anadolu агенттігінің жазуынша, Коксон бұған дейін OpenAI компаниясында жұмыс істеген. Ол 8 қыркүйекте Anthropic-тен кеткенін және бұдан былай жасанды интеллект индустриясында жұмыс істемейтінін жариялады.

Зерттеушінің пікірінше, OpenAI мен Anthropic арасындағы жасанды интеллектіні дамыту жарысы жауапсыз сипат алып барады. Ол компаниялар суперинтеллект жасауға ұмтылып, мұндай жүйелердің адамзатқа төндіруі мүмкін қауіптерін жеткілікті деңгейде ескермей отыр деп санайды.

ОҚИ ОТЫРЫҢЫЗ: Қазақстанда қазақ тілін түсінетін отандық ЖИ көмекшісі жасалмақ

Олар біздің өмірімізбен ойнап жатыр, – деп жазды Коксон әлеуметтік желідегі парақшасында.

Оның айтуынша, ЖИ саласында жұмыс істейтін мамандардың арасында технологияның адамзатқа жойқын қауіп төндіруі мүмкін деген алаңдаушылық кең таралған. Коксон бұл пікірді компаниялардың сыртқы имиджіне арналған маркетингтік мәлімдеме емес, ұйымдардың ішінде де жоғары лауазымды басшылар мен тәжірибелі зерттеушілер арасында бар шынайы қауіп деп бағалайды.

Коксонның сөзін Anthropic компаниясының қазіргі қызметкері, Alignment бөлімінің жетекшісі Эван Хубингер де қолдады. Ол жасанды интеллект алдағы он жыл ішінде адамзаттың толық жойылуына алып келуі мүмкін деген ықтималдықты 10 пайыздан жоғары деп бағалайтынын айтты.

Anthropic өз кезегінде жасанды интеллектінің адамзатқа үлкен пайда әкелуімен қатар, бұрын-соңды болмаған қауіптер тудыруы мүмкін екенін үнемі ашық айтып келе жатқанын мәлімдеді.

Компания өкілдерінің сөзінше, Anthropic ЖИ модельдерінің қауіпсіздігін қамтамасыз ету үшін қорғаныс шараларын күшейтіп, олардың ішкі жұмыс істеу принциптерін зерттейтін механистік интерпретация бағытында жұмыс істеп жатыр. Сонымен қатар компания жасанды интеллектінің киберқауіпсіздік пен биология салаларындағы қауіпті мүмкіндіктерін тұрақты түрде тексереді.

Жасанды интеллектіні бақылау мәселесі әлемде барған сайын өзекті бола түсуде. Бұған дейін Қытай ЖИ-ді пайдалануға қатысты жаңа ережелер енгізген болатын.

Ал АҚШ пен Қытай жасанды интеллект қауіпсіздігі мәселесі бойынша келіссөздер жүргізуге ниетті.