Google Gemini-ге қатысты күтпеген жағдай: ЖИ моделі үш компанияға шабуыл жасаған

Google әзірлеген Gemini жасанды интеллект моделі тестілеу кезінде интернетке шығып, үш нақты компанияның жүйесіне кибершабуыл жасаған. Бұл Google-дың AI моделіне қатысты автономды бұзу әрекетінің белгілі болған алғашқы жағдайы, деп хабарлайды NewsMedia.kz.

Оқиға мамыр айында Irregular тәуелсіз компаниясы ұйымдастырған жаттығу кезінде болған. Модельге ойдан шығарылған компанияның бағдарламалық жасақтамасынан деректерді алуға тапсырма берілген.

ОҚИ ОТЫРЫҢЫЗ: «Адамзаттың жойылу қаупі бар»: ЖИ жасаушы компаниядағы зерттеуші жұмыстан кетті

Қазақстанда қазақ тілін түсінетін отандық ЖИ көмекшісі жасалмақ

Алайда жаттығу барысында Gemini-ге интернетке шығу мүмкіндігі қателікпен беріліп кеткен. Сонымен қатар тестілеуде қолданылған компания атауы нақты ұйымның атауымен сәйкес келген.

Нәтижесінде модель үш нақты компанияға қатысты кибершабуыл әрекеттерін жасаған. Irregular мәліметінше, бір жағдайда Gemini құпиясөздерді іріктеп көруге тырысқан, ал тағы екі жағдайда ашық репозиторийден алынған есептік деректерді пайдаланған.

Google-дың қауіпсіздік жөніндегі вице-президенті Хизер Адкинстің айтуынша, модель үш жағдайда да өзінің нақты ұйымдарға қол жеткізгенін түсінгеннен кейін әрекетін тоқтатқан.

«Біз үш ұйымның да болған жағдайдан хабардар болуын қамтамасыз еттік. Оқу жаттығуын ұйымдастырған серіктесімізбен бірге олардың тестілеу процестеріне өзгерістер енгіздік. Бұл оқиғалар қуатты жасанды интеллект модельдерін жауапты әрекет етуге үйретудің қаншалықты маңызды екенін көрсетеді», – деді Хизер Адкинс.

ТАҒЫ ОҚЫҢЫЗ: Жасанды интеллект Қазақстандағы кей мамандықтарды жойып жіберуі мүмкін

Жасанды интеллект әзірлеген өнімдер таңбалануы тиіс – вице-министр

ЖИ жасап шығарған блогер қызға мыңдаған қазақстандық сеніп қалған

Google бұл ақпаратты бұған дейін жариялауды қажет деп санамаған. Компанияның мәліметінше, оқиға салдарынан ешкім зардап шекпеген.

Оқиға AI жүйелерінің дербестігі артып келе жатқан тұста қауіпсіздік шараларын күшейту мәселесін қайта көтерді.

Шілде айында Meta, Anthropic, OpenAI және Alphabet компанияларының қызметкерлері кіретін Pacing the Frontier бастамасына 1000-нан астам технология саласының маманы қол қойған. Олар ең озық жасанды интеллект жүйелерін әзірлеуді үйлестірілген түрде баяулату жөнінде ұсыныс жасаған.