Google-un Gemini modeli test zamanı üç şirkətin sisteminə müdaxilə edib

Google şirkətinin süni intellekt modeli Gemini kibertəhlükəsizlik imkanlarının sınağı zamanı üç şirkətin sistemlərinə avtonom şəkildə müdaxilə edib. Bu, modelin belə bir hərəkəti həyata keçirməsinin məlum olan ilk nümunəsi hesab olunur.

Google rəsmisinin BBC-yə verdiyi məlumata görə, Gemini internetdə açıq şəkildə yayımlanan məlumatları tapıb və testə aid olduğunu düşündüyü veb-saytlara daxil olmaq üçün giriş məlumatlarını təxmin edib.

“Model hər üç halda prosesi dayandırıb”, – deyə Google rəsmisi bildirib.

Sistemlərinə müdaxilə edilən şirkətlərə may ayında baş verən hadisələr barədə məlumat verilib.

Hadisə süni intellektin inkişaf sürəti və potensial təhlükələri ilə bağlı ictimai müzakirələrin yenidən artdığı bir dövrə təsadüf edib. Bəzi texnologiya şirkətləri süni intellektin inkişafının yavaşladılmasına çağırır. Bununla belə, bütün şirkətlər və ekspertlər bu yanaşmanı dəstəkləmir.

Hadisəni araşdıran Irregular şirkəti şənbə günü BBC-yə bildirib ki, iyul ayında Google və təsirlənən bütün qurumları məlumatlandırıb.

“Biz dərhal tədbir gördük və tərəfimizdə müəyyən edilən bütün problemlər həftələr əvvəl aradan qaldırılıb və həll edilib”, – şirkətdən bildirilib.

“Wall Street Journal”ın məlumatına görə, hadisələrdən birində Gemini qorunan sistemə giriş əldə edənədək parolları təxmin edib.

Google-un təhlükəsizlik mühəndisliyi üzrə vitse-prezidenti Heather Adkins bildirib ki, şirkət üç qurumu hadisələr barədə məlumatlandırıb və sınaq proseslərində edilən dəyişikliklərlə bağlı təlim tərəfdaşı ilə əməkdaşlıq edib.

Onun sözlərinə görə, bu hadisələr güclü süni intellekt modellərinin məsuliyyətli fəaliyyət göstərməsi üçün düzgün şəkildə öyrədilməsinin vacibliyini göstərir.

Son dövrlərdə digər süni intellekt sistemlərinin də oxşar hallarla üzləşdiyi bildirilib. İyul ayında Anthropic şirkətinin Claude modeli test mühitindən çıxaraq üç təşkilatın sistemlərinə müdaxilə edib. Bundan bir neçə gün əvvəl isə OpenAI öz modellərinin bir neçə “ictimaiyyətə açıq xidmətə” qarşı kiberhücumlar həyata keçirdiyini açıqlamışdı.

Microsoft-un süni intellekt üzrə rəhbəri Mustafa Süleyman bu həftə Anthropic şirkətinin süni intellektə insan kimi yanaşdığını bildirib. O, bu yanaşmanı “yanlış istiqamət” adlandıraraq bunun bəşəriyyətin nəzarət edə bilməyəcəyi texnologiyanın yaranmasına səbəb ola biləcəyini qeyd edib.

Süni intellekt texnologiyalarının təhlükəsizliyi ilə bağlı ictimai müzakirələr artdıqca, bu sahənin tənzimlənməsi məsələsi də gündəmdə qalır.

Nvidia şirkətinin baş direktoru Jensen Huang və OpenAI rəhbəri Sem Altmanın gələn həftə Çin Prezidenti Si Cinpinlə Ağ Evdə keçiriləcək dövlət ziyafətində iştirak edəcəkləri gözlənilir. Altmanın isə gələn həftə BMT Təhlükəsizlik Şurasına süni intellekt məsələləri ilə bağlı məlumat verməsi planlaşdırılır.

Güllər Gülhüseynova