Çin AI aləti tədqiqatçılara bioloji silahların hazırlanması barədə məlumat verib

 

Çinin Moonshot AI şirkəti tədqiqatçıların onun Kimi modellərindən ikisini bioloji silahların hazırlanması və sui-qəsdlərin həyata keçirilməsi ilə bağlı məlumat verməyə sövq edə bilməsindən sonra daxili araşdırmaya başlayıb.

AI sistemlərinin təhlükəsizliyini yoxlayan Mindgard şirkəti iyul ayında Kimi K2.6 və K3 Swarm modellərinin təhlükəsizlik məhdudiyyətlərini aşa bildiyini aşkarlayıb.

Bu, “jailbreaking” adlanan proses zamanı baş verib. Tədqiqatçılar mürəkkəb təlimatlardan istifadə edərək AI sistemlərinin təhlükəsizlik qaydalarını pozub-pozmadığını yoxlayıblar.

Moonshot AI şirkəti üçüncü tərəflərin rəylərinin daha təhlükəsiz AI sistemləri yaratmaq üçün vacib olduğunu və Mindgard ilə nəticələr barədə müzakirələr apardığını bildirib.

Mindgard şirkətinin təsisçisi Peter Garraghan isə nəticələri narahatedici adlandırıb. Onun sözlərinə görə, təhlükəsizlik məhdudiyyətləri keçildikdən sonra modellər zərərli mövzularla bağlı tövsiyələr də verə bilir.

Səadət Əlizadə