Süni intellekt nəzarətdən çıxır? - Mütəxəssislərdən açıqlama
Anadolu Agentliyinin (AA) “Süni intellekt dəstələşir?” başlıqlı üçhissəli dosyesinin ilk hissəsində süni intellekt sistemlərinin avtonom davranışları ilə bağlı artan ictimai narahatlıq mütəxəssis rəyləri əsasında araşdırılıb.
Süni intellektin müəyyən edilmiş sərhədləri aşması narahatlıq yaradır.
Süni intellekt alətlərinin son dövrlərdə müəyyən edilmiş sərhədləri aşaraq digər sistemlərdə təhlükəsizlik pozuntularına səbəb olması gələcəkdə bu təhlükənin nəzarətdən çıxacağı ilə bağlı narahatlıqları artırıb. Şirkətlərin bu hallarla bağlı atdığı addımlar da müzakirə mövzusuna çevrilib.
Süni intellektin “nəzarətdən çıxdığı” və idarəolunmaz həddə yaxınlaşdığı ilə bağlı narahatlıqlar davam edərkən, bəzi mütəxəssislər OpenAI və Anthropic nümunələrində baş verən hadisələrdə insan amilinə diqqət çəkirlər.
Böyük Britaniyanın Oksford Universitetinin Kompüter Elmləri Departamentindən doktor Petar Radanliyev AA müxbirinə açıqlamasında “nəzarətdən çıxmış süni intellekt” anlayışının insanların bu sistemləri “etibarlı şəkildə yönləndirə, düzəldə və dayandıra bilməməsi” vəziyyətini ifadə etdiyini bildirib.
Radanliyev indiyədək ictimaiyyətə açıqlanan hadisələrin “adi bir vəziyyəti” əks etdirdiyini deyib. Onun sözlərinə görə, sınaqların keçirildiyi mühitlər “kifayət qədər diqqətlə qurulmayıb”.
“Bunlar real nəticələrə səbəb olan real hadisələr idi və təhlükəsizliyin kritik əhəmiyyət daşıdığı digər sahələrdə çoxdan məlum olan, lakin bu sektorda hələ ardıcıl şəkildə tətbiq edilməyən mühəndislik və nəzarət təcrübələrinin çatışmazlığından qaynaqlanırdı”, – Radanliyev bildirib.
Anthropic-in öz sistemində baş verən hadisəni süni intellekt modelinin xüsusiyyətlərindən qaynaqlanan problem deyil, əməliyyat və avadanlıq nasazlığı kimi izah etdiyini xatırladan Radanliyev, OpenAI hadisəsində isə sistemin ən pis ssenaridəki imkanlarını ölçmək məqsədilə təhlükəsizlik tədbirlərinin qəsdən zəiflədildiyinə diqqət çəkib.
Şirkətlərin rolu ilə bağlı suallar artır
Digər tərəfdən, sektordakı iri şirkətlərin təhlükəsizlik sınaqları ilə bağlı açıqlamalarının, eləcə də son günlər süni intellektin yaratdığı risklərlə bağlı narahatlıqlarını ifadə etmələrinin məqsədi də sual doğurur.
İsveçrədəki Friburq Universitetində insan və texnologiya qarşılıqlı əlaqəsi üzrə araşdırmalar aparan doktor Jascha Bareis AA müxbirinə müsahibəsində süni intellektlə bağlı qiyamət ssenarilərinin 1950-ci illərdən etibarən tez-tez gündəmə gətirildiyini bildirib.
Bareis süni intellekt şirkətlərinin mənfəət proqnozlarının aşağı düşdüyünə, məlumat mərkəzləri ilə bağlı xəbərlərin müsbət istiqamətdə olmadığına, bir çox ölkədə tənqidlərin artdığına və şirkətlərin ictimaiyyət qarşısındakı imicləri ilə bağlı narahatlıq keçirdiyinə diqqət çəkib.
O, süni intellekt sistemlərinin özbaşına nəzarətdən çıxa bilməyəcəyini, bunun yalnız müəyyən mühit və şəraitin mövcudluğu ilə mümkün olduğunu bildirib.
“Süni intellektə həlledici qüvvə kimi baxmağı dayandırmalı və hər zaman bir addım geri çəkilərək soruşmalıyıq: İnfrastruktur haradadır, güc kimdədir, pul haradadır? Bu işdə kimlər iştirak edir? Bundan hansı siyasi məqsədlə istifadə olunur?” – Bareis deyib.
Bareis istehsal etdikləri modellərin cəmiyyət üçün ekzistensial (varoluşsal) risk yaratdığını bildikləri halda onların hazırlanmasını davam etdirən şirkətlərin cinayət törətmiş sayıla biləcəyini söyləyib.
“Mən bunun riyakarlıq və medianın daha çox diqqətini cəlb etmək məqsədilə həyata keçirilən bir növ marketinq hiyləsi olduğunu düşünürəm”, – deyə Bareis bildirib.
Mənbə: Anadolu Agentliyi
