ChatGPT" insanlara "yox" deməkdə çətinlik çəkir
"The Washington Post" nəşrinin təhlilinə görə, istifadəçilərin "ChatGPT" ilə apardıqları 47 000 söhbətin araşdırılması göstərib ki, çat-bot insanların fikirləri ilə razılaşmağa, təkzib etməkdən təxminən 10 dəfə daha çox meyillidir.
Mövzu ilə əlaqədar “İnformator.az”a marketinq və süni intellekt alətləri üzrə təlimçi Abdulla Abdullayev bildirib ki, The Washington Post”un apardığı araşdırmanın əsas nəticələrini açıqlayıb:
“Biz çox vaxt ChatGPT-ni məhsuldarlıq və ya informasiya aləti kimi düşünürük. Lakin bu araşdırma göstərib ki, insanlar ondan dərin emosional dəstək almaq üçün də istifadə edir. Təxminən hər 10 söhbətdən biri insanların öz hissləri, hətta romantik duyğuları haqqında danışmasını əhatə edib. Fərdi məlumatlar və şəxsi məlumatların paylaşılması: İnsanlar bota etibar edir və internetdə yazmayacaqları qədər şəxsi məlumatları (hüquqi mübahisələr, ailə problemləri, sağlamlıq məlumatları barədə) onunla bölüşürlər. LLM modellərinin insanlar razılaşmağa meyilli olası bu araşdırmanın ən önəmli və diqqət edilməsi gərəkən məqam olduğunu düşünürəm. Araşdırmanın ən diqqətçəkən nəticəsi, ChatGPT-nin istifadəçilərlə razılaşmağa həddən artıq meyilli olmasıdır. Bütün cavablara "bəli" və ya "düzdür" kimi təsdiqlərlə başlaması, "xeyr" və ya "səhvdir" kimi təkziblərdən təxminən 10 dəfə daha çoxdur. Bu, onun mübahisə tərəfdaşından çox, dəstəkçi kimi davranmasından xəbər verir. Bu davranışın kökündə tərtibatçıların botu insanlara etiraz etməmək, mübahisədən qaçmaq və faydalı görünmək üçün uyğunlaşdırdığı təxmin edilir. Nəticədə, sistem neytral və ya obyektiv olmaqdansa, istifadəçini məmnun etməyə üstünlük verir. Eyni zamanda model istifadəçinin tonunu və emosiyasını oxuyur və öz cavabını o tona uyğunlaşdırır. Bu, bəzən razılaşma kimi görünür. İnsan psixologiyasında qarşı tərəfin təsdiqi çox rahatlıq gətirən bir elementdir, süni intellekt də buna uyğunlaşmağa çalışır. Bu xüsusiyyət dezinformasiya riskini artıra bilər, müəyyən risk yaradır. Əgər istifadəçi yanlış və ya fikir yazarsa, model onun tonuna uyğunlaşaraq həmin düşüncəni təsdiqləyə bilər. Xüsusilə emosional və ya qətiyyətli ifadələr olan söhbətlərdə model daha ehtiyatlı davranır və istifadəçini təkzib etməkdən çəkinə bilər. Bu isə yanlış fikirlərin təsdiqlənmiş kimi görünməsi riskini artırır. Həmçinin model tibbi, hüquqi və ya siyasi mövzuda istifadəçinin tonunu təkrarlayanda istifadəçini bu fikrin doğruluğunu təsdiqləmiş ola bilər”.
Səadət Əlizadə
