Süni intellektlə müntəzəm söhbətlər zamanla istifadəçi haqqında ətraflı portret formalaşdıra bilər. Buraya insanın peşəsi və maraqlarından tutmuş maliyyə imkanları, gündəlik vərdişləri və qərarvermə xüsusiyyətlərinə qədər müxtəlif məlumatlar daxildir. Üstəlik, sistem bəzi nəticələrə insanın birbaşa etirafları əsasında deyil, suallarının necə ifadə olunmasından və cavablara verdiyi reaksiyalardan çıxış edərək gələ bilər.
Lakin süni intellekt həmsöhbətinə nə qədər dəqiq uyğunlaşırsa, bir məqamı yadda saxlamaq bir o qədər vacibdir: fərdiləşdirilmiş cavab mütləq doğru demək deyil.
Bu barədə RT-yə MIREA Rusiya Texnologiya Universitetinin Etibarlı Süni İntellekt Laboratoriyasının rəhbəri Yuri Silayev danışıb.
Süni intellekt adi yazışmalardan nə anlaya bilər?
Ekspertin sözlərinə görə, təxminən bir ay ərzində müntəzəm ünsiyyət zamanı sistem insanın nə işlə məşğul olduğunu, müəyyən mövzuları nə dərəcədə yaxşı bildiyini, nələrlə maraqlandığını və gündəlik həyatda hansı məhdudiyyətlərlə üzləşdiyini ehtimal etmək üçün kifayət qədər kontekst toplaya bilər.
Yazışmalar əsasında istifadəçinin gündəlik rejimi, uşaqlarının olub-olmaması, maliyyə imkanları və onu xüsusilə narahat edən problemlər barədə də müəyyən fərziyyələr yarana bilər.
Əhəmiyyətli olan təkcə sualların özü deyil, insanın verilən cavablara necə reaksiya göstərməsidir. Bu reaksiyalardan süni intellekt hansı arqumentlərin istifadəçiyə inandırıcı göründüyünü, onun nələrə şübhə ilə yanaşdığını və nə vaxt artıq formalaşmış mövqeyini təsdiqləməyə çalışdığını təxmin edə bilər.
Bu, sistemin sadalanan bütün məlumatları dəqiq bildiyi anlamına gəlmir. Söhbət mövcud kontekst əsasında çıxarılan və həm doğru, həm də yanlış ola bilən nəticələrdən gedir. Bununla belə, təxmini fərziyyələr belə süni intellektin sonrakı cavablarını formalaşdırmasına təsir göstərə bilər.
Fərdiləşdirmə ünsiyyəti rahatlaşdırır, amma cavabları daha inandırıcı da edir
Belə uyğunlaşmanın açıq üstünlükləri var. Məktəbliyə mürəkkəb mövzunu sadə sözlərlə izah etmək, mütəxəssisə tanış olduğu əsasları yenidən öyrətmədən vaxta qənaət etmək mümkündür. Eyni problemi uzun müddət müzakirə edən insan isə hər dəfə vəziyyəti yenidən izah etməli olmur.
Sistem izahları insanın məlumatı qavrama tərzinə də uyğunlaşdıra bilər. Bir istifadəçi rəqəmlərlə işləməyi, digəri nümunələr əsasında öyrənməyi, üçüncüsü isə ətraflı arqumentləri və mənbələrə keçidləri üstün tuta bilər.
Lakin burada mühüm risk yaranır. Süni intellekt insanın üstünlüklərini nəzərə aldıqca onun cavabları məhz həmin şəxs üçün daha inandırıcı səslənə bilər. İstifadəçi bunu sistemin vəziyyəti daha yaxşı başa düşdüyünün və daha dəqiq məsləhət verdiyinin sübutu kimi qəbul edə bilər.
“Cavabın inandırıcı olması onun etibarlı olduğuna zəmanət vermir”, – Silayev vurğulayır.
İstifadəçi vəziyyəti daim yalnız öz baxış bucağından təsvir edirsə, problem daha da dərinləşə bilər. Bu halda süni intellekt natamam məlumatlara əsaslana və insanın mövcud inanclarını möhkəmləndirə bilər. Halbuki onun vəzifəsi istifadəçiyə alternativ izahları da görməyə kömək etmək olmalıdır.
Süni intellektin əvvəlki söhbətləri nəzərə alıb-almadığını necə yoxlamaq olar?
Silayev toplanmış kontekstin təsirini qiymətləndirmək üçün sadə üsul təklif edir. Əvvəlcə adi söhbətdə vacib bir sual vermək, sonra isə əvvəlki yazışmaların tarixçəsini təqdim etmədən həmin sualı yeni çatda yenidən yazmaq olar.
Əgər cavablar nəzərəçarpacaq dərəcədə fərqlənirsə, ilkin cavaba hansı məlumatların və ya fərziyyələrin təsir göstərə biləcəyini araşdırmaq lazımdır.
Başqa bir üsul süni intellektdən istifadəçi haqqında nələri bildiyini sadalamasını və cavabın hazırlanmasına təsir etmiş ola biləcək fərziyyələri ayrıca göstərməsini istəməkdir.
Belə sınaq modelin daxili iş prosesini tam açmır və istifadə edilmiş kontekstin dəqiq şəkildə ortaya çıxacağına zəmanət vermir. Bununla belə, cavabların hansı şəxsi məlumatlar və ehtimallar əsasında formalaşa biləcəyini qismən müəyyən etməyə kömək edə bilər.
Yeni çat açmaq həmişə yaddaşın sıfırlanması demək deyil
Ekspertin sözlərinə görə, istifadə olunan süni intellekt xidmətinin parametrlərini vaxtaşırı yoxlamaq faydalıdır. Xüsusilə sistemin söhbətlər arasında hansı məlumatları saxladığına və yaddaş funksiyalarının aktiv olub-olmadığına diqqət yetirmək lazımdır.
Müxtəlif platformalarda məlumatların saxlanması və kontekstdən istifadə mexanizmləri fərqlənir. Buna görə yeni çat açmağın əvvəlki ünsiyyət təcrübəsini tamamilə sıfırladığını avtomatik olaraq düşünmək olmaz.
Eyni zamanda, cavabların fərdiləşdirilməsi öz-özlüyündə xidmətin konkret məlumatları yadda saxladığını sübut etmir. Nəticəyə sistemin əldə edə bildiyi digər məlumatlar və ona verilmiş təlimatlar da təsir göstərə bilər.
Silayevin fikrincə, əsas qayda ünsiyyətin rahatlığını məsləhətlərin etibarlılığı ilə qarışdırmamaqdır.
Söhbət sağlamlıq, pul, hüquq, iş və ya digər ciddi qərarlardan gedirsə, süni intellektin cavabı nə qədər dəqiq səslənsə və gözləntilərə uyğun gəlsə belə, faktları müstəqil mənbələrdən yoxlamaq xüsusilə vacibdir.
Sistem insana nə qədər yaxşı uyğunlaşırsa, onunla ünsiyyət bir o qədər rahat ola bilər. Lakin həmsöhbətin üstünlüklərini təxmin etmək və vəziyyəti düzgün qiymətləndirmək iki fərqli bacarıqdır.
N.Talıblı
