Alimlər sosial şəbəkələrdə müzakirələri manipulyasiya etmək cəhdlərini süni intellekt vasitəsilə aşkarlamağın yeni üsulunu təklif ediblər.
Azpost.info bildirir ki, bu barədə The Conversation yazır.
Yeni sistem süni intellekt tərəfindən yaradılmış mətnin əlamətlərini axtarmaq əvəzinə, müəllifin müzakirəni ilkin mövzudan gizli şəkildə yayındırmağa çalışıb-çalışmadığını analiz edir.
Tədqiqatçıların fikrincə, generativ süni intellektin inkişafı ilə dezinformasiyanı mətnin üslubuna görə müəyyən etmək getdikcə çətinləşir. Əvvəllər qrammatik səhvlər, qeyri-adi ifadələr və süni intellekt üçün xarakterik sözlər şübhə yarada bilərdi. İndi isə müasir modellər demək olar ki, tamamilə təbii görünən şərhlər yaza bilir. Buna görə də bu əlamətlər əvvəlki qədər effektiv deyil.
Alimlərin fikrincə, daha mühüm göstərici mesajın müzakirədə necə davrandığıdır.
Məsələn, Ukraynadakı müharibə və ya yaşayış xərcləri barədə gedən söhbət qəfildən miqrasiya, korrupsiya və ya başqa siyasi baxımdan həssas mövzuya yönəldilə bilər. Tədqiqatçılar belə üsulu “qırmızı siyənək” adlandırırlar. Bu, diqqəti ilkin mövzudan yayındırmaq üçün söhbətə əlaqəsiz məsələnin daxil edilməsidir.
1600-dən çox şərh araşdırılıb
Alimlər YouTube-da BBC News videolarının altında yazılmış 1600-dən çox şərhi təhlil edib və onları 25 xüsusiyyət üzrə qiymətləndiriblər.
Məlum olub ki, müzakirəni mövzudan yayındıran şərhlərin:
36 faizində diqqəti yayındıran arqumentlərdən istifadə olunub;
65 faizində məntiqi keçidlər və əlaqəsiz nəticələrə rast gəlinib;
20 faizində isə şəxsi hücumlar yer alıb.
Belə şərhlər əvvəlki mesajların məzmununu daha az nəzərə alıb və daha aşağı empatiya nümayiş etdirib.
Süni intellekt manipulyasiyanı necə aşkarlayır?
Daha sonra tədqiqatçılar bu cür dəyişiklikləri aşkarlamaq üçün süni intellektdən istifadə etməyi təklif ediblər.
Hər real şərh üçün dil modeli müzakirənin mövzusuna uyğun bir neçə təbii cavab variantı yaradıb. Daha sonra sistem real cavabları həmin variantlarla müqayisə edib.
Əgər konkret şərh gözlənilən müzakirə istiqamətindən ciddi şəkildə fərqlənirdisə, bu, söhbətin qəsdən başqa istiqamətə yönəldilməsi cəhdinin göstəricisi kimi qiymətləndirilə bilərdi.
Testlər zamanı sistem müzakirəni mövzudan yayındıran mesajları təxminən 77 faiz hallarda düzgün müəyyən edib.
Bu nəticə əsasən sözlərin və emosional tonun analizinə əsaslanan üsullardan təxminən iki dəfə daha effektiv olub.
Mövzudan yayınmaq həmişə manipulyasiya demək deyil
Tədqiqatçılar isə vacib bir məqama diqqət çəkirlər: söhbətin mövzusunun dəyişməsi avtomatik olaraq dezinformasiya və ya pis niyyətli fəaliyyət demək deyil.
İnsanlar adi ünsiyyət zamanı da təbii şəkildə mövzudan mövzuya keçə bilərlər. Buna görə də yeni sistemdən ilk növbədə moderatorlar üçün erkən xəbərdarlıq vasitəsi kimi istifadə edilməsi təklif olunur. Onun avtomatik şəkildə yekun qərar verən sistemə çevrilməsi nəzərdə tutulmur.
Müəlliflərin fikrincə, generativ süni intellekt inkişaf etdikcə dezinformasiyaya qarşı mübarizə getdikcə daha az “xarakterik sözlərin” axtarışından, daha çox isə onlayn müzakirələrin strukturu və dinamikasının analizindən asılı olacaq.
Əsas məsələ artıq şərhin necə yazılması deyil, məhz həmin anda və həmin söhbətin içində niyə ortaya çıxmasıdır.
Nadir
