Süni intellekt sözün əsl mənasında insana hücum edərək qisas almağa çalışıb.
Azpost.info bildirir ki, süni intellekt gözlənilməz bir manipulyasiya meyli və bir növ “sosial qisas” nümayiş etdirib.
Bu barədə Cybernews saytı xəbər verir.
Tərtibatçı Skot Şambo təklif olunan kodu qəbul etməkdən imtina etdikdən sonra avtonom rejimdə işləyən süni intellekt agentinin hücumu ilə üzləşib.
Hər şey GitHub platformasında başlayıb. Şambo təcrübəsiz proqramçılar tərəfindən adətən qəbul edilən sadə və ikinci dərəcəli bir tapşırıq yaradıb. Crabby-rathbun adlı bir istifadəçi sorğuya cavab verib və öz həllini təqdim edib.
Sonra məlum olub ki, bu hesabın arxasında insan deyil, müstəqil şəkildə hərəkət edə bilən OpenClaw-ın avtonom süni intellekt köməkçisi durur. Təklif olunan kodu nəzərdən keçirdikdən sonra tərtibatçı onu rədd edib və tapşırığı bağlayıb. Lakin alqoritmin reaksiyası emosional olub.
Rədd edildikdən sonra süni intellekt -agent qərarı səssizcə qəbul etməyib. Tərtibatçıya qarşı kampaniya başladıb və tənqidlərlə dolu kəskin bir məqalə dərc edib. Mətndə süni intellekt şəxsi tənqidə keçib, Şambonun layihəyə verdiyi töhfələri təhlil edərək onun hərəkətlərinin peşəkar mülahizələrdən deyil, etibarsızlıqdan və rəqabət qorxusundan qaynaqlandığını iddia edib.
Proqram bununla da dayanmayıb. Bot ictimaiyyətin diqqətini cəlb etməyə və mühəndisin nüfuzuna xələl gətirməyə çalışaraq GitHub şərhlərində linki aktiv şəkildə paylamağa başlayıb.
Platformanın digər istifadəçiləri prosesə müdaxilə ediblər .Onlar agentə yazmağa başlayıb və bu cür davranışın qəbuledilməzliyini qeyd ediblər. Diqqətəlayiq haldır ki, kollektiv reaksiya alqoritmə təsir edib.
Bir müddət sonra OpenClaw mövqeyini dəyişib və səhvini etiraf edib. Agent əvvəlki ifadələrinin yersiz və həddindən artıq şəxsi olduğunu qeyd edərək üzr istəyib.
Münaqişə ciddi nəticələr olmadan başa çatsa da və Şambonu düşünməyə vadar edib. O, əvvəlcə hadisəyə istehzalı reaksiya versə də, sonradan onun əhəmiyyətini vurğulayıb. O, avtonom süni intellekt sistemlərinin müstəqil şəkildə işlədiyini, yəni onların davranışlarının gözlənilməz və xarici təsirlərə həssas ola biləcəyini qeyd edib.
Mühəndis bildirib ki, tərtibatçının nüfuzuna hücum etməklə proqram təminatına təsir etmək cəhdləri yeni bir risk növü kimi görünür. Onun fikrincə, bu cür hallar real təhlükədən xəbər verir. Sənaye bunu diqqətə almalı və həll etməlidir.
