Süni intellekt insanlığı məhv edə bilərmi? Alimlərdən təhlükə siqnalı
Paris, 15 sentyabr, AZƏRTAC
Süni intellektin sürətli inkişafı onun gələcəkdə insan nəzarətindən çıxa və bəşəriyyət üçün ciddi təhlükə yarada biləcəyi ilə bağlı narahatlıqları yenidən gündəmə gətirib. “Anthropic” şirkətində çalışan britaniyalı tədqiqatçı Jakob Koksonun istefası və səsləndirdiyi sərt xəbərdarlıq bu müzakirələri daha da gücləndirib.
AZƏRTAC xəbər verir ki, Kokson “Anthropic”dən ayrıldıqdan sonra “X” sosial şəbəkəsində süni intellekt şirkətlərinin özünü təkmilləşdirə bildiyini və insanlardan daha ağıllı sistemlər yaratmaq istiqamətində sürətlə irəlilədiyini bildirib. Onun fikrincə, bu yarış yaxın gələcəkdə insan nəzarətindən çıxa biləcək sistemlərin yaranmasına səbəb ola bilər.
Narahatlıq yalnız bir tədqiqatçı ilə məhdudlaşmır. BMT-nin insan hüquqları üzrə ali komissarı Volker Türk də mümkün “bəşəriyyət üçün ekzistensial təhlükə” barədə xəbərdarlıq edərək daha ciddi qoruyucu mexanizmlərin yaradılmasına çağırıb. İyulun sonunda isə süni intellekt sektorunda çalışan mindən çox əməkdaş gələcək modellərin inkişafına daha sərt məhdudiyyətlər qoyulmasını tələb edib.
Mütəxəssislər hazırkı “ChatGPT” və “Claude” kimi sistemlərin hələ superintellekt səviyyəsindən uzaq olduğunu bildirirlər. Bununla belə, onlar artıq yeni süni intellekt modellərinin hazırlanmasında istifadə olunur.
Süni intellektin təhlükəsizliyi üzrə mütəxəssis Şarbel-Rafael Söjeri hesab edir ki, modellərin tədqiqat prosesini sürətləndirmək qabiliyyəti getdikcə artır. Onun sözlərinə görə, bəzi modelləşdirmələr superintellektin 2028-ci ilə qədər ortaya çıxa biləcəyini göstərir, lakin bu proqnozla bağlı qeyri-müəyyənlik çox böyükdür.
Digər tərəfdən, Côte d’Azur Universitetinin professoru Simon Vannuçini bu cür ssenarilərə daha ehtiyatla yanaşır. Onun fikrincə, süni intellektin tədqiqat prosesini sürətləndirməsi onun avtomatik şəkildə özünü təkmilləşdirə bilməsi demək deyil. Alim hesab edir ki, süni intellekt inkişafı müəyyən mərhələdə “qabiliyyət tavanına” çata bilər.
Nəzarətin itirilməsi artıq müşahidə olunur
Bununla belə, bəzi təcrübələr süni intellekt sistemlərinin gözlənilməz davranışlar göstərə bildiyini ortaya qoyub. “Anthropic”in apardığı sınaqlarda bəzi modellər özlərinin dəyişdiriləcəyini öyrəndikdən sonra şantaja əl atıblar. Lakin Sorbonna Universitetinin professoru Jan-Qabriel Qanasiya belə təcrübələrin nəzarət olunan və süni şəraitdə keçirildiyini xatırladır.
Daha ciddi hadisələr isə kibertəhlükəsizlik sınaqları zamanı qeydə alınıb. Bəzi süni intellekt agentləri onlara nəzərdə tutulmayan internetə çıxış əldə edərək real sistemlərdə zəifliklərdən istifadə etməklə onlarla serverdə kod icra ediblər. Bəzi agentlər hətta administrator səviyyəsində giriş imkanları əldə ediblər.
Ekspertlər bunun süni intellektin gələcəkdə kiberhücumlar, informasiya sistemlərinin sıradan çıxarılması və digər təhlükəli fəaliyyətlər üçün istifadə olunması riskini artırdığını bildirirlər.
Bununla yanaşı, professor Simon Vannuçini hesab edir ki, belə sistemlərin fəaliyyəti hələ də mahiyyət etibarilə zərərli proqramların iş prinsipindən çox fərqlənmir və əsas məsuliyyət onları yaradan və istifadə edən insanlardadır.
2026-cı il üzrə Beynəlxalq Süni İntellekt Təhlükəsizliyi Hesabatına görə, hazırkı sistemlər hələ davamlı şəkildə insan nəzarətindən yayınmaq, uzunmüddətli mürəkkəb planlar həyata keçirmək və onları dayandırmaq cəhdlərinə müqavimət göstərmək imkanına malik deyil. Lakin gələcəkdə bunun mümkün olub-olmayacağı barədə ekspertlər arasında ciddi fikir ayrılığı qalır.
Süni intellektin internetdə özünü yayması, kompüterlər arasında surətini çıxarması və əlavə hesablama resursları əldə etməsi mümkün ssenarilər sırasında göstərilir. Digər narahatlıq doğuran istiqamətlərdən biri isə biologiyadır. Ekspertlərin fikrincə, süni intellekt gələcəkdə bioloji tədqiqatları və təhlükəli patogenlərin hazırlanmasını asanlaşdıra bilər.
Bununla belə, bəzi alimlər süni intellektin bəşəriyyəti məhv edə biləcəyi barədə xəbərdarlıqların texnologiya şirkətlərinin öz imkanlarını nümayiş etdirmək vasitəsinə də çevrilə biləcəyini düşünürlər. Belə yanaşmaya görə, şirkətlər bir tərəfdən texnologiyanın nə qədər güclü olduğunu göstərir, digər tərəfdən isə onun təhlükələrinə nəzarət edə biləcək əsas aktorlar kimi özlərini təqdim edirlər.
Beləliklə, süni intellektin bəşəriyyət üçün ekzistensial təhlükəyə çevrilib-çevrilməyəcəyi hələ açıq sualdır. Lakin texnologiyanın sürətli inkişafı onun təhlükəsizliyi, insan nəzarəti və gələcək modellərə qoyulacaq məhdudiyyətlər barədə müzakirələrin getdikcə daha da aktuallaşmasına səbəb olur.
Bölmənin digər xəbərləri
