“Əgər təşkilat daxilində təhlükəsiz süni intellekt sistemləri mövcud olarsa, əməkdaşlar bu alətlərdən istifadə edərək işlərini daha səmərəli görə bilərlər və eyni zamanda, kənar platformalara müraciət etmədikləri üçün məlumat sızması riski də minimuma enər”

Bakı, 29 dekabr, Pərvanə Qafarova, AZƏRTAC

Süni intellekt texnologiyaları artıq futuristik anlayış deyil – gündəlik həyatımızın, xüsusilə də mobil telefonlarımızın ayrılmaz hissəsinə çevrilib. Mesajların xülasəsi, fotoların avtomatik redaktəsi, səsli köməkçilər və ağıllı tətbiqlər istifadəçilərə rahatlıq qazandırsa da, bu texnologiyaların yaratdığı məxfilik və təhlükəsizlik riskləri cəmiyyətdə getdikcə daha çox sual doğurur. Mobil telefonlarda istifadə etdiyimiz süni intellekt nə dərəcədə təhlükəsizdir, şəxsi və işgüzar məlumatlarımız hansı risklərlə üz-üzədir və istifadəçi olaraq nələrə diqqət etməliyik?

AZƏRTAC bu suallara aydınlıq gətirmək üçün beynəlxalq texnologiya şirkətlərində çalışmış, hazırda “Samsung Electronics”də mobil təhlükəsizlik və süni intellekt həlləri üzərində işləyən proqram təminatı mühəndisi Adil Əliyevlə məsələni müzakirə edib.

Qeyd edək ki, Adil Əliyev 2022-ci ilə qədər ABŞ-nin “Amazon” şirkətində süni intellekt əsaslı səsli assistent olan “Alexa” departamentində fəaliyyət göstərib. Müxtəlif dövrlərdə

ADA Universitetində, Bakı Dövlət Universitetində və Azərbaycan Texniki Universitetində müəllim kimi dərs deyib, sənayedə qazandığı praktiki bilikləri tələbələrlə bölüşüb.

Adil Əliyev, məşhur informatik-alim Tomas Kormen tərəfindən yazılmış “Algorithms Unlocked” kitabını Azərbaycan dilinə tərcümə edərək alqoritmlər və verilənlər strukturları üzrə təhsil alan tələbələr üçün dil baryerinin aradan qaldırılmasına mühüm töhfə verib.

Hazırda həmin kitab bir sıra ali məktəblərimiz tərəfindən dərslik kimi istifadə edilir. O, Azərbaycanda limitsiz onlayn təhsili hədəfləyən “ÖzünÖyrən EdTech” platformasının təsisçilərindən biridir. Adil Əliyev ACM Senior Member statusuna malikdir, SWEBOK (The Guide to the Software Engineering Body of Knowledge) sənədinin rəsmi rəyçilərindən biridir. O, həmçinin bakalavriat səviyyəsi üzrə “İnformasiya təhlükəsizliyi” ixtisasının milli təhsil proqramının həmmüəlliflərindəndir.

Adil Əliyevlə müsahibəni təqdim edirik.

-Bu gün süni intellekt artıq cibimizdəki telefonların bir çox tətbiqlərində mövcuddur. Foto tətbiqlərində fotoları ürəyimiz istəyən kimi mükəmməlləşdirə bilir, səsli mesajları mətnə çevirir, uzun email mesajlarını xülasə edir, müxtəlif mövzularda suallarımıza cavab verir. “ChatGPT”, “Gemini” və ya “DeepSeek” kimi vasitələr bir çoxumuzun gündəlik müraciət etdiyi tətbiqlərdir. Süni intellektdən, xüsusilə mobil telefonlarda, bu qədər geniş istifadə nə dərəcədə təhlükəlidir? İnsanlar bundan narahat olmalıdırlarmı?

- Müasir dövrdə süni intellekt artıq gündəlik həyatımızın bir çox sahəsində səssiz şəkildə bizə kömək edir və bu sualın ortaya çıxması təbiidir. İlk növbədə, mobil telefonlarda süni intellekt dedikdə nə nəzərdə tutulduğuna aydınlıq gətirək. Burada söhbət telefonları daha “ağıllı” edən, məlumatları analiz edən və ya bizim adi dildə verdiyimiz suallara insanabənzər cavablar verən proqram sistemlərindən gedir. Məsələn, bu sistemlər yazdığınız növbəti sözü təxmin edir, fotoların keyfiyyətini yaxşılaşdırır, xoşumuza gəlməyən elementləri silir, spam zəngləri avtomatik filtrdən keçirir, uzun mesajları xülasə edir, mətnləri müxtəlif dillərə tərcümə edir, iclaslar zamanı danışılanları dinləyib qeydlər aparır, suallarımıza insan kimi cavab verir.

Bunları nəzərə alaraq suala qısa cavabı belə vermək olar: Süni intellektin özü təhlükəli deyil. Əsas risk onun necə istifadə olunmasından, telefonda hansı icazələrə malik olmasından və hansı məlumatlara çıxışı olmasından asılıdır. Müasir telefonların əksəriyyətində süni intellektlə bağlı bir çox əməliyyat birbaşa cihazın üzərində həyata keçirilir və məlumatlar bulud serverlərinə göndərilmir. Təhlükəsizlik baxımından bu cür yanaşma daha etibarlıdır, çünki şəxsi məlumatlar telefonunuzu tərk etmir. Lakin daha mürəkkəb süni intellekt sistemləri kiçik mobil cihazların resursları ilə işləyə bilmir. Bu halda məlumatlar həmin sistemlərin serverlərinə ötürülür və süni intellekt, əslində, uzaqdakı serverlərdə çalışaraq bu məlumatlar üzərində əməliyyatlar aparır. Bu tip sistemlərə gündəlik istifadə etdiyimiz “ChatGPT”, “Gemini”, “DeepSeek”, “Perplexity”, “Suno”, “Copilot” və digərlərini misal göstərmək olar.

Bu sistemləri idarə edən şirkətlər böyük nüfuza və resurslara malik olduqları üçün təhlükəsizlik məsələlərinə ciddi yanaşırlar və ümumi olaraq etibarlı hesab edilirlər. Lakin hər kəs anlamalıdır ki, 100 faiz təhlükəsizlik mümkün deyil. Bu şirkətlərin heç biri də risklərdən tam sığortalanmayıb. Zaman-zaman mətbuatda böyük texnologiya şirkətlərinə qarşı həyata keçirilmiş kiberhücumlar barədə xəbərlərlə qarşılaşırıq. Buna görə də istifadəçilər bu cür sistemlərə çox məxfi və həssas məlumatlarını ötürərkən ehtiyatlı olmalıdırlar.

Bundan əlavə, hazırda minlərlə fərqli tətbiq və xidmət mövcuddur ki, onlar “ChatGPT”, “Gemini” və oxşar sistemlərdən istifadə edərək əlavə funksionallıq təqdim edirlər. Lakin bu cür platformaların əksəriyyəti daha kiçik şirkətlər tərəfindən idarə olunur. Onların arasında təcrübəsiz və zəif təhlükəsizlik infrastrukturu olan şirkətlərə tez-tez rast gəlinir. Belə hallarda risklər daha yüksək olur. Ona görə də zəruri olmadıqca bu tip xidmətlərə şəxsi və həssas məlumatların verilməsi tövsiyə edilmir.

- Praktik olaraq adi istifadəçi bu riskləri necə idarə edə bilər və tətbiqlərin icazələrini necə düzgün tənzimləməlidir?

- İstifadəçinin diqqətli və məsuliyyətli olması bu məsələdə ən vacib təhlükəsizlik mexanizmidir. Yəni burada söhbət mürəkkəb texniki məsələlərdən yox, öz məlumatlarınız və avadanlığınız ilə məsuliyyətli davranışdan gedir. Əksər mobil tətbiqləri quraşdırarkən bizdən müəyyən icazələr istəyir: kameraya çıxış, mikrofona çıxış, kontaktlara baxış, mesajlara giriş, fayllara və ya qalereyaya giriş.

İstifadəçi özünə çox sadə bir sual verməlidir: Bu tətbiqin bu icazəyə həqiqətən ehtiyacı varmı?. Məsələn, şəkillərdə artıq elementləri silmək üçün istifadə edilən süni intellekt proqramının mikrofona və ya mesajlara çıxış istəməsi şübhə doğurmalıdır. Süni intellektlə işləyən bir tətbiq yalnız mətnlə işləyirsə, qalereyanıza tam giriş tələb etməməlidir.

Mən hər kəsə tövsiyə edirəm ki, vaxtaşırı telefonun “Permissions / Privacy” bölməsinə daxil olub tətbiqlərin hansı məlumatlara çıxışı olduğunu yoxlasın. Bu, bir neçə dəqiqə vaxt aparır, amma böyük risklərin qarşısını ala bilər.

Telefonun məlumatlara avtomatik çıxış icazələrindən başqa vacib məqam isə paylaşılan məlumatın məzmunudur. Hətta etibarlı hesab etdiyimiz sistemlərdə belə şəxsiyyət vəsiqəsi məlumatları, bank kartı detalları, şifrələr, məxfi iş sənədləri və şəxsi yazışmalar kimi məlumatları paylaşmaq tövsiyə edilmir.

Süni intellekt çox güclü bir alətdir. Amma istənilən güclü alət düzgün istifadə olunanda faydalı, məsuliyyətsiz istifadə olunanda isə risklidir.

- Bu sual bir çox insanları maraqlandırır: “Smartfon bizi dinləyirmi?” Bəzən insanlar danışdıqları mövzularla bağlı reklamları bir neçə dəqiqə sonra telefonlarında gördüklərini deyirlər. Bu, həqiqətən, baş verirmi, yoxsa sadəcə təsadüfdür?

- Bu, çox klassik bir sualdır və süni intellekt dövründə bu mövzunun yenidən narahatlıq yaratması tamamilə təbiidir. Əgər telefonda hər hansı casus proqram yoxdursa və ya cihaz zərərverici proqramla yoluxmayıbsa, normal şəraitdə telefon sizi gizli şəkildə 24/7 rejimində dinləmir. Ola bilər ki, bir çox oxucu bu fikirlə razılaşmasın. Amma gəlin, əvvəlcə məsələnin praktik tərəfinə baxaq, sonra texniki detallara keçək.

Telefonun istifadəçini davamlı və icazəsiz şəkildə dinlədiyi sübut olunsa, bu, telefon istehsalçıları üçün həm ciddi hüquqi, həm də texnoloji risklər yaradar. Bir çox ölkələrin qanunvericiliyinə görə, məhkəmə qərarı olmadan kimisə gizli dinləmək cinayət sayılır. Təsəvvür edin ki, məsələn, “Apple” şirkətinin istehsal etdiyi telefonların istifadəçiləri gizli dinlədiyi sübut olunur. Belə bir halda rəqiblər bundan dərhal istifadə edər, milyonlarla insan məhkəməyə müraciət edər və şirkət çox qısa müddətdə böyük reputasiya və maliyyə zərbəsi alar. Buna görə də belə bir mexanizmi böyük istehsalçıların şüurlu şəkildə tətbiq etməsi real deyil. Bu, onlara heç bir qazanc gətirməz, əksinə, çox ciddi zərər vurardı. Eyni məntiq digər böyük telefon istehsalçıları üçün də keçərlidir. Amma bu, o demək deyil ki, mikrofon heç vaxt aktiv olmur. Bəzi hallarda mikrofonun aktivləşməsi istifadəçinin tətbiqlərə verdiyi icazələrlə birbaşa bağlıdır.

Burada tez-tez verilən bir sual yaranır: Bəs danışdım və dərhal reklam çıxdı” effekti haradan gəlir? Bu, maraqlı bir fenomendir, lakin əsas səbəb mikrofon yox, məlumat analizinin gücüdür. Biz bu gün demək olar ki, bütün həyatımızı telefon üzərindən yaşayırıq. Axtarış tarixçəmiz, daxil olduğumuz saytlar, istifadə etdiyimiz tətbiqlər, günün müxtəlif saatlarında yerləşdiyimiz məkan, oxuduğumuz məqalələr, bəyəndiyimiz paylaşımlar və digər davranışlarımız birlikdə analiz edildikdə maraq dairəmizi çox dəqiq proqnozlaşdırmaq mümkün olur. Reklamlar da məhz bu məlumatlar əsasında formalaşdırılır. Çox vaxt bu proqnozlar danışdığımız mövzularla üst-üstə düşür və nəticədə insana elə gəlir ki, telefon onu dinlədi. Əslində isə telefon sizi “dinləmir”, sizi “tanıyır”.

-Bəs mikrofon bizi daim dinləmirsə, səsli asistentlər “Hey Google”, “Hey Bixby”, “Hey Siri” kimi ifadələrə necə reaksiya verir?

-Bu sistemlər yalnız müəyyən açar sözlərin və ya ifadələrin səs nümunələrini tanıya bilən texnologiyalara əsaslanır. Məsələn, “Amazon”un “Alexa” sistemi “Keyword Spotting” adlanan texnologiyadan istifadə edir. Texniki baxımdan desək, cihaz həqiqətən də ətraf səsi dinləyir, lakin bu dinləmə çox aşağı enerji sərfiyyatı ilə, lokal şəkildə və heç bir bulud hesablaması olmadan həyata keçirilir. Burada məqsəd yalnız müəyyən səs nümunəsini tanımaqdır. Bu proses sadə alqoritmlərlə həyata keçirilir ki, həm enerji sərfiyyatı az olsun, həm də məxfilik qorunsun. Yalnız “oyatma sözü” tanındıqdan sonra sistem aktivləşir və ondan sonra səsli məlumatlar serverlərə göndərilərək emal olunur. Buna görə də bu ifadələrə “wake word”, yəni “oyatma sözü” deyilir. Hər istehsalçının bu prosesi reallaşdırmaq üçün öz texniki yanaşması mövcuddur. Lakin qeyd etmək lazımdır ki, bəzi zərərverici proqramlar istifadəçini həqiqətən də daimi olaraq dinləyə bilər. Məhz buna görə də tanımadığınız və ehtiyac olmayan tətbiqləri telefonunuza yükləmək tövsiyə edilmir. Qeyri-qanuni məzmun təklif edən – pirat filmlər, kitablar, müxtəlif qeyri-rəsmi resurslar, eləcə də riskli saytlar istifadəçi üçün əlavə təhlükə yarada bilər.

Müasir telefonlarda mikrofon aktiv olduqda ekranda xüsusi işıq indikatoru göstərilir. Bu da istifadəçiyə real nəzarət imkanı verir. Yəni mikrofon sizdən xəbərsiz aktivləşərsə, bunu visual olaraq görmək mümkündür. Əgər telefonunuz rəsmi əməliyyat sistemi ilə işləyirsə və ona müdaxilə edilməyibsə, mikrofon aktivləşən anda bu indikator mütləq görünəcək. Maraqlı məqamlardan biri də odur ki, “Android” telefonlarında mikrofona eyni anda yalnız bir tətbiq çıxış əldə edə bilər. Yəni iki fərqli proqram eyni vaxtda mikrofonu istifadə edə bilməz.

-Süni intellekt tətbiqləri artıq iş həyatımızın da ayrılmaz hissəsinə çevrilib. İnsanlar sənədləri xülasə etdirmək, mətnlər yazdırmaq, hesabatlar tərtib etmək üçün bu sistemlərdən istifadə edirlər. Bəs bu texnologiyalar çalışdığımızın sənədlərin konfidensiallığı baxımından nə qədər təhlükəsizdir?

-Burada mövzu artıq fərdi istifadə məsələsindən çıxaraq korporativ məlumatların təhlükəsizliyinə toxunur. Mən buraya dövlət sirri və milli təhlükəsizlik məsələlərini də əlavə edərdim. Bu gün süni intellekt sistemlərindən dövlət sirri ilə çalışan dövlət qurumları da istifadə edirlər. Bir çox insanlar rahatlıq naminə daxili iş sənədlərini, müqavilə layihələrini, maliyyə hesabatlarını, dövlət qurumlarına aid məlumatları və digər həssas informasiyaları süni intellekt sistemlərinə ötürürlər.

Əsas problem ondan ibarətdir ki, bu məlumatların harada saxlanıldığını, nə qədər müddət qorunduğunu və həmin məlumatlara kimlərin çıxış əldə etdiyini istifadəçi tam şəkildə nəzarətdə saxlaya bilmir.

Böyük texnologiya şirkətləri təhlükəsizliyə ciddi yanaşsalar da, insan faktoru və sistem səhvləri hər zaman mövcuddur. Tarix dəfələrlə göstərib ki, hətta ən güclü və ən təcrübəli şirkətlər belə məlumat sızmalarından sığortalanmayıb.

Unutmaq olmaz ki, əgər siz hansısa məxfi məlumatdan istifadə edərək “ChatGPT” kimi bir sistemə sual verirsinizsə, həmin məlumatı sonradan geri almaq artıq mümkün deyil. Bu halda siz istəmədən də olsa, məlumatı üçüncü tərəfə ötürmüş olursunuz. Əgər bu məlumat məxfi və ya qorunan kateqoriyaya aiddirsə, bunun hüquqi məsuliyyəti də birbaşa istifadəçinin üzərinə düşür.

Xüsusilə, əgər bu məlumatların tərkibində insanların şəxsi məlumatları və ya digər konfidensial informasiyalar varsa, bu cür süni intellekt sistemlərindən istifadə etmək qətiyyən tövsiyə edilmir. Eyni zamanda, təşkilatlar da anlamalıdır ki, insanlar artıq rahat və çevik rəqəmsal alətlərdən istifadə etməyə öyrəşiblər. Bu səbəbdən, əgər təşkilat daxilində təhlükəsiz süni intellekt sistemləri mövcud olarsa, əməkdaşlar bu alətlərdən istifadə edərək işlərini daha səmərəli görə bilərlər və eyni zamanda, kənar platformalara müraciət etmədikləri üçün məlumat sızması riski də minimuma enər. Süni intellekt məhsuldarlığı inanılmaz dərəcədə artırır. Amma sürət naminə təhlükəsizlikdən imtina etmək ən bahalı səhvdir.