Süni intellektin faydaları və riskləri

Süni intellektin əsas faydaları hansılardır?

AI-nin ən görünən faydaları sürət, miqyas, sabitlik və qərara dəstəkdir. Minlərlə sənədi əl ilə oxumaq əvəzinə sistem onları qruplaşdıra, oxşar hissələri göstərə və xülasə layihəsi hazırlaya bilər. İnsan yenə qərar verir, amma məlumatı tapmağa sərf etdiyi vaxt azalır.

Fayda yalnız “işi tez bitirdi” demək deyil. Keyfiyyət eyni qalaraq vaxt azalırsa, vaxt eyni qalaraq daha çox hal yoxlanırsa və ya əvvəl mümkün olmayan xidmət əlçatan olursa, real dəyər yaranır. Əks halda sürət sadəcə daha çox çıxış istehsal edir.

• Rutin işin azalması: məlumat daxil etmə, təsnifat, transkripsiya və standart sənəd layihələri sürətlənir.
• Böyük məlumatın emalı: insanın gözdən keçirə bilməyəcəyi həcmdə nümunə, anomaliya və əlaqə tapıla bilər.
• Fərdiləşdirmə: xidmət, təlim və təklif istifadəçinin ehtiyacına uyğunlaşdırıla bilər.
• Əlçatanlıq: nitqin mətnə çevrilməsi, təsvirin səsləndirilməsi və sadə dilə uyğunlaşdırma bəzi maneələri azaldır.
• Qərara dəstək: alternativlər, risk siqnalları və ilkin proqnoz insanın nəzərinə daha tez çatır.
• Yaradıcı başlanğıc: ideya, struktur və ilkin variant hazırlamaq üçün boş səhifə problemi azalır.

Bu üstünlüklərin heç biri nəticənin avtomatik düzgün olduğunu göstərmir. Süni intellektin necə işlədiyini başa düşmək burada vacibdir: model məqsədi və məsuliyyəti özü seçmir, verilmiş məlumat və qayda daxilində nəticə yaradır.

Süni intellektin əsas riskləri haradan yaranır?

Əsas risk təkcə texniki nasazlıq deyil. Yanlış məqsəd, keyfiyyətsiz məlumat, zəif sınaq, həddindən artıq etibar və məsul şəxsin müəyyən edilməməsi normal işləyən sistemi də zərərli edə bilər. Model gözlənilən cavabı qaytarır, amma şirkətin verməli olduğu sual səhv seçilibsə, texniki uğur biznes uğuru deyil.

Generativ sistemlər fakt kimi görünən yanlış mətn, uydurma mənbə və bir-birinə zidd cavab yarada bilir. NIST bunu “confabulation” adlandırır və xüsusən açıq suallarda, uzun mətnlərdə və sahə ekspertizası tələb edən mövzularda riskin vacib olduğunu bildirir. NIST-in Generativ AI profilinə görə, inamlı üslub istifadəçinin səhv cavaba həddindən artıq etibar etməsinə səbəb ola bilər.

• Səhv və uydurma: cavab dil baxımından səlis, fakt baxımından yanlış ola bilər.
• Qərəz və ayrı-seçkilik: tarixi məlumatdakı ədalətsizlik modelin nəticəsinə keçə və miqyaslana bilər.
• Məxfilik: şəxsi və kommersiya məlumatı uyğun olmayan xidmətə göndərilə və ya lazımsız saxlanıla bilər.
• Təhlükəsizlik: zərərli giriş, məlumat sızması və sistemdən sui-istifadə yeni hücum səthi yaradır.
• İzah problemi: yüksək riskli qərarın niyə verildiyini aydın göstərmək çətin ola bilər.
• İş və bacarıq dəyişikliyi: bəzi tapşırıqların qiyməti düşür, giriş səviyyəli təcrübə imkanları darala bilər.
• Müəlliflik və informasiya bütövlüyü: mənbə, icazə və orijinallıq mübahisələri yarana bilər.
• Resurs sərfi: böyük sistemlərin qurulması və işlədilməsi enerji, su, avadanlıq və maliyyə tələb edir.

2024-də yenilənmiş OECD AI Prinsipləri təhlükəsizlik, məxfilik, informasiya bütövlüyü, şəffaflıq və ətraf mühit dayanıqlığını eyni çərçivədə nəzərə alır. Bu yanaşmanın məntiqi sadədir: faydanı maksimumlaşdırmaq riskə göz yummaq deyil, riski idarə oluna bilən səviyyəyə endirməkdir.

Fayda və risk necə müqayisə edilir?

Fayda-risk qiymətləndirməsi alət siyahısı ilə yox, konkret istifadə ssenarisi ilə aparılır. “Şirkətdə AI istifadə edək” ölçülən məqsəd deyil. “Gələn sorğuları beş mövzuya ayıraq, əməkdaş yekun seçimi təsdiqləsin və cavab vaxtını 20% azaldaq” sınaqdan keçirilə bilən ssenaridir.

Beş sual qərarı aydınlaşdırır: səhv kimə zərər verəcək, səhvi kim tutacaq, hansı məlumat sistemə daxil olur, nəticəni hansı göstərici ilə ölçürük və sistemi nə vaxt dayandıracağıq? Bu sualların cavabı yoxdursa, pilotun uğur meyarı da yoxdur.

İnsan nəzarəti nə vaxt vacibdir?

Nəticə insanın hüququna, sağlamlığına, işinə, kreditinə və ya təhlükəsizliyinə təsir etdikcə insan nəzarəti güclənməlidir. Lakin ekrana “təsdiqlə” düyməsi qoymaq nəzarət deyil. Nəzarət edən şəxs nəticəni dəyişmək səlahiyyətinə, kifayət qədər məlumata və qərarı yoxlamaq üçün vaxta malik olmalıdır.

UNESCO-nun 2021-ci ildə qəbul edilmiş AI Etikası üzrə Tövsiyəsi insan hüquqları, ləyaqət, ədalət, şəffaflıq və həyat dövrü boyu monitorinqi mərkəzə qoyur. Bu prinsiplər yalnız dövlət üçün deyil. Namizədi süzgəcdən keçirən, müştərini qiymətləndirən və ya həssas məlumatı emal edən şirkət üçün də praktik idarəetmə suallarıdır.

İnsan nəzarətinin əks riski də var: əməkdaş sistemə o qədər öyrəşir ki, nəticəni həqiqətən yoxlamadan təsdiqləyir. Buna avtomatlaşdırma qərəzi deyilir. Nəzarəti real saxlamaq üçün təsadüfi nümunə auditi, səhv kateqoriyaları, eskalasiya qaydası və məsul şəxs əvvəlcədən yazılmalıdır.

Azərbaycan şirkəti AI-ni necə qiymətləndirməlidir?

Azərbaycan dilində nəticə keyfiyyəti, yerli məlumatın azlığı, fərdi məlumatların qorunması, sektor qaydaları və xarici xidmətə məlumat ötürülməsi ayrıca yoxlanmalıdır. İngiliscə demoda yaxşı işləyən alət Azərbaycan dilində dialekt, ad, ünvan, hüquqi termin və konteksti eyni dəqiqliklə tanımaya bilər.

1. Bir tapşırıq seçin: bütün şöbəni yox, vaxt aparan və nəticəsi ölçülən işi müəyyən edin.
2. Baza nəticəni ölçün: AI-dən əvvəl vaxt, xəta, xərc və müştəri nəticəsini qeyd edin.
3. Məlumat sərhədini yazın: şəxsi, kommersiya və məxfi məlumatın haraya göndərilə biləcəyini müəyyənləşdirin.
4. Yerli test dəsti qurun: real Azərbaycan dili nümunələri, natamam giriş və riskli istisnaları daxil edin.
5. İnsan qərarını yerləşdirin: kim yoxlayır, nə vaxt eskalasiya edir və hansı səhvdə sistemi dayandırır?
6. Dörd həftəlik pilot aparın: sürətlə yanaşı düzəliş vaxtını, səhvin ağırlığını və istifadəçi şikayətini ölçün.

Pilotdan sonra “AI yaxşıdırmı?” sualına yox, “bu tapşırıqda xalis nəticə yaxşılaşdımı?” sualına cavab verin. AI vaxtı 30 dəqiqə azaldıb, yoxlama və düzəlişə 40 dəqiqə əlavə edirsə, demo təsirlidir, nəticə deyil. Daha sistemli yanaşma üçün AI uyğunlaşma strategiyası məhz proses, məlumat və risk sərhədini birlikdə qurmalıdır.

İşçilərə təsiri ayrıca ölçmək də vacibdir. Məhsuldarlıq artımı komandanın sayını, iş yükünü və giriş səviyyəli öyrənmə imkanlarını dəyişə bilər. Bu mövzunun əmək bazarı tərəfi AI və iş yerləri bələdçisində daha ətraflı izah olunur.

Yaxşı AI qərarı heyranlıqla yox, ölçü ilə verilir

Süni intellekt eyni anda həm faydalı, həm riskli ola bilər. Sürət qazandırdığı yerdə nəzarəti zəiflədə, daha çox insana xidmət açdığı yerdə qərəzi də böyüdə bilər. Buradakı ziddiyyət texnologiyanın qüsuru qədər idarəetmə məsələsidir.

Ən sağlam başlanğıc kiçik, ölçülən və geri qaytarıla bilən pilotdur. Məqsədi, məlumat sərhədini, qəbul həddini və dayandırma qaydasını əvvəlcədən yazın. Onda müzakirə “AI gələcəkdir” kimi ümumi şüardan çıxıb konkret nəticəyə çevrilir.