Neyron şəbəkə nədir? Beyindən ilhamlanan texnologiya

Neyron şəbəkə nədən ibarətdir?

Ən sadə quruluş üç hissədən ibarətdir: giriş qatı, bir və ya bir neçə gizli qat, çıxış qatı. Giriş qatı modelə verilən rəqəmləri qəbul edir. Gizli qatlar həmin rəqəmlərdəki əlaqələri mərhələli şəkildə dəyişdirir. Çıxış qatı isə sinif, ehtimal, rəqəm və ya başqa proqnoz qaytarır.

Məsələn, e-poçtun spam olub-olmadığını proqnozlaşdıran modelə keçid sayı, göndərənin xüsusiyyətləri, söz nümunələri və mətn uzunluğu rəqəm kimi daxil ola bilər. Gizli qat bu xüsusiyyətlərin birgə nümunəsini öyrənir. Çıxışda “spam ehtimalı 0,92” kimi nəticə yaranır. Həmin rəqəmin hansı həddən sonra bloklanacağı isə ayrıca məhsul qərarıdır.

Bir süni neyron necə hesablayır?

Düyün hər giriş dəyərini uyğun çəkiyə vurur, nəticələri toplayır və qərəz parametrini əlavə edir. Sadə yazılış belədir: z = w₁x₁ + w₂x₂ + ... + b. Sonra z aktivasiya funksiyasından keçir və düyünün çıxışı alınır.

Aktivasiya funksiyası vacibdir, çünki yalnız xətti hesablamaları üst-üstə yığmaq mürəkkəb, qeyri-xətti nümunələri öyrətmir. Google Machine Learning Crash Course sigmoid, tanh və ReLU kimi funksiyaların düyün çıxışını necə dəyişdirdiyini göstərir. Praktikada ReLU çox işlənir: mənfi girişi sıfır, müsbət girişi isə olduğu kimi qaytarır.

Bir düyünün hesabı sadədir. Güc minlərlə və ya milyardlarla parametrin qatlar üzrə birlikdə işləməsindən gəlir. Hər qat əvvəlki qatdan aldığı təsviri yenidən qurur; görüntü modelində ilkin qatlar kənar və tekstura, sonrakı qatlar daha mürəkkəb forma nümunələri öyrənə bilər. Bu təsvirləri proqramçı bir-bir əl ilə yazmır.

Neyron şəbəkə necə öyrənir?

Təlimin məqsədi proqnozla doğru cavab arasındakı xətanı azaltmaqdır. Model əvvəlcə giriş üçün proqnoz verir. İtki funksiyası həmin proqnozun hədəfdən nə qədər uzaq olduğunu hesablayır. Sonra geri yayılma alqoritmi hər çəkinin xətaya təsirini tapır, optimizator isə çəkiləri kiçik addımlarla dəyişir.

1. İrəli keçid: giriş qatlar üzrə hesablanır və proqnoz alınır.
2. İtki: proqnozla doğru cavab arasındakı fərq ölçülür.
3. Geri yayılma: zəncir qaydası ilə hər parametr üçün qradient hesablanır.
4. Yenilənmə: optimizator çəkiləri itkini azaltmağa yönəlmiş addımla dəyişir.
5. Təkrar: proses çoxlu nümunə və dövr üzrə davam edir.

Çəki və sərbəst hədd modelin təlim zamanı öyrəndiyi parametrlərdir. Qat sayı, düyün sayı, öyrənmə sürəti və dövr sayı isə mühəndisin seçdiyi hiperparametrlərdir. Bu fərq vacibdir: model bəzi rəqəmləri datadan öyrənir, amma təlimin çərçivəsi yenə kənardan qurulur.

1986-cı ildə Rumelhart, Hinton və Williamsın Nature jurnalında dərc olunan işi geri yayılmanın əlaqə çəkilərini təkrar-təkrar dəyişərək çıxış xətasını azaltmasını və gizli vahidlərin tapşırıq üçün faydalı xüsusiyyətlər öyrənməsini göstərdi. Bugünkü böyük şəbəkələr daha mürəkkəbdir, amma bu əsas məntiq hələ də mərkəzdədir.

Təlim məlumatını əzbərləmək öyrənmə sayılmır. Model yeni nümunədə də işləməlidir. Buna görə məlumat təlim, doğrulama və test hissələrinə ayrılır; yalnız əvvəldən görmədiyi test məlumatındakı nəticə ümumiləşdirmə barədə daha dürüst siqnal verir. Bu ayrım maşın öyrənməsinin əsas iş axınının bir hissəsidir.

Neyron şəbəkələrin əsas növləri hansılardır?

“Neyron şəbəkə” tək bir arxitekturanın adı deyil. Məlumatın quruluşuna və tapşırığa görə fərqli əlaqə formaları istifadə olunur. Yeni arxitektura köhnəni hər vəziyyətdə ləğv etmir; şəkil, ardıcıllıq, qraf və mətn fərqli quruluş tələb edə bilər.

Dərin öyrənmə bir neçə emal qatından istifadə edən neyron şəbəkələrə aid geniş termindir. “Dərin” sözü şüurun və ya düşüncənin dərinliyini yox, hesablama qatlarının sayını bildirir. AI, ML və dərin öyrənmənin sərhədləri ayrıca müqayisədə daha aydın görünür.

Neyron şəbəkə harada istifadə olunur?

Neyron şəbəkələr görüntü tanıma, nitq emalı, tərcümə, tövsiyə sistemləri, anomaliya aşkarlanması, proqnoz və generativ modellərdə istifadə olunur. Böyük dil modelləri də neyron şəbəkədir; onların Transformer arxitekturası çox böyük mətn korpusunda token əlaqələrini öyrənir. Bu mexanizmin generativ tərəfi generativ AI yazısında ayrıca açılır.

Ancaq hər problemə neyron şəbəkə lazım deyil. Kiçik cədvəl datasında sadə xətti model və ya ağac əsaslı üsul daha ucuz, daha sürətli və daha izahlı nəticə verə bilər. Neyron şəbəkə seçimi “ən müasir alət” yarışına yox, test nəticəsinə əsaslanmalıdır.

• Məlumat kifayət qədər çox və təmsilçidirmi?
• Girişlə çıxış arasındakı əlaqə həqiqətən mürəkkəbdirmi?
• Səhvin dəyəri və izah tələbi nə qədər yüksəkdir?
• Təlim, hesablama və monitorinq xərci faydanı üstələyirmi?
• Daha sadə baza modeli ilə müqayisə aparılıbmı?

Neyron şəbəkənin məhdudiyyət və riskləri nələrdir?

Model yalnız gördüyü məlumatdan nümunə öyrənir. Data qərəzli, köhnə və ya real istifadəni zəif təmsil edirsə, şəbəkə həmin problemi də öyrənə bilər. Yüksək test göstəricisi belə bütün istifadəçi qruplarında eyni keyfiyyət demək deyil.

Digər problem izah və dəyişən mühitdir. Çox parametrli modelin müəyyən nəticəyə niyə gəldiyini sadə cümlə ilə göstərmək çətin ola bilər. İstifadəçi davranışı, bazar və dil dəyişdikcə məlumat paylanması sürüşür, əvvəlki dəqiqlik zəifləyir. Model yayımlandıqdan sonra da monitorinq, yenidən test və bəzən yenidən təlim tələb edir.

Azərbaycan dili üçün data miqdarı və keyfiyyəti ingiliscə ilə eyni deyil. Dialekt, ad, şəkilçi və yerli kontekst ayrıca test dəsti tələb edir. Xarici benchmark nəticəsini yerli istifadə üçün sübut saymaq olmaz; real Azərbaycan dili nümunələrində xəta növləri ayrıca ölçülməlidir.