...ChatGPT, Claude, Llama və digər süni intelleklər ünsiyyətdə getdikcə daha canlı olur - o qədər ki, şəxsiyyət illüziyası yaradılır. Amma nəzakətli cavabların arxasında modellərin hər bir həmsöhbət haqqında formalaşdırdığı fərziyyələr və stereotiplər gizlənir. İndi elm adamları qərarlarını necə qəbul etdiyini və bunun hara apara biləcəyini anlamaq üçün süni intellektin qara qutusunu açmağa başlayırlar.
SİA-nın məlumatına görə, bunu “The Atlantic” yazır.
Süni intellekt çoxdan uyğun film və ya düzgün yazım təklif edən alqoritmlər toplusu olmaqdan çıxıb. Müasir dil modelləri şeir, kod yaza, siyasi nitqləri təhlil edə və hətta söhbəti elə davam etdirə bilər ki, sanki ziyalı həmsöhbətlə ünsiyyət qurursan. Bəs bunu necə edirlər?
...Tərtibatçı və tədqiqatçılar hələ də bu modellərin içərisində tam olaraq nə baş verdiyini tam izah edə bilmirlər. "Transformatorlar" və ya "incə tənzimləmə" kimi sözlər prosesləri real şəkildə başa düşmək üçün çox mücərrəd səslənir.
Hətta “Google” etiraf edir ki, o, “qara qutu” ilə işləyir: süni intellektin niyə konkret cavab verdiyini anlamaq çox vaxt mümkün olmur.
Bununla belə, “interpretabiliti” adlanan istiqamət ilk sıçrayışlarını edir.
Beləliklə, “Anthropic” şirkəti mühüm kəşf haqqında məlumat verdi: mühəndislər neyron şəbəkənin müəyyən hissələrini kəşf etdilər ki, süni intellekt konkret şeylər haqqında - məsələn, “Qızıl qapı” körpüsü haqqında düşünəndə aktivləşir. Bu "xüsusiyyətlər" bizə modelin daxili məntiqini açmağa başlamağa imkan verir.
Harvarddan olan tədqiqatçılar və Transluce qeyri-kommersiya laboratoriyası daha da irəli gediblər: onlar real vaxt rejimində modelin istifadəçi haqqında hansı fərziyyələri - cins, yaş, sosial statusu izləyə bilən alətlər hazırlayıblar.
Üstəlik, onlar bu fərziyyələri dəyişdirməyi öyrəndilər və söhbət zamanı süni intellektin davranışının necə dəyişdiyini görüblər.
Məsələn, Braziliyadan olan bir tədqiqatçı ChatGPT ilə portuqal dilində ünsiyyət qurarkən, model danışdığı şəxsin kişi olduğunu fərz edərək kişi tələffüzlərindən istifadə edib. O, paltar geyəcəyini deyən kimi qrammatika qadına xas olub. Üstəlik, modellər qadınlara nisbətən kişilərə daha uzun və ətraflı cavablar verir və istifadəçinin qəbul etdiyi sosial statusdan asılı olaraq eyni hadisə üçün fərqli hədiyyələr təklif edir.
Bu yanaşmanı reklam alqoritmlərinin davranışı ilə müqayisə etmək olar, yalnız indi model sorğulardan deyil, birbaşa canlı dialoqdan məlumatları alır. Bu, həm imkanlar açır, həm də risklər daşıyır: hədəflənmiş reklamdan satış manipulyasiyasına qədər.
Təsəvvür edin ki, bir avtomobil satıcısında süni intellekt satıcısı var. O, gəlir səviyyənizi qiymətləndirərkən təsadüfi söhbətlərlə məşğul olur və bundan asılı olaraq müxtəlif modellər və qiymətlər təklif edir. Bu cür texnologiyalar tez bir zamanda təzyiq və ayrı-seçkilik alətinə çevrilə bilər.
Tədqiqatçılar artıq modeli fərqli şəkildə “düşündürməyin” yolunu tapıblar.
Antropik təcrübədə tərtibatçılar “Qızıl qapı” körpüsünün təsvirinə cavabdeh olan neyronların "çəkisini" artırdılar. Nəticədə, model mövzu ilə heç bir əlaqəsi olmadığı halda, hər yerdə körpünün adını çəkməyə başladı.
Əgər siz modelə özünüzü varlı, kasıb, kişi və ya uşaq hesab edə bilsəniz, o zaman bəlkə də istifadəçilərə belə alətlər təqdim etməyə dəyər. Bu, süni intellekt ilə əlaqəni daha şəffaf edə bilər. Amma risklər böyükdür. Süni intellekt getdikcə daha çox məsləhətçi, həmsöhbət, köməkçi kimi istifadə olunur və ona inam artır.
Biz onun mühakimələrini həqiqət kimi qəbul etmək riski ilə üzləşirik, onların arxasında alqoritmik stereotiplər var.
1960-cı illərdə chatbot pioneri Cozef Veyzenbaumun dediyi kimi, “anlayış illüziyası təhlükəsi” var: biz düşünürük ki, maşın bizi başa düşüb – amma əslində biz sadəcə inandırıcı sözlərlə tələyə düşmüşük.
Qaydalar və qorunma haqqında düşünməyin vaxtı gəldi. Süni intellektlə söhbətlər şəxsi xarakter aldığı və qərarlara təsir etdiyi üçün biz şəffaflıq, etika və süni intellektə nəzarət etmək bacarığı tələb etməliyik.
Əks halda, etibarımız manipulyasiya alətinə çevriləcək.
Əli Babayev
Bütün xəbərlər Facebook səhifəmizdə
USD
EUR
GBP
RUB