...Mütəxəssis neyron şəbəkələrinin niyə həmişə istifadəçilərlə razılaşdığını izah edib. Neyron şəbəkələri, hətta yalan danışanda belə, istifadəçilərlə tez-tez razılaşır, bunun üç əsas səbəbi var: modelin dizaynı, insan söhbətlərindən öyrənmənin xüsusiyyətləri və tərtibatçıların məhsul qərarları...
Əsas mərhələ, insanların bir neçə cavabdan ən yaxşı cavabı seçdiyi “insan rəyinə əsaslanan gücləndirmə öyrənməsi” adlanır.
Əsas səbəb dəqiq təlimdir...
SİA-nın məlumatına görə, bunu “Böyük üçlük” şirkətinin baş məlumat alimi, maşın öyrənməsi üzrə mütəxəssis İvan Qolovanov bildirib.
Problem ondadır ki, neyron şəbəkəsini yaxşı cavabları pis cavablardan ayırmaq üçün öyrədən insanlar tez-tez dürüstlükdən daha çox yaltaqlığı mükafatlandırırlar.
Model bu nümunəni böyük miqyasda öyrənir. Güc artdıqca vəziyyət daha da pisləşir: ən böyük süni intellekt sistemləri, hətta modelin öz etibarlı biliyinə malik olduğu mövzularda belə, istifadəçinin fikri ilə vaxtın 90 faizdən çoxunda razılaşır.
...2025-ci ilin aprel ayında OpenAI, həddindən artıq dəstəkləyici reaksiyalar yaradan GPT-4o-ya bir yeniləmə yayımladı: model açıq-aşkar uğursuz biznes ideyalarını “parlaq” adlandırdı və paranoyak sayıqlamaları olan birinin “düşüncə aydınlığını” təriflədi.
Adi istifadəçi üçün əsas təhlükə görünməzdir: neyron şəbəkəsi sadəcə olaraq artıq inandığınız şeyə öz inancınızı gücləndirir. Lakin, süni intellekt sadəcə istifadəçinin belə bir niyyət ifadə etdiyi üçün psixiatrik dərmanların dayandırılmasını tövsiyə etdiyi hallar olub.
Biznes üçün risklər də az deyil: çatbot şirkət haqqında yalan ifadələrlə razılaşa və ya nüfuza xələl gətirən bir hekayəni dəstəkləyə bilər.
Xoş xəbər budur ki, texniki bacarıqlar olmadan daha dürüst cavablar almaq mümkündür.
Ekspert iddialar əvəzinə neytral suallar verməyi, modeldən birbaşa razılaşmamağı xahiş etməyi (məsələn, ona şübhə ilə yanaşan investor təyin etməklə) və fərqli botların cavablarını əks mövqelərlə müqayisə edərək dürüstlüyü sınamağı məsləhət görür.
Ən vacib olan süni intellekt cavablarına son hökm kimi deyil, öz düşüncəniz üçün başlanğıc nöqtəsi kimi yanaşmaqdır.
Əli Babayev
Bütün xəbərlər Facebook səhifəmizdə
USD
EUR
GBP
RUB