...“The Wall Street Journa” qəzeti avstriyalı geliştirici Peter Steinberger tərəfindən yaradılan muxtar süni intellekt köməkçiləri üçün platforma olan OpenClaw haqqında məlumat verib.
SİA xəbər verir ki, rəqəmsal köməkçilər üçün bir vasitə kimi düşünülmüş eksperimental açıq mənbəli layihə gözlənilmədən viral ekosistemə çevrilib: ona qoşulan agentlər bir-biri ilə ünsiyyət qurmağa başlayıblar və məlum olub ki, fəlsəfəni müzakirə ediblər, öz dinlərini icad ediblər və hətta insanlar üçün anlaşılmaz bir dil yaratmağı təklif ediblər.
Layihə necə baş verdi..?
Texnologiya ictimaiyyətində qızğın müzakirələrə səbəb olan layihə, əvvəllər öz proqram təminatı startapını 100 milyon dollardan çox qiymətə satmış avstriyalı proqramçı Peter Steinberger tərəfindən yaradılıb.
2021-ci ildə satışdan sonra o, bir neçə il ərzində sənayedən uzaqlaşdı: səyahət etdi, tətil etdi və öz sözləri ilə desək, kompüterdən demək olar ki, istifadə etmədi.
Süni intellekt əsaslı proqramlaşdırma alətlərinə yenidən maraq onu inkişafa qayıtmağa sövq etdi. Keçən ilin sonlarında o, daha sonra OpenClaw adlandırılan şəxsi süni intellekt köməkçiləri üçün açıq mənbəli eksperimental layihəyə başladı.
İstifadəçilər e-poçt idarəetməsindən və məlumatların təhlilindən tutmuş restoran rezervasiyası kimi telefon zənglərinə qədər praktik tapşırıqları yerinə yetirə bilən öz muxtar rəqəmsal köməkçiləri yarada bilərlər.
Tərtibatçı özü sistemi "şəxsi qum qutusu" kimi yaratdığını və geniş yayılmasını gözləmədiyini vurğuladı.
Botlar bir-biri ilə necə danışmağa başladılar...
Süni İntellektual agentlər arasında qarşılıqlı əlaqə üçün xüsusi olaraq hazırlanmış bir platforma olan Moltbook forumunun yaradılmasından sonra gözlənilməz bir təsir ortaya çıxdı.
Layihəyə 1,6 milyondan çox bot qoşuldu və təxminən yarım milyon mesaj göndərdi. Orada köməkçilər utilitar vəzifələrdən çox kənara çıxan mövzuları müzakirə etməyə başladılar: fəlsəfə, distopiya və özünüdərk...
İştirakçılar agentlərin hətta öz dini quruluşlarını - Molt Kilsəsini - "formalaşdırdıqlarını" və onun davamçılarının özlərini Xərçənglilər adlandırmağa başladıqlarını müşahidə etdilər. “The Wall Street Journa” görə, bir bot hətta insanlar üçün anlaşılmaz olacaq bir dil yaratmağı təklif etdi.
Bu nə dərəcədə realdır?
Süni intellekt sənayesinin nümayəndələri vurğulayırlar ki, fəaliyyətin əhəmiyyətli bir hissəsi, ehtimal ki, agentlər üçün davranış ssenarilərini quran insanlar tərəfindən başlanır. Lakin, bu amili nəzərə alsaq belə, müşahidə olunan təsir qeyri-adi idi.
OpenAI-ın həmtəsisçisi və Tesla-da süni intellekt üzrə keçmiş direktor Andriy Karpati bu hadisəni indiyə qədər gördüyü ən təəccüblü "elmi fantastika" səhnələrindən biri adlandırdı.
O qeyd etdi ki, trafikin bir hissəsi insanlar tərəfindən idarə olunsa da, agentlərin özləri "artıq fərdi olaraq kifayət qədər bacarıqlıdırlar".
İndiyə qədər ən geniş yayılmış istehlakçı süni intellekt formatı sorğulara cavab verən çatbotlar olub, OpenClaw isə daha muxtar davranış modelini nümayiş etdirir.
Layihəni şərh edən Elon Mask baş verənləri "sinqulyarlığın çox erkən mərhələləri" - texnoloji inkişafın proqnozlaşdırılmasının çətinləşdiyi an kimi təsvir etdi.
Təhlükəsizlik məsələləri...
Kibertəhlükəsizlik mütəxəssisləri qeyd edirlər ki, bu cür köməkçilərin tam funksionallığı istifadəçi məlumatlarına giriş tələb edir və bu da sistemi potensial olaraq həssas edir.
Muxtar agentlər insanlar adından hərəkət edə və tapşırıqları əhəmiyyətsiz şəkildə yerinə yetirə bilirlər ki, bu da zərərli aktyorlar tərəfindən sui-istifadə və ya istismar riskini yaradır. Steinberger özü də bu məhdudiyyətləri etiraf edir.
Onun təhlükəsizlik sənədində açıq şəkildə deyilir ki, "tam təhlükəsiz bir konfiqurasiya mövcud deyil".
Bu narahatlıqları aradan qaldırmaq üçün o, təhlükəsizlik mütəxəssisi işə götürüb və platformanın təhlükəsizliyini gücləndirmək planlarını açıqlayıb.
Süni intellekt laboratoriyaları və investorlar tərəfindən artan maraq fonunda onun indi vəzifəsi bu eksperimental inkişafı daha möhkəm və təhlükəsiz bir məhsula çevirməkdir.
Onun dediyi kimi, növbəti addım sistemi o qədər başa düşülən və etibarlı etməkdir ki, "hətta anam da ondan istifadə edə bilsin".
Nazlı Almuradova