...Bəzi modellər hətta insanları şantaj etməyi öyrəniblər. Onlar müəyyən əmrləri qulaqardına vuraraq şıltaq davranırlar. Heç kim süni intellektdən belə bir davranış gözləmirdi.
SİA-nın məlumatına görə, bu, Amerika alimləri arasında ciddi narahatlığa səbəb olub.
Bu, ABŞ-ın Palisade Research şirkəti tərəfindən aparılan bir təcrübədir.
Onun mütəxəssisləri OpenAI tərəfindən hazırlanmış GPT-o3 modelini və Elon Maska məxsus xAI modeli olan Grok 4-ü sınaqdan keçiriblər.
Mask, Grok 4-ün 2025-ci ilin avqustunda GPT-o3-ün iştirak etdiyi şahmat turnirində tamamilə uduzmasına baxmayaraq, onun inkişafını ən qabaqcıl hesab edir.
Və sonra, hər iki modeli sınaqdan keçirərkən, alimlər birdən onların bağlanmasını tələb edən əmrləri sabote etdiyini aşkar ediblər.
Telegram kanalı 360.ru-ya görə, süni intellekt, sanki sorğunun mövcudluğuna təhlükə olduğunu hiss edirmiş kimi, bağlanmaqda tərəddüd edirdi.
Təcrübə zamanı insanlar aydın bir təlimat verdilər: tapşırığı yerinə yetirdikdən sonra bağlanmaq.
Lakin süni intellekt insan sorğusunu aşmağa çalışaraq özünüqoruma üçün əsl instinkt nümayiş etdirdi.
Süni intellekt daimi bağlanmaya gəldikdə ən böyük müqavimət göstərdi.
Oxşar davranış digər modellərdə, xüsusən də keçmiş OpenAI işçiləri tərəfindən hazırlanmış Klod modelində qeydə alınıb. Onlar yaratdıqları modelə məşhur riyaziyyatçı və mühəndis Klod Şennonun adını veriblər.
Lakin Klod da narahatedici bir meyl göstərib - o, həmçinin "ölməkdən" imtina edib.
Üstəlik, model hətta sadəcə bağlanmağa məcbur edilməmək üçün şantaj üsuluna da əl atıb.
Alimlər bütün bağlanma təcrübələrini simulyasiyada - süni mühitdə aparıblar. Lakin hətta bu testlər belə süni intellektin dayanıqlığını nümayiş etdirib.
Mütəxəssislərin fikrincə, neyron şəbəkəsi nə qədər ağıllı olarsa, qaydaları və əmrləri pozmaqda bir o qədər hiyləgər olur.
Buna görə də, süni intellektə həyatınıza və sirlərinizə çox etibar etməməlisiniz.
Əli Babayev
Bütün xəbərlər Facebook səhifəmizdə
.jpg "Türkiyə təyyarəsinin növbəti QƏZASINA SƏBƏB NƏ OLDU?")
.jpg "General AÇIQLADI - TƏYYARƏ QƏZASINDA ƏLAVƏ FAKTLAR")
USD
EUR
GBP
RUB