Süni İntellekt Ağıllandıqca Daha Çox Yalan Danışır

Süni intellektdə halüsinasiyalar problemi böyüyür

Süni intellekt dünyasında "halüsinasiyalar" problemi hələ də "Aşilin dabanı" olaraq qalır. Yəni bu sistemlər getdikcə daha ağıllı olsa da, uydurma məlumatlar təqdim etməyə davam edir.

Bu problem süni intellektin ilk dövrlərindən bəri mövcuddur. Dil modelləri real faktlara əsaslanmayan məlumatları özündən əmin şəkildə təqdim edir. Üstəlik, bu hal modellər inkişaf etdikcə azalmır, əksinə artır.

Yalan məlumatlar artır

Bir il əvvəl süni intellekt üçün "Aşilin dabanı" bənzətməsi istifadə olunmuşdu. OpenAI, Anthropic, Google və DeepSeek kimi texnologiya nəhəngləri daha doğru cavablar verməyi hədəfləyən yeni nəsil süni intellekt modellərini təqdim etdilər. Lakin nəticələr göstərir ki, bu modellər əvvəlki versiyalara nisbətən daha çox səhv və uydurma məlumat verir.

New York Times-ın yayımladığı hesabatda bildirilir ki, OpenAI-ın təqdim etdiyi "o3" və "o4-mini" modelləri daxili testlərdə müvafiq olaraq 33% və 48% hallarda halüsinasiya göstərib. Bu isə əvvəlki modellərlə müqayisədə demək olar ki, iki dəfə artım deməkdir.

Sistematik problem bütün şirkətləri əhatə edir

Təkcə OpenAI deyil, Google və DeepSeek kimi digər şirkətlər də eyni problemlə üz-üzədir. Problem modellərdə yox, onların işləmə prinsiplərindədir. Məsələn, Vectara şirkətinin CEO-su Amr Awadallah deyir: "Nə etsək də halüsinasiyalar həmişə olacaq. Bu tamamilə aradan qalxmayacaq."

Bu vəziyyət yalnız istifadəçilər üçün deyil, texnologiyaya milyardlarla sərmayə qoyan şirkətlər üçün də təhlükədir. Çünki səhv cavablar istifadəçi etibarını zədələyir və iş qərarlarında ciddi fəsadlara səbəb ola bilər.

Süni verilərə keçid təhlükəlidirmi?

Ötən ildən etibarən süni intellekt modellərinin təlimində istifadə olunan real dünya məlumatları tükənib. Hazırda şirkətlər süni verilərə, yəni digər süni intellekt modellərin yaratdığı məlumatlara yönəlir. Lakin bu, yeni modellərin mövcud səhvləri daha da artıraraq təkrarlamasına səbəb ola bilər.

Həll yolu varmı?

Halüsinasiya problemini həll etməyə yönəlmiş ixtisaslaşmış şirkətlər olsa da, problem çox dərin və mürəkkəbdir. Əsas problem isə odur ki, süni intellekt sistemlərinin əslində necə işlədiyini tam anlamırıq. Bu səbəbdən dəqiq bir həll hələ tapılmayıb.

Bəlkə də çıxış yolu göz önündədir, bəlkə də tamamilə yeni və inqilabi bir yanaşma tələb olunur. Süni intellektin inkişafı bu tip çətinliklərlə birlikdə irəliləyir.

Texnologiyadan xəbərdar olmaq üçün Telsat Xəbərləri izləməyi unutmayın.