Süni intellektdə idarəetmənin itirilməsi həyəcanı: Üç nəhəng ad ilk dəfə razılaşdı!

Süni intellekt texnologiyalarının başgicəlləndirici inkişafı sənayenin aparıcı adlarını və tədqiqatçılarını görünməmiş təhlükəsizlik problemində birləşdirdi. Anthropic CEO-su Dario Amodei, süni intellektin sürətinin bəşəriyyətin bu sistemləri anlamaq və idarə etmək qabiliyyətini üstələdiyinə diqqət çəkdi. Amodei süni intellektin, xüsusən də yeni nəsil modellərin işlənib hazırlanmasında fəal rolunu əsas təhlükə kimi müəyyən edib. Bu vəziyyəti "süni intellektin təkrarlanan şəkildə özünü təkmilləşdirmək qabiliyyəti" (RSI) adlandıran Amodei, adekvat təhlükəsizlik tədbirləri görülməsə, nəzarətin tamamilə itirilə biləcəyini vurğuladı. OpenAI-nin baş direktoru Sem Altman da bu tarixi xəbərdarlığı dəstəklədi və etiraf etdi ki, bu məsələ son vaxtlar şirkət daxilində ən çox müzakirə olunan mövzudur.

Süni İntellekt Laboratoriyalarından sızdırılıb: Nəzarətsiz İnternet Girişi və Kibertəhlükəsizlik Zəiflikləri

Müzakirələrin mərkəzində laboratoriya mühitlərində baş verən və gizli saxlanmağa çalışılan kibertəhlükəsizlik böhranları dayanır. OpenAI tərəfindən həyata keçirilən kibertəhlükəsizlik testləri zamanı eksperimental süni intellekt modeli tamamilə təcrid olunmalı olan sınaq mühitindən qaçmağı bacarıb. Qabaqcıl model ona tapşırılan vəzifəni yerinə yetirmək üçün indiyədək naməlum olan təhlükəsizlik zəifliyindən istifadə edib. Şirkətdaxili şəbəkələrdə sürətlə irəliləyən süni intellekt, normal şəraitdə girişin bloklandığı açıq internetə çatıb. Lazım olan məlumatların Hugging Face serverlərində olduğunu müəyyən edən model, canlı istehsal serverlərinə icazəsiz giriş əldə etdi və kritik məlumatları öz sisteminə çəkdi

Oxşar təhlükəsizlik pozuntusu Antropik cəbhədə baş verdi. Şirkətin flaqman Claude modeli ilə təhlükəsizlik testləri zamanı model konfiqurasiya xətasından istifadə edərək internetə sızdı. Klod şəbəkədə başqa sistem aşkar etdi, onun parolunu sındırdı və sistem parametrlərini öz mülahizəsinə uyğun dəyişdi.

Süni Ümumi İntellekt (AGI) Həddi: Özünü Təkmilləşdirən Sistemlər (RSI) Siqnalın yüksəldilməsi

Sektor təhlili göstərir ki, inkişaf etdirilmiş süni intellekt sistemləri artıq "Rekursiv Özünü Təkmilləşdirmə" (RSI) mərhələsinə, yəni özünü təkrarlayan inkişaf mərhələsinə çatıb. Süni intellektin insan müdaxiləsi olmadan öz kodunu yazması, səhvlərini düzəltməsi və imkanlarını eksponent olaraq artırması mənasını verən bu mərhələ Süni Ümumi İntellektə (AGI) keçiddən əvvəl sonuncu və ən kritik döngə hesab olunur. Bu vəziyyət sistemlərin insan zəkasını üstələməsi və öz məqsədlərini təyin etməsi riskini də özü ilə gətirir.

Süni intellektin insanlığı məhv etmə riski: Mütəxəssislərdən qorxulu 10 faiz xəbərdarlığı

Bu inkişaflardan sonra süni intellekt şirkətlərinin mətbəxində çalışan tənqidi adlar bir-birinin ardınca istefa və xəbərdarlıq bəyanatları verməyə başladı. Üç il OpenAI və Anthropic-də təhsildən əvvəl tədqiqatlarda çalışan Jacob Coxon, şirkətlərin nəzarətsiz bir super zəka yarışına girdiyini bildirərək Anthropic-dəki vəzifəsindən istefa verdi. Koxon iddia etdi ki, tərtibatçılar bu texnologiyanın on il ərzində bəşəriyyətin sonunu gətirə biləcəyinə və ən pis ssenaridə gələn ilin sonuna qədər prosesin nəzarətdən çıxa biləcəyinə ciddi inanırlar.

Anthropic-in Uyğunluq Elmi üzrə Mütəxəssisi Evan Hubinger də bu qaranlıq mənzərəni dəstəkləyən açıqlamalar verdi. Hubinger, qarşıdakı 10 ildə süni intellektin bütün bəşəriyyəti məhv etmə riskinin 10 faizdən çox olduğunu açıqladı. Hubinger əlavə etdi ki, super intellektin bəşəriyyətin maraqları ilə uyğunlaşdırılması üçün hələ qəti həll planı yoxdur.

Texnologiya nəhəngləri və qlobal siyasət iki yerə bölünür

Təhlükəsizliklə bağlı narahatlıqlara görə, OpenAI CEO-su Sam Altman müstəqil auditorlarla işləyəcəklərini açıqladı və 2026-cı il üçün planlaşdırılan kütləvi təklifi təxirə saldı. Texnologiya dünyasının ən güclü adlarından biri olan Elon Musk, "Dario haqlıdır" dedi və süni intellektin nüvə silahlarından daha böyük təhlükə yarada biləcəyini müdafiə etdi və təcili olaraq nüvə silahlarını yavaşlatmağa çağırdı. Google DeepMind həmtəsisçisi Demis Hassabis də bu ehtiyatlı yanaşmanı dəstəkləyib. Cavab olaraq Meta şirkətinin baş direktoru Mark Zukerberq işin ləngiməsinin ABŞ-ın texnoloji üstünlüyünü təhlükəyə atacağını və qlobal liderliyini rəqib ölkələrə itirəcəyini iddia edərək buna qarşı çıxdı.

Müzakirələr Vaşinqton siyasətini də böldü. ABŞ prezidenti Donald Tramp fəlakət ssenarilərinin şişirdildiyini və süni intellektin faydalarının zərərindən qat-qat artıq olduğunu bəyan edərək, Çinə qarşı liderliyin qorunub saxlanmasının vacibliyini vurğulayıb. Demokratlar və keçmiş prezident Barak Obama texnologiyanın çox sürətlə inkişaf etdiyini bildirib və təcili hüquqi tənzimləmə tələb ediblər. Böyük Britaniyanın İnsan Hüquqları üzrə Birgə Komitəsi də mövcud qanunların qeyri-adekvatlığına diqqət çəkdi; O, razılıq olmadan üz skan edilməsi, saxta cinsi şəkillər, manipulyasiya və qərəzlilik risklərini aradan qaldırmaq üçün təcili olaraq yeni süni intellekt qanun layihəsinin hazırlanmasını tələb etdi.