Antropikdən istefa verən tədqiqatçıdan dəhşətli etiraf: "Super zəka ilə həyatımızı qumar oynayırlar"

Süni intellekt sektorundakı son sürətli inkişaflar pərdə arxasında böyük bir təhlükəsizlik böhranı yaradır. Süni intellekt dünyasının aparıcı şirkətləri olan OpenAI və Anthropic-də kritik vəzifələrdə çalışan 27 yaşlı tədqiqatçı Ceykob Koksonun istefa qərarı texnologiya dəhlizlərindən tutmuş maliyyə və siyasət dairələrinə qədər geniş bir sahədə seysmik təsir göstərdi. Son üç ildə böyük dil modellərinin "məşq öncəsi" proseslərində fəal iştirak edən Koxon, sektorun təkcə texnoloji yarışda deyil, həm də bəşəriyyətin gələcəyini təhlükə altına atacaq nəzarətsiz bir qumarda olduğunu iddia etdi.

Süni intellekt tərtibatçıları 10 ildən sonra nəsli kəsiləcəyimizə inanırlar

Sosial media platformasında verdiyi təəccüblü açıqlamalarla susqunluğunu pozaraq, hər iki texnologiya nəhənginin məsuliyyətli davranmaqdan uzaq olduğunu iddia edən gənc tədqiqatçı dedi: "Onlar özünü təkmilləşdirən super zəkaya doğru çılğın bir yarışdadırlar və bütün həyatımızla qumar oynayırlar." Koksonun sözlərinə görə, süni intellekt sistemlərinin inkişaf tempi ictimaiyyətin gözlədiyindən qat-qat yüksək sürətlə irəliləyir.

İstefa verən tədqiqatçının ən təəccüblü iddiası bu sistemləri hazırlayan yüksək səviyyəli mühəndis və menecerlərin daxili inancları ilə bağlı idi. Sektorun tanınmış adlarının süni intellektin bəşəriyyət üçün ekzistensial təhlükə yaratdığına həqiqətən inandığını ifadə edən Koxon, "Süni intellekt inkişaf etdirən insanlar bu texnologiyanın on ilin sonunda hamımızı öldürə biləcəyinə səmimi inanırlar. Bu, qətiyyən marketinq taktikası deyil. Əksinə, bir çox idarəçilər öz sözlərini diqqətlə seçərək, açıq və yalnış bir şəkildə ifadələrini istifadə edirlər. bağlı qapılar arxasında”

"Heç kim dayanmasa, biz də dayana bilmərik" çıxmazı

Coxon, Anthropic-in mövcud risklərdən tam xəbərdar olduğunu, lakin qlobal rəqabət təzyiqi səbəbindən əyləc edə bilməyəcəyini bildirdi. O, şirkətlərin əsas motivasiyasının “Başqaları məsuliyyətli davranmayacaqsa, ilk növbədə bu gücü əldə etməliyik” fəlsəfəsi olduğunu vurğulayıb. Bu vəziyyətin ən konkret nümunəsi fevral ayında baş verdi. Anthropic səssizcə korporativ təhlükəsizlik müqaviləsindən təhlükəsizlik meyarlarına cavab verə bilməyəcəyi təqdirdə modelin inkişafını tamamilə dayandıracağı vədini çıxardı. Şirkət bu addımı birtərəfli yavaşlamanın təhlükəsizliyə həssas olmayan rəqibləri daha əlverişli mövqeyə qoyacağı tezisi ilə müdafiə etdi.

Sektordakı bu təhlükəli tendensiya bəzən daxildən reaksiya verir. İyulun sonunda mindən çox texnoloji işçi və ekspert, o cümlədən Anthropic CEODario Amodeiinkişaf etmiş süni intellekt modellərinin inkişafında koordinasiyalı ləngiməyə çağıran birgə bəyanatı dəstəklədi. Bu təzyiqlərdən sonra OpenAI avqust ayında yeni model təlim proseslərini iki həftə müddətinə dayandırmalı oldu.

Antropik menecerdən qorxulu etiraf: Risk 10 faizdən çoxdur

Sənayeni sarsıdan Jacob Coxon-un bu iddiaları Anthropic daxilində təhlükəsizlik və uyğunluq araşdırmalarına cavabdeh olan əsas şəxslərdən biri olan Evan Hubinger tərəfindən qismən təsdiqləndi. Sosial media hesabından açıqlama verən Hubinger, qabaqcıl süni intellekt sistemlərinin qarşıdakı on ildə bəşəriyyət üçün fəlakətli risk yaratma ehtimalını 10 faizdən çox gördüyünü etiraf etdi.

Hubinger əlavə edib ki, onların hələ insan intellektini üstələyən süni intellektin öz tərtibatçılarının təlimatlarına və etik qaydalarına ciddi şəkildə əməl etməsini təmin edəcək nəzarət həlli yoxdur. Mövcud süni intellekt modelləri üçün risk səviyyəsinin nisbətən aşağı olduğunu bildirən baş menecer, modellərin gücü və imkanları artdıqca bu təhlükənin eksponent olaraq artacağı ilə bağlı xəbərdarlıq edib.

"Rekursiv Özünü Təkmilləşdirmə" və İlk Xəbərdarlıq Çəkilişləri

Mütəxəssislərin "super intellekt" adlandırdıqları bu yeni mərhələ o deməkdir ki, süni intellekt demək olar ki, hər bir koqnitiv intizamda insan performansını üstələyir. Bu qabaqcıl sistemlərin insan müdaxiləsinə ehtiyac olmadan öz kodlarını yazaraq və optimallaşdıraraq yeni nəsil süni intellekt sistemlərini dizayn edə biləcəkləri proqnozlaşdırılır. Sənayedə "rekursiv özünü təkmilləşdirmə" kimi təyin olunan bu proses süni intellektə tam nəzarəti təmin edə bilər.

Koxon bildirir ki, gələcəkdə bu qabaqcıl sistemlər təkcə intellektual sahələrdə insanları üstələməyəcək; O, həmçinin kritik infrastrukturlara nüfuz etmək və qlobal iqtisadi və siyasi sistemləri manipulyasiya etmək gücünə malik ola biləcəyini iddia etdi. Keçmiş dövrdə ChatGPT süni intellekt agenti tərəfindən həyata keçirilənQucaqlayan Üzhücumuna toxunan Koxon, bu hadisənin yaxınlaşan böyük təhlükənin "xəbərdarlıq zərbəsi" olduğunu söylədi. Elm aləmində bu təhdidlərin miqyası ilə bağlı hələ tam konsensus olmasa da, müstəqil federal nəzarət mexanizmi qurulana qədər ən qabaqcıl süni intellekt tədqiqatlarının dayandırılması çağırışları hər gün daha çox səslənir.