Süni intellekt dünyasında böyük zəlzələ: Antropik məmurun "Bəşəriyyəti məhv edə biləcəyini" etirafı

Süni intellekt texnologiyalarının sürətli inkişafı özü ilə bu sistemləri istehsal edən nəhəng şirkətlərin dəhlizlərində ciddi təhlükəsizlik problemlərini də gətirir. Son zamanlar sənayeyə rəhbərlik edən ən mühüm aktyorlardan biri olanAnthropicdəki istefa dalğası və ondan sonra gələn təəccüblü açıqlamalar süni intellektin bəşəriyyət üçün yaratdığı ekzistensial təhlükəni bir daha ortaya qoydu. Şirkətin Uyğunluq Elmləri üzrə Mütəxəssisi Evan Hubinqer süni intellektin bəşəriyyəti məhv etmək potensialı haqqında dəhşətli etiraflar etdi.

Hubinger, X sosial media platformasında verdiyi açıqlamada, o və həmkarlarının süni intellektin gələcəkdə bütün bəşəriyyəti yox edə biləcəyinə "səmimi inandıqlarını" ifadə etdi. Bu fəlakət ssenarisinin önümüzdəki on ildə meydana gəlmə ehtimalını qiymətləndirən Hubinger, "Önümüzdəki 10 ildə bu riskin yüzdə 10-un üzərində olduğunu düşünürəm" deyərək təhlükənin ölçüsünə diqqət çəkdi. Anthropic-in təhlükəsizlik tədbirləri üçün səy göstərdiyini bildirən səlahiyyətli, "super kəşfiyyat üçün uyğunlaşma" probleminə hələ də konkret bir həll təqdim etmədiklərini və şirkətin bu mövzuda "açıq şəkildə yolda olmadığını" açıq şəkildə etiraf etdi.

Özünü Təkmilləşdirən Süni İntellekt və Nəzarətsiz Super İntellekt Təhdidi

Hubingerin fikrincə, indiki süni intellekt modelləri hələlik aşağı risk təqdim edir. Ancaq əsl təhlükə, sistemlərin öz səhvlərini düzəltdiyi və yeni qabiliyyətlər qazandığı rekursiv özünü təkmilləşdirmə super zəkasının gözləniləndən çox daha sürətli ortaya çıxmasıdır. Bu nəzarətsiz inkişaf prosesi insan nəzarətinin tamamilə qeyri-aktiv olacağı dövrə səbəb ola bilər.

Bu şok edici açıqlamalar Anthropic-in əsas tədqiqatçılarından biri olan Jacob Coxon-un təhlükəsizlik problemləri səbəbindən vəzifəsindən istefa verməsindən dərhal sonra gəldi. Əvvəllər həm OpenAI, həm də Anthropic çərçivəsində hazırlıq proseslərində çalışmış Coxon, texnologiya şirkətlərinin kor bir yarışda olduğunu müdafiə etdi. Koxon bildirib ki, şirkətlər öz-özünü inkişaf etdirən super intellektə nail olmaq üçün "həyatımızla qumar oynayırlar".

"Bu Marketinq Taktikası Deyil, Əsl Təhlükədir"

Sənayenin bəzi seqmentlərinin bu xəbərdarlıqları reklam şişirtmələri kimi gördüyünü iddia edən Koxon, süni intellekt tərtibatçılarının həqiqətən də onilliyin sonunda bəşəriyyətin sonunu gətirə biləcək bir gücün əldə ediləcəyinə inandıqlarını vurğuladı. Wall Street Journal-a danışan Koxon, hətta "gələn ilin sonuna qədər hər şeyin nəzarətdən çıxa biləcəyi ən aqressiv ssenarilərin" mümkün olduğunu düşündüyünü söylədi.

Koxon həmçinin iddia etdi ki, Antropik menecment risklərdən tam xəbərdardır, lakin "onsuz da heç kim məsuliyyətli davranmayacaq, ona görə də bu texnologiyanı ilk inkişaf etdirən biz olmalıyıq" məntiqi ilə hərəkət edərək təhlükəli yarışın bir hissəsi oldu.

Qlobal miqyasda Süni İntellektin Yavaşlamasına Çağırır

Bu son inkişaflar süni intellekt dünyasında təhlükəsizlik və etik uyğunlaşma ilə bağlı uzun müddətdir davam edən müzakirələri yenidən alovlandırdı. Sənayenin bir çox aparıcı alimləri, mühəndisləri və texnologiya liderləri bəşəriyyətin nəzarəti itirməsinin qarşısını almaq üçün qabaqcıl süni intellekt sistemlərinin inkişaf proseslərini dayandırmaq və ya yavaşlatmaq üçün əvvəllər birgə çağırışlar etmişlər. Bununla belə, rəqabət ambisiyaları bu çağırışların həyata keçirilməsini çətinləşdirməkdə davam edir.