Жасанды интеллекттің штепсельінен ажырату мүмкін бе? Жаһандық қауіпсіздік тәуекелдері және ядролық қатер сценарийлері

Жаһандық қуат жоқ: Жасанды интеллектте "Kill Switch" неліктен мүмкін емес?

Адамзаттың жасанды интеллект бақылаудан шығып кетсе, араласуға уақыты мен мүмкіндігі бола ма деген сұраққа жауап берген профессор, доктор Эрман Смарт «Kill Switch» қолданбасы, яғни қауіпті жағдайларда жүйелерді бірден өшіруге мүмкіндік беретін апаттық тоқтату қосқышы жасанды интеллект үшін жарамсыз екенін баса айтты. Смарт жасанды интеллект қазір ғаламдық ауқымда интернет сияқты барлық жерде тараған шындық екенін айтты.

Жасанды интеллекттің тоқтаусыз өсуін бір орталықтың тоқтата алмайтынын айтқан Смарт АҚШ бұл технологияны шектесе де, Қытайда, Ресейде немесе әлемнің кез келген аймағында бұл дамуға кедергі болатын жаһандық билік жоқ екенін айтты. Саладағы алпауыттардың да осындай мойындаулар жасағанын еске салған Смарт, Cloak шенеуніктерінің бірнеше ай бұрын жасаған мәлімдемелеріне назар аударды, қазір үлкен тіл үлгілері толығымен өз өнімдерінен қоректенеді және келесі үлгілерді өздері дайындайды.

Адамның араласуы өшірілді: "Мұрагерді үйретуде алдыңғы адам"

Өңдеулердің жасанды интеллекттегі адамның ықпалын бірте-бірте азайтып жатқанын айтқан профессор, доктор Эрман Смарт «Бір мағынада алдыңғы адам оның мұрагерін жасайды» деп процестің ауқымын қорытындылады. Смарт компаниялардың бұл бақыланбайтын дамуға жол ашуға басты мотивациясы таза экономикалық мәселелер екенін айтты; Ол жасанды интеллект бағдарламалық жасақтама мен компьютерлік инженерия шығындарын азайту және аз еңбекпен жоғары табысқа жету үшін өзін-өзі үйретуге рұқсат етілгенін мәлімдеді.

Бұл бақылауды жоғалту жасанды интеллект адамзат үшін қауіпті деңгейге жетті деген пікірталастардың негізінде жатыр. Бұрынғы Anthropic қызметкерінің жасанды интеллект 2030 жылға қарай адамзатты жоюы мүмкін деген мәлімдемесін еске салып, Смарт адамның араласуы минимумға дейін азайған кезде жасанды интеллект өзі шығаратын балама жолдар арқылы мақсаттар қоя алатынын айтты.

Шиклик бұл тәуекелдерге қарсы халықаралық аренада қауіпсіздік тосқауылдарының шұғыл түрде орнатылуы керектігін айтып, Түркияның бұл мәселедегі көреген ұстанымына назар аударды. Президент Режеп Тайып Ердоғанның 13 маусымда жариялаған «Түркияның жасанды интеллект әрекет жоспарының» маңыздылығына тоқталған Смарт Түркияның сыртқы саясатында сияқты бұл салада да адамдық дамуға басымдық бергенін және бұл қадамдардың 2030 жылға дейін бүкіл әлем үшін маңызды қауіпсіздік клапаны болуы мүмкін екенін айтты.

Ұрыс алаңынан ядролық қауіп-қатерге дейін: мақсаттағы маңызды инфрақұрылымдар

Ол жасанды интеллект бұдан былай әлеуметтік желілерде тек ойын-сауық мақсатында қолданылатын футуристік құрал емес екенін және мемлекеттердің әскери және технологиялық билік күресінің орталығына айналғанын мәлімдеді. Доктор Ерман Смарт соғыс түсінігі толығымен өзгергенін баса айтты. Ол әскери стратегиялар жасанды интеллект қолдау көрсететін нысанаға алу жүйелері, суретті өңдеу, модельдеу және шешімдерді қолдау механизмдері арқылы қайта жазылатынын мәлімдеді.

Жасанды интеллект негізінен деректер мен энергияға тәуелді жүйе екенін еске салып, Смарт цифрлық іздеріміз арқылы жасалған бұл дерекқорды зиянды пайдалану үлкен апаттарға әкелуі мүмкін екенін айтты. Ол ең үлкен жаһандық қауіп – ядролық қаруы бар елдердің жүйелерін жасанды интеллект бұзып алу мүмкіндігі және бұл ядролық соғысты тудыруы мүмкін екенін мәлімдеді.

Энергетикалық инфрақұрылымдардың қазір ең маңызды мақсаттарға айналғанын көрсете отырып, Смарт жасанды интеллект энергия жоқ жерде болуы мүмкін емес екенін, сондықтан мемлекеттер өздерінің жасанды интеллектін және энергетикалық инфрақұрылымдарын қорғау үшін өте күшті қауіпсіздік шараларын қабылдауы керек екенін қосты.