АҚШ-тың осалдықтарын анықтау туралы жасанды интеллект мифосы

Жасанды интеллекткомпаниясы Anthropic және АҚШ-тың барлау қызметтері жақында маңызды қауіпсіздік сынағын өткізді. Тестілеудің мақсаты ұлттық қауіпсіздік пен экономикаға өмірлік маңызды бағдарламалық қамтамасыз етудің ықтимал қауіптерін анықтау болды. Осы тұрғыда, Anthropic әзірлегенMythosмоделі АҚШ-тың құпия жүйелеріндегі қауіпсіздік осалдықтарын анықтады.

Mythos моделі және сынақ мәліметтері

Тестілеу процесі туралы ақпарат берген аты-жөнін атамаған шенеунік бұл сынақтардың қоғамдық қауіпсіздік үшін өте маңызды екенін айтты. Mythos жасанды интеллект моделінің бірнеше сағат ішінде құпия ақпаратты қамтитын мемлекеттік жүйелерде осалдықтарды тапқанын айтқан шенеунік бұл тұжырымдардың жүйеге енуге болатынын білдірмейтінін де атап өтті.

Сенатта жасалған мәлімдемелер

Демократиялық сенатор Марк Уорнер11 маусым күні Сенат отырысында мәселеге тоқталып, Mythos моделінің құпия жүйелерге жылдам еніп жатқанын айтты. Уорнер бұл дамудың қауіпсіздік саласында жасанды интеллектпен мұқият жұмыс істеу керектігін көрсететініне назар аударды.

АҚШ әкімшілігінің реакциясы

АҚШ әкімшілігі 13 маусымда Anthropic әзірлеген "Fable 5" және "Mythos 5" үлгілеріне қарсы сақтық шараларын қабылдады. Бұл ұлттық қауіпсіздік құралдары жасанды қауіп төндіруі мүмкін деген қауіптен шетелдік үкіметтер мен компанияларға кіруге тыйым салынды. Осыдан кейін Anthropic осы жетілдірілген үлгілерді барлық пайдаланушылар үшін жауып тастады.

Оқиғаның салдары адамдардың кең ауқымын алаңдатқанымен, билік мұндай технологияны мұқият бақылау керек екенін айтады. Қауіпсіздік саласында жасанды интеллект қандай рөл атқаратыны және болашақта ол қандай ережелермен реттелетіні қызық.