АКШнын аялуу жерлерин аныктоо боюнча жасалма интеллект мифтери

Жасалма интеллекткомпаниясы Anthropic жана АКШнын чалгын кызматтары жакында маанилүү коопсуздук сыноосун өткөрүштү. Тестирлөөнүн максаты программалык камсыздоонун улуттук коопсуздукка жана экономикага потенциалдуу коркунучтарын аныктоо болгон. Бул контекстте, Anthropic тарабынан иштелип чыкканMythosмодели АКШнын жашыруун системаларында коопсуздук кемчиликтерин аныктады.

Mythos модели жана тесттин чоо-жайы

Сыноо процесси тууралуу маалымат берген атын атагысы келбеген аткаминер бул сыноолордун коомдук коопсуздук үчүн өтө маанилүү экенин айтты. Mythos жасалма интеллект моделинин бир нече сааттын ичинде купуя маалыматтарды камтыган мамлекеттик системаларда алсыздыктарды тапканын белгилеген чиновник, бул табылгалардын системаларга кирип кетүүгө мүмкүн эместигин да баса белгиледи. {{IMG_0}}

Сенатта жасалган билдирүүлөр

Демократиялык сенатор Марк Уорнер 11-июндагы Сенаттын жыйынында бул маселеге токтолуп, Mythos моделинин жашыруун системаларга ылдам кирип жатканын айтты. Уорнер бул өнүгүүнүн коопсуздук тармагында жасалма интеллекттин дагы кылдаттык менен каралышы керектигин көрсөткөнүнө көңүл бурду. {{IMG_1}}

АКШ администрациясынын реакциясы

АКШ администрациясы 13-июнда Anthropic тарабынан иштелип чыккан "Fable 5" жана "Mythos 5" моделдерине каршы чараларды көрдү. Бул улуттук коопсуздуктун жасалма куралдары коркунуч жаратышы мүмкүн деген кооптонуулардан улам чет элдик өкмөттөр менен компанияларга кирүүсүнө тыюу салынган. Андан кийин Anthropic бул өркүндөтүлгөн моделдерди бардык колдонуучуларга жапты.

Окуянын кесепеттери адамдардын кеңири катмарын тынчсыздандырганы менен, бийликтер мындай технологияны кылдаттык менен көзөмөлдөө керектигин айтышат. Жасалма интеллект коопсуздук тармагында кандай роль ойноору жана келечекте кандай жоболор түзүлөөрү кызык.