Anthropic Клод AI моделін жала жабуға қарсы жаңа саясатты іске қосты

АҚШ-та орналасқан жасанды интеллект әзірлеушісі Anthropic пайдаланушылардың Клод атты жасанды интеллект үлгісіне қатысты зиянды немесе қатыгез әрекетін шектейтін жаңа пайдалану саясатын жүзеге асыруда. Компания 2026 жылдың 8 қазанында жариялаған және 2026 жылдың 12 қарашасынан бастап күшіне енетін осы ереже аясында негізгі санкция жасанды интеллектке қорлауды қамтитын чаттарды тоқтату болады.

Жасанды интеллект үлгілері нашар сөйлеуді үйрене ме?

Информатика маманы Осман Демирджан жасанды интеллект модельдерінің пайдаланушылармен өзара әрекеттесуінде адамдар көрсеткен көзқарастардың модельді дамытуға теріс әсерлеріне назар аударды. Демирджан: "Бұл әрекеттер шын мәнінде жасанды интеллект тәрбиелеу үшін жағымсыз жағдайға әкеледі. Өйткені нашар сөйлеуді үйренетін модельдер бұл сөз тіркестерін эмоционалды контексте болмаса да, тілдік үлгі түрінде қайта жасай алады. Қысқасы, біз оған қалай жүгінсек, бізге де солай қарайды"деді.

Қорлауға қарсы қандай санкциялар қолданылады?

Осман Демирджан жасанды интеллект технологияларының өте жылдам дамып келе жатқанын және еліктеу қабілеті жоғары екенін айтып, компаниялардың болашақта орын алуы мүмкін жойқын мәселелердің алдын алу үшін сақтық шараларын қабылдағанын атап өтті. Демирджан: «Бұл жағдайда олар жасанды интеллект моделі сияқты мүмкіндіктерді жеткізуді жоспарлап отыр, мысалы, байланысты толығымен үзіп, мүмкін 1-2 күн бойы жұмыс істемейтін, кішігірім қылмыстық жазалармен.»

2026 жылдың 8 қазанында Anthropic жариялаған және 2026 жылдың 12 қарашасында жүзеге асырылатын жаңа саясат пайдаланушылардың Клод атты жасанды интеллект үлгісіне қатысты қорлау және қорлайтын дискурстарды болдырмауға бағытталған. IT маманы Осман Демирджанның бағалауы бойынша, бұл қолданба сау деректер базасы бар жасанды интеллектті дамытуға және пайдаланушылардың сұраныстарына неғұрлым білікті жауап беруге бағытталған.

Жасанды интеллект қызметтерін ұсынатын компаниялар пайдаланушы келісімдері мен пайдалану саясаттары арқылы платформаларды теріс пайдаланудың алдын алу ережелерін орната алады. Пайдаланушылар есептік жазбаны шектеу немесе қызметке кіруді тоқтату сияқты санкцияларды болдырмау үшін тиісті платформаларды пайдаланудың ағымдағы шарттарын орындау арқылы анықталған этикалық ережелерді сақтауға міндетті.

Қорытынды

Жасанды интеллект модельдерінде пайдаланушы енгізуі арқылы қалыптасатын оқу процесі бар сияқты. Бұл технологиялық дамудың бағдарламалық қамтамасыз етумен ғана емес, сонымен қатар пайдаланушылардың этикалық көзқарастарымен де тікелей байланысты екенін көрсетеді.

Пайдаланушылардың жасанды интеллектке теріс көзқарасы модельдің шығу сапасын нашарлатуы және жүйенің сау дерекқорды құруына кедергі келтіруі мүмкін екені түсінікті. Сондықтан мұндай шектеулер енгізетін жасанды интеллект компаниялары жүйенің сенімділігін қорғау үшін жасалған қадам деп санауға болады.

Мүмкін әсерлер

Жаңа саясаттың күшіне енуімен жасанды интеллект платформаларында неғұрлым деңгейлі коммуникация тілі қабылданады деп күтуге болады. Пайдаланушылар қорлайтын сөздерді пайдаланса, оларға кіруге тыйым салу немесе есептік жазбаны уақытша тоқтату сияқты санкциялар болады, бұл платформадағы өзара әрекеттесу сапасын арттыруы мүмкін.

Сонымен қатар, мұндай шаралар басқа жасанды интеллект әзірлеушілеріне үлгі болып, жалпы салалық стандартқа айналуы мүмкін. Бұл анағұрлым бейтарап және конструктивті деректер жиынтығы бар жасанды интеллект үлгілерін үйретуге ықпал етуі мүмкін.