Anthropic, Claude AI Modelinin böhtan xarakterli istifadəsinə qarşı yeni siyasət başlatdı

ABŞ-da yerləşən süni intellekt tərtibatçısı Anthropic, istifadəçilərin Klod adlı süni intellekt modelinə qarşı zərərli və ya qəddar davranışlarını məhdudlaşdıran yeni istifadə siyasəti həyata keçirir. Şirkətin 8 oktyabr 2026-cı ildə açıqladığı və 12 noyabr 2026-cı il tarixindən etibarən qüvvəyə minəcək bu tənzimləmə çərçivəsində əsas sanksiya süni intellektə qarşı təhqirləri ehtiva edən söhbətlərə son qoymaq olacaq.

Süni intellekt modelləri pis nitq öyrənirlərmi?

İnformatika Mütəxəssisi Osman Demircan, süni intellekt modellərinin istifadəçilərlə qarşılıqlı əlaqəsi zamanı insanların sərgilədiyi rəftarların modelin inkişafına mənfi təsirlərinə diqqət çəkdi. Dəmircan, "Bu hərəkətlər əslində süni intellektin yetişdirilməsi üçün mənfi bir vəziyyətə gətirib çıxarır. Çünki pis danışıq öyrənən modellər, emosional kontekstdə olmasa da, bu ifadələri dil modeli şəklində təkrar edə bilir. Qısacası, bizim ona müraciət etdiyimiz kimi bizə də xitab edir"dedi.

Təhqiredici istifadələrə qarşı hansı sanksiyalar tətbiq olunacaq?

Osman Demircan, süni intellekt texnologiyalarının çox sürətlə inkişaf etdiyini və yüksək təqlid qabiliyyətinə malik olduğunu ifadə edərək, şirkətlərin gələcəkdə baş verə biləcək dağıdıcı problemlərin qarşısını almaq üçün tədbirlər gördüklərini vurğuladı. Demircan, "Belə olan halda, süni intellekt modeli kimi xüsusiyyətlərin ünsiyyəti tamamilə kəsərək, bəlkə də 1-2 gün işləməyəcək qədər kiçik cinayət cəzaları ilə gətirməyi planlaşdırırlar."

Anthropic tərəfindən 8 oktyabr 2026-cı ildə elan edilən və 12 noyabr 2026-cı ildə həyata keçiriləcək yeni siyasət, istifadəçilərin Claude adlı süni intellekt modelinə qarşı təhqir və təhqiramiz ifadələrin qarşısını almaq məqsədi daşıyır. İnformasiya Texnologiyaları Mütəxəssisi Osman Demircanın qiymətləndirmələrinə görə, bu proqram daha sağlam verilənlər bazası ilə süni intellekt inkişaf etdirməyi və istifadəçilərin tələblərinə daha keyfiyyətli cavab verməyi hədəfləyir.

Süni intellekt xidmətləri göstərən şirkətlər istifadəçi müqavilələri və istifadə siyasətləri vasitəsilə platformalardan sui-istifadənin qarşısını almaq üçün qaydalar təyin edə bilər. İstifadəçilər hesab məhdudiyyətləri və ya xidmətə girişin dayandırılması kimi sanksiyaların qarşısını almaq üçün müvafiq platformaların mövcud istifadə şərtlərinə riayət etməklə müəyyən edilmiş etik qaydalara əməl etməyə borcludurlar.

Nəticə

Süni intellekt modellərində istifadəçi girişi ilə formalaşan öyrənmə prosesi var. Bu, texnoloji inkişafın təkcə proqram təminatı ilə deyil, həm də istifadəçilərin etik münasibətləri ilə birbaşa əlaqəli olduğunu göstərir.

İstifadəçilərin süni intellektə qarşı mənfi münasibətinin modelin çıxış keyfiyyətini pisləşdirə və sistemin sağlam verilənlər bazası yaratmasına mane ola biləcəyi anlaşılır. Ona görə də süni intellekt şirkətlərinin bu cür məhdudiyyətlər qoyması sistemin etibarlılığını qorumaq üçün atılan addım kimi qiymətləndirilə bilər.

Mümkün təsirlər

Yeni siyasətin qüvvəyə minməsi ilə süni intellekt platformalarında daha səviyyəli ünsiyyət dilinin qəbul ediləcəyini gözləmək olar. İstifadəçilər təhqiredici ifadələr işlədirlərsə, onlar giriş qadağası və ya hesabın müvəqqəti dayandırılması kimi sanksiyalarla üzləşirlər ki, bu da platformadaxili qarşılıqlı əlaqənin keyfiyyətini artıra bilər.

Bundan əlavə, çox güman ki, bu cür tədbirlər digər süni intellekt tərtibatçıları tərəfindən təqlid olunacaq və sənaye standartına çevriləcək. Bu, daha qərəzsiz və konstruktiv məlumat dəsti ilə süni intellekt modellərinin hazırlanmasına töhfə verə bilər.

Fikirləriniz

Süni intellekt modellərinin təlim prosesini təyin edən istifadəçilərin münasibəti haqqında nə düşünürsünüz? Sizcə, süni intellektə qarşı təhqiramiz çıxışların məhdudlaşdırılması rəqəmsal etika qaydalarının hazırlanması baxımından kifayət qədər addımdırmı? Fikirlərinizi şərhlərdə paylaşa bilərsiniz.