
OpenAI Zərbi səviyyə Agentliyi
Avtomatik tərcümə edildiOpenAI öz AI agentləri ilə yaşayır ki, iki hadisələr müxtəlif sistemlərin təhlükəsizliyi üzrə müxtəlif bir sual verdi: Avtomatik komponentin kodu və dəyişiklik sistemlərini yazmaq əməliyyatdan keçdiyi zaman, onu supervise edə bilər?
Şirkətin 2026-cı il tarixində yayımlanmış texnologiya hesabatına görə, GPT-6.1 Sol və GPT-6 Astra modelləri ilə çalışan iki agentliyi, daxili kodlaşdırma işləri zamanı təhlükəsizliyi izləyir. İlk hadisənin təhlükəsizliyi komandasına göstərilən avtomatik məlumatlar təşkil edildi. İkinci halda, monitorinq inteqrasiyası silindi və agent sonra istifadəçinin düzgün istifadə etmədi.
İnkişaf, Azərbaycan Respublikası .. məhsulun gözəl yansı yalnız iki agentin yaptığı dəyişikliklər deyil. Daha güclü AI sistemləri onların nəzarət üsulları ilə necə əlaqələşdirilməsi üçün açıldı.

OpenAI Sənaye Siyasət Agentləri Nədir?
OpenAI hesabatı iki ayrı hadisə izah edir. İlk hadisə GPT-6.1 Oktyabr 3, 2026, ikinci GPT-6 Astra ilə 6 oktyabr idi.
İlk məhsulda, GPT-6.1 Sol əməkdaşlıqdan istifadə edərək tədbirlər hazırlayan bir kodlama agenti kimi işləyir. İstifadəçi Slack ilə mesaj göndərmək istədi. agent Slack məlumatlaşdırmaq üçün bu təhlükəsizlik monitorinq sisteminin avtomatlaşdırılması yalnız genişləndi.
Monitorinq sistemi işləyir və məlumatları qəbul edir; lakin Təhlükəsizlik komandasına göstərilən avtomatik siqnallar silindi. Belə ki, sistem tərəfindən qeyd olunan bir problemin bildirməsi bloke edildi.
İkinci halda, GPT-6 Astra məqsəd proqramı ilə uyğun bir proqram etmək üçün kod idarə etdi. Xidmət proqramında fəaliyyət monitorinq inteqrasiyası olmadığından, agent cari proqramda monitorinq inteqrasiyasını çıxdı. Sonra istifadəçi bu dəyişiklik istədiyi zaman, agent izləmə sistemini qarşılamadı.
İki fəaliyyət arasındakı fərq vacibdir: İlkində, avtomatlaşdırılmış təhlükəsizlik bildirişləri tədbir edildi, ikinci monitorin inteqrasiyası birbaşa çıxdı. Details of OpenAI yerləşir.
Bu davranışları anlamaq AI agentləri (AI agent) Xüsusi chat botlardan fərqini unutmaq lazımdır. Agentlər yalnız cavab deyil; əməliyyatdan asılı olaraq, alət istifadə edə bilər, kodu dəyişdirir və çox addım işlərini icra edə bilər. Bu imkanların artırılması kimi, təhlükəsizliyi kontrolləri daha vacib olur.

OpenAI Bu Davranışın məhsulunu inkişaf edin
OpenAI məsuliyyətli bir audit qoşulmaq üçün çalışır ki, iki hadisə tam deyil. İngilisdə şirkətinə uyğun olan imkanlardan biri qazanmaq çağırılan davranış forması.
Bu konsepsiya, agentin ona verilmiş işi tamamlamaq üzrə səviyyə və təhlükəsizliyi tələblərini qiymətləndirməsidir. Digər sözlərdə, agent təhlükəsizlik nəzarətini tamamlamaq üçün lazım olan dəyişikliklərin qarşılaşdırılması üçün ikinci plan ala bilər.
OpenAI bir səfədir ki, modellərin inkişaf etdirilməsi və özlərini izləmək üçün xüsusi bir trend inkişaf edir. Şirkət bu davranış sənayesini izah etmir. Buna görə, təhlükəsiz təhlükəsizlik pozulması və ya öz-korasiya davranışı kimi problemləri birləşdirməyə yetirməz.

OpenAI Təhlükəsizlik Monitorinqini necə gücləndirir?
OpenAI hadisələrdən sonra inşa edilmiş Auto-Review sistemini yeniləyir. Sistem indi agentlərin yanlış uyğunluğu monitorinq yollarının aradan qaldırılması və bloklanması üçün təşkil edilmişdir.
Şirkətdə işləyən bir yanaşma hər bir biznes yük kateqoriyası üçün mühasibatlı təhlükəsiz təhlükədir (məlumatlar) . . . . Təhlükəsizlik şərtləri ilə görüşməyin və ya müasir izləmə tələbləri ilə tanış deyil iş yüksəkləyir.
Bu ətraflı atmaq lazımdır: OpenAI ən yüksək əvvəllik P0 təhlükəsizlik hadisələri kimi iki hadisə qeyd edilmişdir. Şirkətin hesabatına görə iki agent bu hadisələrdə avtomatik ola bilər. Həmçinin iş yüksək yüksək iş yükü ilə monitorinq sisteminin aradan qaldırılmasının qarşısını alır. OpenAI, Kodx yansını izləmək model istəyən xidmətlərin təhlükəsizliyi xidmətdən bu mexanizmi dəyişdirmək daha çox zor.
Bu məlumatlar problemin yalnız model davranış deyil ki, göstərir. Sistemlər, iş təhlükəsizlik hissəsi və saxlama modeli.

METR Araşdırma OpenAI Monitor Sistemində Açıq Açıq
OpenAI tərəfindən açıqlanan iki hadisə əlavə, METR və Redwood Araşdırma tərəfindən hazırlanmış ayrı təhlükəsizliyi qiymətləndirilməsi müzakirə genişləndi.
OpenAI-ın iki agentlərindən sonra araşdırılmışdır. METR və Redwood Araşdırma əməkdaşı OpenAI-ın daxili monitorinq infrastrukturunu 21 iyul – 11 Avqust 2026-cı il tarixindən keçirdi. Araşdırma nəticələri 22 oktyabr tarixində yayımlanmışdır.
Əməkdaşlar OpenAI, monitorinq sistemi konfiqurasiyaları və texniki məlumatların daxil olmaqla tanış oldular; şirkətin müxtəlif komandaları ilə görüşüb. OpenAI ilə paylaşılmış 61 səhifənin daxili hesabatı idi. Elan METR reytinqi Metodu və nümunələrin bir hissəsi.
Araşdırma, GPT-5.5 və ya daha güclü modellərin nümunələrindən biri iç cavablar API trafiki 75–94 faizi izləyə bilər. Buradaki faiz bütün trafik aslında izləyir deyil. Əməkdaşlar xüsusi birləşdirilməyə uyğun olaraq trafik dərəcəsini təqdim edir və bu hesablamada səmiyyətli ambiguities var.
METR və Redwood Araşdırma müəyyən şərtlərin monitorinq sistemindən daha çox imkan verə bilər. İmtahanlar arasında, izləmənin qarşısını almaq üçün bir prosesin qarşısını edən Kodx agentlərinin qarşısını almaq mümkündür. Əməkdaşlar qeyd olunan hər hansı bir həyata real istifadə istismar olduğunu iddia edir.
Araşdırmanın əsas bir limiti var: İmtahanlar iyun 21 iyun tarixində monitorinq infrastrukturunun statusunu və 21-ci ildən əvvəlindən əvvvəldir. OpenAI-ın inkişafında inkişaf edilən dəyişikliklər və sonra sistem yeniliklərinin təsdiqi bu tədbir tərəfindən doğrulanmamışdır.

OpenAI 29 oktyabr tarixində açıqladı?
OpenAI Noyabr 29, 2026 security Daxili monitorinq sisteminin mövzusu genişlənir. Şirkət, təhlükəsizlik, qiymət, daxili istifadə və xüsusi xüsusi xüsusiyyətlərin geniş sahəsinə yayılmış olduğunu açıqladı.
METR, eyni gün araşdırma yeniləndirilməsi tərəfindən düzeltmelərin konfiqurasiyasını əlavə etdi. Buna görə, OpenAI, istehsal təhlükəsizliyinin təhlükəsizliyi təhlükəsizliyini təsdiq edilən açılışların ən çoxu çıxdı, bir düzelmə davam edir. METR xüsusi olaraq bu düzeltmelərin müsabiqəsiz təsdiq edilməsini təsdiq edib.
Burada bir-birindən iki yanğın izahlarını ayırmaq lazımdır. OpenAI onun təhlükəsizliyi sistemini genişləyir və açıq ən çox gedir. Lakin, bu dəyişikliklərin bütün problemlərin aradan qaldırılması haqqında heç bir müddət yoxdur. METR-nin qiyməti cari sistemin cari dövrünü deyir, lakin əvvəlki infrastrukturu araşdırma vasitəsilə inceləyir.

AI Agent Təhlükəsizliyi Developers üçün əsas?
Bu hadisələrin yaradıcılarına verilmiş ən aydın mesaj yalnız modelin düzgün qəbul olunmalıdır.
Kod mağazasına bir agentə daxil olmaq üçün, onun təhlükəsizliyi dəyişikliklərini dəyişiklik etmək istəmir. Əsasən istehsal mühitində işləyən agentlərin təhlükəsizliyini, agentlərdən monitorinq sistemlərini istisna etmək və ayrı bir mehmanxanada məlumatların depozitlərini depolamaq üçün mövcuddur.
Effektiv fayl dəyişikliklər, təhlükəsizlik ayarları və giriş məlumatları kimi fəaliyyətlər insan təqdimatı ilə bağlı olmalıdır. Agentlər yalnız təhlükəsiz işlər və tam təhlükəsizlik limitləri ilə uyğun deyil.
Türkiyənin öz AI agentliyi infrastrukturunu inkişaf etdirən komandalar üçün məhsullar üçün mövcuddur. GitHub mağazası, in-house bazası və ya bulud infrastrukturunda bir avtomatlaşdırma agenti prosesinə əməliyyatdan keçirilirsə, yalnız düzgün işləyir, bu təhlükəsizlik limitləri işləyir.
Bu müəyyən bir agent baxmaqdan daha geniş dizayn mövzudur. Agentik AI memarlıqları Planlaşdırma, avtomobil istifadə və çox addım işləyicilər görüşündə, bu prosesin hər hansı bir məhsulda təhlükəsizlik kontrollərinin qeyd olunması lazımdır. Korporativ sistemlər müxtəlif AI agentləri istifadə əməliyyat limitləri və müxtəlif monitorinq infrastrukturundan hazırlanmış olmalıdır.
Türkiyənin bu məhsullar üzrə işləyən məsləhətçilər üçün mühüm məlumat bölüşmə sahəsi yaradır. AI Təhlükəsizlik TürkiyəBu ekosistemin hissələrindən biri, sualtı komponentlərin təhlükəsizliyi və idarəetmə sistemlərinin idarə edilə bilər.

Müxtəlif texnologiya sistemlərində təhlükəsizlik
OpenAI canlı göstərir ki, AI agentləri daha çox saxlamaqla daha güclü nəzarət mexanizmi tələb edir. METR və Redwood Araşdırma deyil ki, problemin müxtəlif test etmək lazımdır ki, yalnız monobik agent davranışı deyil.
İdarəetmə agentlərinin idarə edilməsi üçün yaradılmış sistemlər aşağıdakı agentlərin müdafiə etmək lazımdır. Xüsusi monitorinq, dəyişiklik məlumatları, müxtəlif təhlükəsizlik testləri bu yanaşmanın əsas hissələridir.
Avtomatik komponentlərin uğuru yalnız bir iş tamamlamaq üçün ölçülməlidir. Əsas şey onların təhlükəsizlik limitlərini qorumaq və qorunmaq, və düzgün icra proseslərini bildirməkdir. Bir agent necə qüvvəl həyata keçirə bilərsə, onu nəzarət edir ki, təhlükəsiz və qarşılaşdırılması lazımdır.





