نماذج الاستخبارات الأثرية الضارة: المخاطر وسبل الحماية

رد قصير: وتُعاد هيكلة نماذج الاستخبارات الاصطناعية المؤذية من نماذج اللغات للمرشحين الأمنيين الذين أزيلوا أو أساءوا استعمالهم، والمركبات التي تعمل مع هذه النماذج. وتُستخدم في معظم الأحيان للتعجيل بالبريد الإلكتروني، والنص الاحتيالي، والتزوير، وإنتاج البرمجيات الضارة. The basis of protection is to verify the messages that want to urgent money or password from a second channel, use multi-factor authentication and establish artificial intelligence systems according to the security guides of institutions such as OWASP, NCSC.

آخر المستجدات: 14.10.2026

ومع تطور التكنولوجيا، تزداد احتمالات الإساءة، فضلا عن ملاءمة الذكاء الاصطناعي لحياتنا. فالاستخدامات الخبيثة يمكن أن تعجل بتهديدات سيبرانية كثيرة من هجمات التسلل إلى التجسس، وإنتاج البرمجيات غير المشروعة دون تمييز. In this article, examples of security firms and researchers report are telling the European Union’s Artificial Intelligence Act and how to protect itself with official sources. نحن لا نقدم أي طرق أو معلومات لإساءة الاستخدام.

ما هي نماذج الاستخبارات الخيالية الضارة؟

ويتم تكييف نماذج الاستخبارات الاصطناعية الضارة بحيث تستخدم في أنشطة غير مشروعة مثل الاحتيال والتلاعب في جرائم الفضاء الإلكتروني. Mostly open source these models are trained and replaced system prompts k " الهروب من السجن " صنعت نسخ In this process, ethical and security filters are disabled and ensure that the model responds all kinds of request. وهكذا، يتم تدريب الاستخبارات الاصطناعية بمحتوى مثل سيناريوهات الاحتيال، ومدونات البرمجيات الخبيثة، وعبارات الكراهية بالشخصية في الفروع الخبيثة.

أمثلة أُبلغ عنها في لمحة

نموذج لغة مدرَّب على وظائف منتدى سام

2022, Yannic Clcher

Hugging Face closed access

FC II

The worm scenario emitted between AI Assistants

March 2024, academic research

تظهر في بيئة مسيطرة هجوم حقيقي

البيت

أمثلة على الفدية باستخدام نموذج الاستخبارات الاصطناعية

26.08.2025, ESET

إثبات المفهوم لم ينظر إليه في هجوم حقيقي

DeepSeek-R1

نموذج ميشيرو الخارجي كان ضعيفاً في اختبارات الأمان

31.01.2025, Cisco and Pennsylvania University

The risk of misuse was shown in safety test

FraudGP Home

FraudGPT, فريق البحوث المهددة بتهديد نيتنريش في الساعة 07/2023 معرّف هو أداة دردشة استخبارات اصطناعيّة يتمّ تسويقها لأغراض الهجوم فقط. ويشير التقرير إلى أن المركبة قد استُحدثت في أسواق الجرائم السيبرانية وقنوات التراسل. وقد أبرز الباحثون المواهب التالية في الترقية:

• القدرة على كتابة بريد إلكتروني للصيد بالهوية، رسائل تسجيل

• المساعدة على إنتاج شفرة خبيثة أو غسيل

• تقديم توصيات بشأن الاحتيال في بطاقات الائتمان وإعداد الموقع الشبكي المزيف

• مرشحات السلامة والقيود الأخلاقية

بيت تاغز

واستُحدثت خدمة دردشة غير أمنية في المنتديات الإجرامية الإلكترونية في صيف عام 2023. وكتبت شركة الأمن SlashNext رسالة إلكترونية مقنعة يمكن استخدامها في اختبار تموز/يوليه 2023، لإقناع الموظفين بدفع فاتورة مزيفة، في احتيال البريد الإلكتروني. Krebs on Security 08.08.2023 وقال المطور إنه بعد مطالب الإساءة، تصبح الخدمة أكثر سيطرة. المخاطر المميزة:

• Yüksek düzeyde sosyal mühendislik/kimlik avı metinleri üretme yeteneği

• Spam/filtre atlatma teknikleriyle uyumlu içerik üretme

• Düşük teknik bilgiye sahip kullanıcıların bile büyük ölçülü saldırılar düzenleyebilmesi

• Bir araç değişse ya da kapansa bile aynı yöntemin başka araçlarla tekrar edilebilmesi

GPT-4Chan

Kötüye kullanılan yapay zeka modelleri arası yer alan ve Yannic Kilcher adlı bir YouTube içerik üreticisi tarafından 2022’de geliştirilen zararlı yapay zeka modeli milyonlarca toksik ve nefret söylemi içeren mesajla eğitilmiştir. Model, 4chan'ın /pol/ panosundaki yaklaşık 3,5 yıllık gönderiyle eğitildi. Akademik bir deney gibi sunulsa da çıktıları ciddi etik ve toplumsal riskler taşıdığı için Hugging Face modele erişimi kapattı. Temel özellikleri şu şekildedir:

• Model ağırlıklarının bir süre serbestçe paylaşılması, bu tür modellerin kopyalanıp yeniden eğitilebileceğini gösterdi.

• Her türlü zararlı, toksik veya yasa dışı içeriği üretme potansiyeline sahiptir.

• İçeriklerde yoğun şekilde ırkçılık, cinsiyetçilik, antisemitizm ve komplo teorileri bulunur.

• Siber suçlular tarafından oltalama metinleri ve sosyal mühendislik senaryoları üretmek için kullanılabilir.

Morris II

Morris II bir saldırı aracı ya da model değil, bir güvenlik araştırmasıdır. Adını 1988'de internete yayılan Morris Worm’dan alır. Stav Cohen, Ron Bitton ve Ben Nassi'nin “Here Comes The AI Worm” başlıklı çalışması (ilk sürüm Mart 2024), kendini çoğaltan zararlı bir istemin üretken yapay zeka destekli e-posta asistanları arasında kullanıcı tıklaması olmadan yayılabileceğini kontrollü ortamda gösterdi. Çalışmanın öne çıkan noktaları şunlar:

• وأُظهرت الهجمات على أنها سيناريو متسلسل للانتشار فيما بين تطبيقات آي إي التي تقرأ المحتوى الخارجي (تستخدم نظام RAG).

• It was reported that the affected Assistant is forced to leak confidential data in every step.

• واقترح الباحثون حماية تسمى " حمار وهمي " في نفس الدراسة؛ وأبلغوا عن 015 0 سعراً إيجابياً زائفاً في الاختبارات.

البيت

PromptLock أعلن الباحثون في المعهد في الساعة 20/26أول برنامج معروف للفدية يستخدم نموذج ذكائي اصطناعي كانت تنتج نصوصها مع نموذج لغة ذات وزن مفتوح يعمل محلياً ولاحظت اللجنة الاقتصادية والاجتماعية لآسيا والمحيط الهادئ، على سبيل المثال، أنه لم يُنظر إليه في هجمات حقيقية وهو دليل على المفهوم؛ وأفاد فريق أكاديمي في الفترة 03-09-2025 بأن نماذج البحوث الأولية تسمى " رانسومواير 3-0 " . النقاط البارزة:

• ولم ينظر إليه في هجوم حقيقي؛ وهو نموذج أولي لأغراض البحث.

• ومن التحذير المبكر أن الذكاء الاصطناعي يمكن استخدامه لتشغيل التهديدات المعروفة بالفدية.

• وتحمي التدابير الكلاسيكية، مثل الدعم المنتظم، والبرمجيات الحديثة، والحماية النهائية، صحة هذه التهديدات.

DeepSeek-R1

DeepSeek-R1, based in China DeepSeek Despite being an open sourced productive language model developed by the company, security filters are disabled or misused الإمكانات الضارة يمكن أن تحمل. باحث في جامعة سيسكو وبنسلفانيا نشر في 31 كانون الأول/ديسمبر 2025 The model did not block any of the 50 malicious request selected from the HarmBench data set (100% attack success rate on the earth); this rate in the same test was 26 percent for OpenAI o1-preview. وقد تؤدي المخاطر المصممة للبحث وتطوير البرمجيات وإنتاج النصوص عند استخدام إساءة استخدام النموذج:

• وهو يؤدي إلى إنتاج الرموز الضارة عن طريق إنشاء برامجيات أو فيروسات أو برامجيات جاسوسية تستغل الأمن مفتوحا.

• ويمكن إنتاج رسائل إلكترونية وهمية مثيرة للإعجاب وسيناريو الهندسة الاجتماعية.

• ويمكن إيجاد أخبار مزيفة ومحتويات تلاعبية ونصوص دعائية.

أساليب الحماية من نماذج الاستخبارات الأثرية الضارة

• Creating Safety Layers: منع الحقن المباشر وغير المباشر باستخدام نظم التصفية السريعة ومنع التلاعب بالنموذج بواسطة جدران نارية تحلل دخول المستخدمين.

• دار التدريب والتفتيش النموذجية: With Adversarial testing, testing the durability of the model against abuse scenarios and making toxic, misleading and harmful content in educational data.

• توعية المستعملين والشركات: يمكن تحسين محو الأمية في وسائط الإعلام اعترافا بالمحتوى الذي تنتجه الاستخبارات الاصطناعية، ويمكن تحديد حدود الصلاحية في استخدام المعلومات الإدارية الداخلية.

• الأدوات والحلول التقنية: الحلول التقنية للجريمة السيبرانية متاحة. وهي:

الفريق الأحمر(ز): تحديد الفتح عن طريق محاكاة سيناريوهات إساءة استعمال الاستخبارات الاصطناعية.

العلامة المائية النموذجية(ز): Some manufacturers add an visible sign to the content they produce; for example, Google, SynthID Detector علامات مائية على المحتوى المنتج في مركباتها. فلا يمكن التحقق من فيليغران إلا بواسطة أدوات نفس الصانع، ولا تعطي نتائج دقيقة للمحتوى غير المميز بالمياه. التفاصيل أدوات كشف المحتوى انظر مقالنا

هيكل انعدام الثقة: ينبغي تطبيق التحقق والتفتيش المستمرين في الوصول إلى نظم الاستخبارات الاصطناعية.

الحقن الفوري قائمة المخاطر العشرة الأولى المتعلقة بتطبيقات الإدارة المستدامة للأراضي المرتبة الأولى (LLM01). In this attack, the model entered or a web page, e-mail or document that the model reads, changes the behavior of the model in the direction that the developer does not want. وتوجد في القائمة مخاطر مثل الكشف عن المعلومات الحساسة (LLM02)، والبيانات والتسمم النموذجي (LLM04)، والإذن المفرط (LLM06). إذا كنت تعطي تصريحات مثل إرسال البريد الإلكتروني إلى مساعد شركة AI، دفع أو حذف الملفات، يجب أن تأخذ في الاعتبار هذه المخاطر.

Legal framework: EU AI Law and Turkey

الاتحاد الأوروبي Artificial Intelligence Act (Thirk (AB) 2024/1689) 01.08.2024 entered into force and gradually applied. The law also covers companies used in the EU, offering artificial intelligence system to the EU market, so the initiatives that serve from Turkey to EU are also interested.

متطلبات قواعد الحوكمة ونماذج الذكاء الاصطناعي ذات الأغراض العامة

آب/أغسطس 2026

قواعد الشفافية: إنتاج المعلومات الاستخبارية العميقة والاصطناعية التي تصنف في الشكل المرئي للمحتوى، وهو التقرير الذي تتحدث فيه المحركات مع الآلة

كانون الأول/ديسمبر 2026

9. ban added with AI Omnibus

02.12.2027

نظم المخاطر العالية في المناطق الحساسة (الفرع الثالث)

02.08.2028

نظم المخاطر العالية المدمجة في المنتجات (Ex I)

وتأخرت تواريخ النظم ذات المخاطر العالية بموجب لائحة " I Omnibus " ، التي اقترحت في 19-11-2025 ودخلت حيز النفاذ في 27.07.2026. ويفرض الترتيب نفسه، وفقاً للمفوضية الأوروبية، حظراً على الطلبات التي تنتج صورة غير تفاعلية.

The main frame of cybersecurity in Turkey is released in 19.03.2025 in the Official Gazette Cyber Security Law No. 7545 uبناء على رئاسة أمن الفضاء الإلكتروني المركز الوطني للتدخل في الأحداث السيبرية; ehbars receive, publish malicious link lists and security notifications.

قائمة مرجعية لحماية نفسك وتنظيم

للمستعملين الأفراد

• تحقق من الرسائل التي تريد أموال الطوارئ أو شفرة أو كلمة سر، حتى لو كان المرسل يبدو مألوفا، من قناة ثانية (مثل الاتصال هاتفيا).

• فتح مصدّق متعدد المفاعلات في حسابات البريد الإلكتروني، والمصرف، ووسائط الإعلام الاجتماعية.

• تحديد مسألة التحقق التي تعرفها وحدك ضد الصوت أو قاذفة الصور

• Report suspicious links and cyber events to USOM; immediately call the bank if you have been scammer and refer to the prosecutor or fellow.

بالنسبة للشركات والمطورين

• NCSC and CISA’s Safe Artificial Intelligence System Development Guideتطبيق أربعة مجالات في (27-11-2023): التصميم الآمن، والتنمية الآمنة، والتوزيع الآمن، والتشغيل الآمن، والصيانة.

الأسئلة المتكررة

ما هو نموذج الذكاء الاصطناعي الضار؟

وتُعاد هيكلة رشحات الأمان ونماذج استخبارات اصطناعية وأدوات لإزالتها أو إساءة استعمالها. ويمكن استخدامها للتعجيل بإنتاج البريد الإلكتروني، والنص الاحتيالي، والتشويه، والمدونة الخبيثة.

هل لا يزال (فرودجي تي) و(دورمجي تي) موجودين؟

ولا يمكن التحقق من حالات اليوم من جانب مصدر رسمي؛ وأبلغت شركات الأمن عن حالتين في عام ٢٠٢٣. ليست أسماء مهمة، الطريقة التي يستخدمونها: رسائل مقنعة ومخادعة. ولا تزال طرق الحماية كما هي.

متى ينطبق قانون الاتحاد الأوروبي الخاص بمكافحة المخدرات؟

The law entered into force in 01.08.2024 and is applied progressively: prohibited from 02.02.2025, rules for general purpose models are valid from 02.08.2025, transparency rules from August 2026. وأُرجئت قواعد نظام المخاطر العالية إلى 02.12.2027 و02.08.2028.

أين يمكنني الإبلاغ عن الخدع التي صنعت مع الذكاء الاصطناعي؟

يمكنك الإبلاغ عن الأحداث السيبرانية والروابط الخبيثة مع (الولايات المتحدة) على أساس رئاسة الأمن السيبرى اتصل بالبنك فوراً إذا لم يكن هناك أي خسارة، ثم الشكوى إلى المدعي العام أو الذراع.

كيف أفهم أن نصاً أو بصرياً يُنتج بإستخبارات اصطناعية؟

ولا توجد طريقة دقيقة؛ وتُقدَّر أدوات الكشف ويمكن إحراقها. ويعطي التحقق فيليغران نتائج أكثر موثوقية عندما يُستخدم معاً لتأكيد مراقبة المصدر ومحتواه من قناة ثانية. حدود المركبات برمجيات الكشف عن المحتوى لقد تحدثنا في مقالنا