ما هو أمان الإستخبارات الاصطناعية، هل يمكنني التحمل؟?

وحدثت استخبارات فنية في العديد من مجالات حياتنا كأحد أسرع التكنولوجيات النامية في السنوات الأخيرة. على أية حال، يَجْلبُ a سؤال حاسم إلى جدولِ الأعمالِ: 'هل يمكنني الإختراق؟في هذه النقطة الأمن مفهوم واضح ولا يكتسي أمن الاستخبارات الاصطناعية أهمية بالنسبة لشركات التكنولوجيا فحسب، بل أيضا بالنسبة للمستعملين والمؤسسات اليومية.

وتعمل نظم المعلومات الاستخبارية الفنية أساسا على توفير كمية كبيرة من البيانات. وقد تشمل هذه البيانات معلومات المستخدمين أو السجلات المالية أو البيانات الهامة للشركات. لذا فإن أي ضعف لا يعني مشكلة تقنية فحسب، بل أيضا مخاطرة خطيرة من حيث الخصوصية الشخصية وأمن البيانات. وتشير التطورات في مجال أمن الفضاء الإلكتروني في الفترة الأخيرة إلى أن المعلومات الاستخبارية الاصطناعية لم تُمس بالكامل، رغم أنها قوية جدا.

القواعد الأساسية للاستخبارات الفنية وأمن البيانات

وتحتاج نظم الاستخبارات الفنية إلى كمية كبيرة من البيانات للعمل بشكل صحيح وفعال. وقد تغطي هذه البيانات بصفة عامة السجلات الصحية والمعاملات المالية في حالات أكثر أهمية، ومعلومات عن سلوك المستخدمين وأفضلياتهم. لذا سلامة الذكاء الاصطناعي، مباشرة أمن البيانات متصل نموذج ذكاء اصطناعي يعطي المستعمل أفضل النتائج عندما يتم تدريبه بشكل صحيح ومع ذلك، فإن تغيير البيانات المستخدمة أثناء التدريب من جانب الأشخاص المخادعين يمكن أن يسبب أخطاء خطيرة في نواتج النموذج. بشأنتسمم البيانات (تضخم البيانات)" ويُدعى الهجوم ويُعتبر واحداً من المحتمل أن يخترق الاستخبارات الاصطناعية.

ما هي مُختلّفات (هاكينغ) من الإستخبارات الفنية؟

1. تسمم البيانات (تسمم البيانات)

ويؤدي سالدورغانلار إلى التعلّم الخاطئ للنموذج بإضافة أمثلة خبيثة إلى بيانات التعليم أو إلى تغيير العينات الموجودة. فعلى سبيل المثال، إذا كان نموذج التعرف على الوجه مختلطاً صوراً ملصقة بشكل غير صحيح في بعض النظرات، فإن النموذج يبدأ في سوء فهم تلك الاتصالات.

الدفاع: :: التحقق من مجموعة بيانات التدريب، وتأمين مصادر البيانات، وحجب الأمثلة غير العادية عن طريق الكشف عن الشذوذ، والتدريب التدريجي (التعلم عن طريق الحاسوب)، والتحقق من مصادر مختلفة.

2. الهجمات العدائية

(سالدورغان) يسمح للنموذج بالتنبؤ بشكل غير صحيح عن طريق إجراء تغييرات صغيرة قد لا تلاحظها عين الإنسان فعلى سبيل المثال، يمكن للضوضاء الضوضاء الضئيلة التي تُضاف إلى علامة المرور أن تجعل تلك الإشارة غير مصنفة.

الدفاع: تم إدخالها في مرحلة ما قبل التجهيز، وتدريب خصوم (التدريب على الهجمات النموذجية)، وطبقات التحقق النموذجية، والهيكلات القوية.

3- السرقة النموذجية/السرقة النموذجية

API المهاجم الذي لديه عدد كبير من الاستفسارات حول النموذج يمكن أن يخلق نسخة تضعف سلوك النموذج وهذا يعطيك مخاطرة حقوق التأليف والنشر، والضرر الاقتصادي والإساءة في وقت لاحق.

الدفاع: (ب) القيود المفروضة على معدلات مؤشر التنفيذ (الحد من الحد)، ومراقبة الاستفسارات، ووسم المياه (العلامات المائية) والقيود المفروضة أثناء الخدمة.

4 التحويل النموذجي (التحويل النموذجي/الرسوم البيانية)

ويمكن لسالدورغان أن يعيد تقديم معلومات حساسة (مثل بيانات المستخدمين والصور) عن بيانات التدريب استنادا إلى نواتج النموذج. خطير جدا في النماذج مع البيانات الشخصية.

الدفاع: خصوصية مختلفة (الخصوصية المتباينة) التقنيات، التي تحد من النواتج، وتسمية المعلومات، ومراقبة الوصول إلى البيانات التعليمية.

5. Backdoor / Trojan Attacks

Saldurgan, training process الزناد الخفي عندما يتم تفعيل هذا الزناد في بيئة الإنتاج، يظهر النموذج سلوكاً غير مرغوب فيه عمداً على سبيل المثال، رمي التعرف على الوجوه عندما يظهر شعار معين

الدفاع: إجراء اختبارات إحصائية للسلامة، والتحقق من الموردين، واستعراض نموذجي (مراجعة نموذجية) والكشف عن سلسلة البيانات التعليمية.

6 - سلسلة الإمدادات والتهديدات الداخلية

وتتعرض مكتبات الأطراف الثالثة لخطر الدخول إلى برامجيات سيئة أو في أماكن خلفية من خلال نماذج مدربة مسبقا أو مقدمي بيانات. وبالإضافة إلى ذلك، يمكن للجهات الفاعلة المصرح لها من الداخل أن تحصل أيضا على البيانات وتسربها.

الدفاع: Supplier security assessment, independent code and model audits, مبدأ الامتيازات الأصغر (الامتياز الشرقي)، الفحوصات الأمنية المنتظمة والرصد.

تدابير لسلامة الاستخبارات الفنية

أمن البيانات والتحقق منها

The most critical weakness of AI systems is the data used. وعندما تتسرب البيانات غير الصحيحة أو الضارة، ينخفض أداء النموذج. لتجنب ذلك:

• (أ) اختيار مصادر البيانات من مقدمي الخدمات الموثوقين؛
• استخراج بيانات غير عادية مع كشف الشذوذ
• It is important to prevent personal data from leaking by anonymous.

الخصوصية التفاضلية (الخصوصية المتميزة)

The differential privacy techniques can be used for individual users in the training process that cannot be withdraw. وتحمي هذه الطريقة سلامة البيانات بإضافة الضوضاء الإحصائية، وتؤمن الخصوصية الشخصية.

Improve Model Durability

ولا يقتصر أمن الاستخبارات الأثرية على البيانات فحسب. ومن الضروري جعل النموذج أكثر استدامة ضد الهجمات. لهذا:

• - التعليم الشامل (التدريب الخاص للنموذج ضد المؤسسات)،
• إختيارات معمارية قوية
• ويمكن إجراء اختبارات ضغط منتظمة.

مراقبة الدخول والأمن

The large part of artificial intelligence-based applications serves via API. ضد إساءة استعمال نظام المعلومات الإدارية المتكامل:

• التوثيق القوي
• مفاتيح الدخول القصيرة الأجل
• الحد من المعدل (تحديد الأعضاء)
• وينبغي تطبيق الرصد في الوقت الحقيقي على الاستفسارات غير العادية.

سلامة سلسلة الإمدادات

ويمكن أن تشكل النماذج السابقة للتدريب أو البرامجيات السيئة المخبأة في مكتبات الأطراف الثالثة تهديدا خطيرا. ولذلك:

• يجب مسح مكتبات المصدر المفتوح
• ويجب تقييم الموردين وفقا لمعايير السلامة،
• وينبغي إجراء مراجعة مستقلة للحسابات الأمنية بانتظام.

الوصف ضد التهديدات الداخلية

كل هجوم قد لا يأتي من الخارج وهناك أيضا إمكانية لإساءة استخدام بيانات الموظفين المأذون لهم. ولذلك:

• ينبغي تطبيق مبدأ الحد الأدنى للامتيازات (الامتياز الشرقي)
• وينبغي تسجيل أنشطة المستعملين،

دور الرصد والتفتيش الأمني المستمر

نظم الاستخبارات الفنية هي هياكل دينامية. يمكن أن يظهر عندما يشرح الجديد ولذلك:

• تحديثات أمنية منتظمة
• اختبارات السلامة المستقلة
• وينبغي تنفيذ آليات الإنذار المبكر ضد الهجمات المحتملة.

والأمن الاستخباري الاصطناعي ليس مسألة تقنية فحسب بل أيضا مسؤولية اجتماعية ومسؤولية مؤسسية. ومع تزايد مخاطر أمن البيانات، فإن التصميم الآمن لنظم الاستخبارات الاصطناعية والتفتيش المستمر لها أمر حاسم. ويمكن للتدابير المتخذة اليوم أن تحول دون حدوث مشاكل كبيرة في المستقبل. وفي السنوات القادمة، يتوقع أن تواجه الاستخبارات الاصطناعية تهديدات أكثر تطورا في أمن الفضاء الإلكتروني. ولكن في الوقت نفسه، تتطور أيضا التكنولوجيات التي تزيد من السلامة. إن الخصوصية التفاضلية، والتعلم الموحد (التعلم غير المكثف) ونظم الكشف التلقائي عن الهجوم هي مجرد بعض الحلول الواعدة في هذا المجال.