ح١٥: السلامة في أنظمة الذكاء الاصطناعي مع م. أحمد النحاس

في عصر تتسارع فيه وتيرة التطور التكنولوجي بشكل غير مسبوق، وتُطلق فيه شركات السيارات نماذج ذكية تعتمد على الذكاء الاصطناعي في قرارات القيادة، يبرز سؤال بالغ الأهمية: كيف نضمن سلامة هذه الأنظمة؟
في هذه الحلقة من بودكاست Embedded Voice، يستضيف المهندس أحمد الديب، زميلنا وصديقنا الدائم في البودكاست، المهندس أحمد النحاس، أحد خبراء مجال القيادة الذاتية والسلامة الوظيفية، لنتعمق في عالم AI Safety، ونستعرض تطور المعايير والتنظيمات العالمية المتعلقة بهذا المجال المعقد.

🚘 من Functional Safety إلى AI Safety – تطور في المفهوم

المفهوم التقليدي للسلامة في الأنظمة المدمجة – المعروف بـ Functional Safety – يعتمد على اكتشاف ومعالجة الأعطال (Faults & Failures). وقد تم تنظيم هذا الفكر داخل معيار شهير ومعروف جيدًا لمهندسي السيارات، وهو ISO 26262، الذي يغطي الأعطال سواء العشوائية (Random Hardware Faults) أو النظامية (Systematic Failures).

لكن في أنظمة الذكاء الاصطناعي، تحدث بعض السيناريوهات دون وجود عطل واضح، ورغم أن كل شيء يعمل وفق المتوقع على مستوى الهاردوير، إلا أن النتائج قد تكون غير آمنة بسبب عوامل مثل:

• ظروف بيئية غير مأخوذة في الاعتبار (مثل الشمس المباشرة أو الغبار أو الثلوج).
• بيانات تدريب غير كافية أو غير ممثلة.
• نماذج AI تخرج بمخرجات خاطئة بسبب مواقف جديدة لم ترها من قبل.

ومن هنا نشأ مفهوم جديد يسمى:

🔍 SOTIF – Safety of the Intended Functionality

هذا المفهوم، الذي تنظمه المواصفة ISO 21448، يركز على السيناريوهات غير المغطاة في متطلبات النظام، والتي لا يمكن تصنيفها كأعطال لكنها تؤثر بشكل مباشر على السلامة.
من أبرز الأمثلة التي ناقشها الضيف:

• سيارة مزودة بكاميرا ترسل صوراً مظلمة بسبب تغطيتها بالطين، لكن النظام يعتبرها صوراً سليمة لأنه لا يرى عطلًا تقنيًا.
• فشل النظام في التعرف على إشارات مرور بلغة مختلفة عن البيانات التي تم تدريبه عليها.

🧾 ما الجديد في المواصفات؟ نظرة على ISO PAS 8800

المعيار الجديد ISO PAS 8800 – الذي لا يزال في طور المسودة (draft) – هو محاولة لتقديم إطار تطوير متكامل لإدارة وتقييم أنظمة الذكاء الاصطناعي في المجالات ذات الخطورة العالية، وعلى رأسها قطاع السيارات.
يوفر هذا المعيار خطوات ممنهجة لتحليل المخاطر، تقييم صلاحية النماذج، وتتبع جودة البيانات، ويُعد خطوة مهمة نحو تأمين دورة حياة الذكاء الاصطناعي (AI Lifecycle).

🏛️ Regulations vs. Standards – فهم الفرق

أوضح الضيف أن هناك فرقًا جوهريًا بين:

• Standards مثل ISO 26262 و21448، وهي اختيارية (لكنها تُعد de facto في أوروبا والولايات المتحدة).
• Regulations مثل EU AI Act، وهي إجبارية وتفرضها الحكومات.

قد تقوم بعض الشركات، مثل تسلا، بإطلاق سيارات إلى السوق دون الالتزام الكامل بالمعايير، لكن لا يمكنها تجنب اللوائح التنظيمية الصارمة، خصوصًا في أوروبا، والتي تتطلب اجتياز فحوصات Homologation وSafety Certification قبل السماح بطرح المركبة في الأسواق.

📊 جودة البيانات: البنية التحتية للسلامة الذكية

واحدة من أكبر التحديات التي تواجه أنظمة القيادة الذاتية هي جودة البيانات.
كما شرح المهندس النحاس، هناك عدة أبعاد يجب مراعاتها:

1. Completeness: هل تغطي البيانات كل السيناريوهات الممكنة؟
2. Correctness: هل تم تصنيف البيانات بدقة؟
3. Representativeness: هل تمثل البيانات الواقع الذي سيواجهه النظام على الطريق؟
4. Bias and Imbalance: هل تم جمع البيانات في ظروف متنوعة، أم أنها مقتصرة على أجواء مثالية فقط؟

وقد ناقشنا أمثلة حقيقية، مثل افتقار البيانات لتمثيل إشارات المرور في دول غير غربية، أو ظهور ظواهر جديدة (مثل الإي-سكوترز) بعد جمع البيانات.

🧪 الاختبار الواقعي أم التحقق المعياري؟

سؤال شائك طُرح في الحلقة:
هل يكفي اختبار الأنظمة في الشارع (real-world testing) لتأكيد سلامتها؟
الجواب، كما أوضحه الضيف، أن الهجين هو الحل. لا يمكن الاعتماد فقط على أي من الطريقتين، بل يجب الدمج بين:

• منهجيات منهجية (Systematic Engineering Approaches).
• اختبارات واقعية لجمع بيانات جديدة وتحسين النموذج باستمرار.

وذلك بالتوازي مع Continuous Updates عبر ما يعرف بـ Over-The-Air Updates (OTA)، والتي أصبحت ضرورة وليس رفاهية.

💼 مستقبل مهندسي الأنظمة المدمجة – نصائح عملية

اختتمنا الحلقة بعدد من النصائح القيمة للمهندسين الشباب، خاصة من يعملون في الأنظمة المدمجة في مصر أو الدول العربية، في ظل التحديات التي يمر بها السوق:

• ضرورة فهم معايير مثل ISO 26262 وSOTIF.
• التوسع في مهارات البرمجة وتحليل البيانات.
• تعلم أدوات الـ AI وML (على الأقل المفاهيم الأساسية).
• فهم متطلبات Data Annotation وAI Validation.

كما شدد الضيف على أن AI Safety ليس علماً نظريًا معقدًا، بل هو هندسة منهجية تعتمد على المبادئ العامة للسلامة والتحقق، لكن مخصصة للأنظمة الذكية الحديثة.

🔚 الخاتمة: مستقبل السلامة بين يدك

الحلقة كانت بمثابة خريطة طريق لفهم تعقيدات السلامة في أنظمة الذكاء الاصطناعي، خصوصًا في السيارات ذاتية القيادة، وسلطت الضوء على أن المهندس المعاصر لا بد أن يجمع بين خبرات الـ Embedded Systems، والذكاء الاصطناعي، والسلامة الوظيفية.