الذكاء الاصطناعي الأخلاقي لم يعد نقاشًا نظريًا منفصلًا عن بناء المدن الذكية. فالأنظمة التي تنظّم المرور، وترتب أولويات الصيانة، وتساعد الموظفين، وتقترح خدمات للسكان تتخذ قرارات تمس الوقت والخصوصية والفرص وجودة الحياة. وفي الأول من نوفمبر 2026، أطلقت هيئة تطوير منطقة المدينة المنورة بالتعاون مع أكاديمية كاوست هاكثونًا عالميًا للذكاء الاصطناعي الأخلاقي، يربط الابتكار باحتياجات المجتمع ومبادئ العدالة والشفافية ومنع الضرر.
هذا المقال يحول المبادئ العامة إلى إطار تنفيذي يمكن لفريق مدينة أو بلدية أو شركة تقنية تطبيقه. يشرح أين تظهر المخاطر، وكيف يختار الفريق حالة الاستخدام، ويقيم البيانات والنموذج، ويشرك السكان، ويضع رقابة بشرية، ويقيس الأثر بعد الإطلاق. الهدف ليس إبطاء الابتكار، بل منع نظام سريع من تحويل خطأ صغير إلى أثر واسع.
ما المقصود بالذكاء الاصطناعي الأخلاقي في المدينة الذكية؟
هو تصميم واستخدام أنظمة الذكاء الاصطناعي بطريقة تحترم الإنسان، وتحمي الخصوصية، وتحد من التمييز، وتوضح المسؤولية، وتتيح الاعتراض والتصحيح. لا يكفي أن يكون النموذج دقيقًا في المتوسط؛ يجب معرفة من يستفيد، ومن قد يتضرر، وما إذا كانت الخدمة قابلة للوصول، ومن يوقف النظام عند ظهور مشكلة.
المدينة الذكية بيئة معقدة لأن القرار التقني يتصل بالبنية المادية والخدمات العامة. توصية خاطئة في متجر إلكتروني قد تزعج مستخدمًا، بينما إشارة خاطئة في نظام نقل أو إنذار أو تخصيص موارد قد تؤثر في حي كامل. لذلك يرتفع معيار السلامة والتوثيق والتجربة التدريجية.
الأخلاق هنا ليست قائمة كلمات في عرض تقديمي. إنها متطلبات قابلة للاختبار: ما البيانات التي لا تُجمع؟ ما الحد الأقصى للخطأ؟ كيف نقيس التفاوت بين الأحياء؟ متى يجب أن يراجع موظف القرار؟ وكم يستغرق تصحيح معلومة أو تقديم تظلم؟
لماذا أصبح الموضوع تريندًا في المنطقة العربية؟
تتوسع المدن العربية في المنصات الرقمية والحساسات والخدمات الموحدة والذكاء التوليدي. بالتوازي، يرتفع وعي الناس بكيفية استخدام بياناتهم وبمخاطر التحيز والمراقبة والتزييف. كما أن الإدارات تريد الانتقال من مشاريع تجريبية جذابة إلى خدمات موثوقة يمكن الدفاع عن قراراتها أمام الجمهور والجهات الرقابية.
هاكثون المدينة للذكاء الاصطناعي الأخلاقي يعكس هذا التحول. فقد وضع حماية الخصوصية والعدالة وتجنب التحيز والشفافية ومنع الضرر وكرامة الإنسان ضمن صلب التحدي، لا كإضافات بعد بناء الحل. وتُنفذ المرحلة الأولى عن بُعد عبر Kaggle، ثم تتأهل فرق إلى مرحلة حضورية لتطوير حلول قابلة للتطبيق.
هذه الصيغة مهمة لأنها تربط المنافسة التقنية بسياق حقيقي. جودة الخوارزمية وحدها لا تكفي؛ يجب أن تكون البيانات مناسبة، وأن يفهم الفريق المستفيدين، وأن يشرح حدود الحل، وأن يخطط للتشغيل والصيانة بعد النموذج الأولي.
خريطة المخاطر في تطبيقات المدينة
النقل والحركة
قد يستخدم النظام صورًا أو مواقع أو لوحات مركبات لتحليل الازدحام. الخطر لا يقتصر على الاختراق؛ فقد يجمع تفاصيل أكثر مما يحتاج، أو يحتفظ بها أطول من اللازم، أو يحسن الحركة في شارع على حساب حي آخر. يجب فصل تحليل التدفق عن تتبع الأفراد، وتقليل دقة البيانات عندما لا تكون الهوية ضرورية.
الخدمات البلدية
يمكن للنموذج ترتيب بلاغات الحفر أو الإنارة أو النفايات. إذا تعلم من تاريخ البلاغات، فقد يعطي أولوية للأحياء التي يستخدم سكانها التطبيق بكثرة، لا للأحياء الأكثر حاجة. يلزم إدخال مؤشرات مستقلة عن كثافة التفاعل، وتوفير قنوات بديلة لغير القادرين على استخدام المنصة.
السلامة والأمن
تطبيقات الرؤية الحاسوبية عالية الحساسية بسبب احتمال الخطأ والمراقبة والتأثير في الحقوق. لا ينبغي الانتقال من كشف حدث إلى تحديد شخص أو اتخاذ إجراء تلقائي بلا أساس واضح. يلزم تقييم ضرورة الاستخدام وتناسبه، ومراجعة بشرية مؤهلة، وسجل تدقيق، وفترة احتفاظ قصيرة، واختبار دقة عبر ظروف الإضاءة والازدحام والفئات المختلفة.
الخدمات الاجتماعية والصحية
قد تساعد النماذج في تحديد مناطق تحتاج عيادة متنقلة أو دعمًا إضافيًا. لكن التصنيف قد يتحول إلى وصم حي أو مجموعة. يجب استخدام النتائج لتوسيع الخدمة لا لتقليل الحقوق، ومنع نشر خرائط أو درجات تسمح باستنتاج حالة فردية.
المساعدات الرقمية
يستطيع مساعد ذكي الإجابة عن الإجراءات والمواعيد، لكنه قد يختلق شرطًا أو مهلة. يجب ربطه بمصادر معتمدة، وإظهار تاريخ التحديث، وتمكين الانتقال إلى موظف، وعدم جمع محادثات حساسة بلا حاجة. الجواب السلس ليس دليلًا على صحته.
المبدأ الأول: حماية الخصوصية من التصميم
ابدأ بالسؤال عن أقل بيانات تحقق الغرض. إذا كان المطلوب معرفة زمن الرحلة بين نقطتين، قد تكفي معرفات مؤقتة ومناطق تقريبية بدل هوية دائمة. وإذا كان الهدف عد المركبات، لا حاجة للاحتفاظ بصور الوجوه أو اللوحات بعد استخراج العدد.
قسّم النظام إلى مناطق ثقة. تُعالج البيانات الخام قرب المصدر عندما يكون ذلك ممكنًا، ويرسل النظام النتيجة المجمعة إلى المنصة المركزية. استخدم التشفير، والتحكم في الوصول، والتسجيل، وفصل بيئة التطوير عن الإنتاج. لا تسمح للمطورين باستخدام نسخة حية لمجرد أنها أسهل.
عرّف فترة الاحتفاظ قبل الإطلاق، واربطها بالغرض. الحذف يجب أن يكون آليًا وقابلًا للإثبات. وإذا تغيّر الاستخدام، نفذ تقييمًا جديدًا بدل الاعتماد على موافقة أو سياسة صيغت لمهمة أخرى.
المبدأ الثاني: العدالة وعدم التحيز
يظهر التحيز عندما لا تمثل البيانات الواقع، أو عندما يكون الهدف نفسه غير عادل، أو عندما يستخدم القرار مؤشرًا بديلًا لفئة حساسة. مثال ذلك استخدام عدد البلاغات لقياس مستوى المشكلة؛ الحي الذي لا تتوفر فيه قناة رقمية سيبدو أقل احتياجًا رغم أن الواقع عكس ذلك.
حدد الفئات التي قد تتأثر حسب الحالة، مثل الحي والعمر وإتاحة الأجهزة واللغة وذوي الإعاقة. قس الدقة ومعدلات الخطأ والاستفادة لكل فئة، ولا تكتف بمتوسط المدينة. إذا كانت مجموعة صغيرة، استخدم مراجعة نوعية وخبراء مجتمع بدل تجاهلها بحجة ضعف الحجم.
العدالة لا تعني دائمًا توزيع الموارد بالتساوي. قد تحتاج منطقة إلى حصة أكبر بسبب نقص تاريخي أو كثافة أو خطورة. المهم أن يكون المعيار معلنًا وقابلًا للتبرير، وأن تُراجع النتائج الفعلية لا نية المصمم فقط.
المبدأ الثالث: الشفافية القابلة للاستخدام
لا يحتاج كل مواطن إلى قراءة شفرة النموذج. يحتاج إلى معرفة أن الذكاء الاصطناعي مستخدم، وما البيانات الداخلة، وما الغرض، وكيف يؤثر القرار فيه، ومن المسؤول، وكيف يعترض. يجب أن تكون المعلومة قريبة من الخدمة وبعربية واضحة، مع نسخة مناسبة لذوي الإعاقة ولغات الجمهور عند الحاجة.
أما الفريق التشغيلي فيحتاج مستوى أعمق: بطاقة نموذج، وحدود الأداء، والنسخة، ومصدر البيانات، ومؤشرات الانحراف، وسجل القرارات. ويحتاج المدقق إلى إمكانية إعادة بناء ما حدث في حالة معينة من دون تعديل السجل.
لا تساوِ الشفافية بنشر تفاصيل تمكن إساءة استخدام النظام. يمكن شرح المنطق والحقوق والرقابة من دون كشف قواعد أمنية دقيقة. التوازن يُحدد وفق جمهور المعلومة والضرر المحتمل.
المبدأ الرابع: الرقابة البشرية والمسؤولية
عبارة «الإنسان في الحلقة» لا تكفي إذا كان الموظف يوافق آليًا على مئات الاقتراحات أو لا يملك سلطة الرفض. يجب تحديد القرارات التي تتطلب مراجعة، والوقت والمعلومات المتاحة للمراجع، والتدريب، وحدود الأتمتة، ومسار التصعيد.
عيّن مالكًا تجاريًا للخدمة، ومالكًا تقنيًا للنموذج، ومسؤولًا عن البيانات، وجهة رقابية مستقلة نسبيًا. لا تسمح بتوزع المسؤولية حتى لا يكون أحد قادرًا على إيقاف النظام. يجب أن توجد صلاحية توقف طارئ وخطة استمرار يدوي.
في القرارات عالية الأثر، يحتفظ الإنسان بالقرار النهائي ويقدم سببًا مفهومًا. وإذا كان النظام يقدم توصية، تعرض الواجهة درجة الثقة والبيانات الناقصة والبدائل، لا جوابًا واحدًا يبدو يقينيًا.
المبدأ الخامس: منع الضرر والسلامة
ابنِ سجل مخاطر قبل النموذج الأولي. اكتب السيناريو والسبب والنتيجة والفئة المتأثرة واحتمال الحدوث وشدته والضابط والمالك. اختبر الحالات العادية والحدية وسوء الاستخدام والانقطاع والهجوم والتغير الموسمي.
الإطلاق التدريجي ضروري. ابدأ بمنطقة أو خدمة محدودة، وشغّل النظام في وضع الظل حيث يعطي توصيات من دون تنفيذ، وقارنها بالقرارات الحالية. ضع حدودًا توقف الأتمتة عند انخفاض الجودة أو تغير التوزيع أو زيادة الشكاوى.
السلامة تشمل الضرر غير التقني: الارتباك، وصعوبة الوصول، وزيادة العبء على فئة، أو فقدان الثقة. لذلك تجمع المراقبة بين مؤشرات النموذج وبيانات الخدمة والشكاوى والمقابلات الميدانية.
كيف تختار حالة استخدام مناسبة؟
ابدأ بمشكلة محددة وقابلة للقياس، لا برغبة عامة في «إدخال الذكاء الاصطناعي». اكتب المستخدم، والقرار، والوضع الحالي، ومؤشر النجاح، والقيود. مثال جيد: تقليل زمن اكتشاف أعطال الإنارة من دون تخزين صور أشخاص. مثال ضعيف: بناء منصة ذكية للمدينة.
قيّم القيمة والمخاطر والجاهزية. قد تكون حالة عالية القيمة لكنها تحتاج بيانات غير متاحة أو قرارًا لا ينبغي أتمتته. اختر بداية ذات أثر واضح ومخاطر قابلة للإدارة، مثل ترتيب صيانة معدات لا تقييم أشخاص.
افحص البديل الأبسط. أحيانًا تحل قاعدة واضحة أو تحسين نموذج بلاغ أو إضافة موظف المشكلة بكلفة أقل وشفافية أعلى. الأخلاق تشمل عدم استخدام نموذج معقد عندما لا توجد حاجة.
بطاقة تقييم قبل قبول الفكرة
- الحاجة: ما المشكلة، ومن يعاني منها، وما الدليل؟
- القرار: هل يوصي النظام أم ينفذ، وما أثر الخطأ؟
- البيانات: ما المصدر والحساسية والتمثيل وفترة الاحتفاظ؟
- العدالة: من قد يُستبعد أو يتحمل نسبة خطأ أعلى؟
- الشفافية: ماذا سيعرف المستخدم وكيف يعترض؟
- السلامة: ما سيناريو الضرر وخطة الإيقاف والاستمرار؟
- القابلية للتشغيل: من يصون النموذج ويستجيب للشكوى؟
لا تنتقل الفكرة إلى التطوير إذا لم يكن لها مالك أو بيانات قانونية ومناسبة أو معيار نجاح. العرض الجميل لا يعوض غياب التشغيل. ويمكن مراجعة دليل نقل وكلاء الذكاء الاصطناعي من المحادثة إلى العمل لفهم أهمية الصلاحيات والحدود عندما يتحول النظام من إجابة إلى فعل.
إشراك السكان وأصحاب المصلحة
لا تُصمم الخدمة للسكان من دونهم. أجرِ مقابلات وجلسات اختبار مع مستخدمين متنوعين، بما في ذلك من لا يستخدمون الهاتف بانتظام وذوو الإعاقة ومقدمو الخدمة الميدانيون. قد يكشفون مشكلة لا تظهر في البيانات، مثل خوف فئة من الإبلاغ أو سوء فهم رسالة.
قدم نموذجًا بسيطًا يشرح ما يفعله النظام وما لا يفعله، ثم اسأل عن المخاوف والبدائل. لا تجعل المشاركة تصويتًا شكليًا بعد اكتمال المنتج. يجب أن تؤثر النتائج في التصميم أو تؤدي إلى وقف استخدام غير متناسب.
بعد الإطلاق، افتح قناة شكوى ومراجعة وعلن مؤشرات مناسبة. الثقة لا تُبنى برسالة واحدة، بل باستجابة واضحة عندما يكتشف الناس خطأ.
اختبار النموذج في السياق الحقيقي
اختبر البيانات أولًا: الاكتمال، والدقة، والتغطية المكانية والزمنية، والانحياز. ثم اختبر النموذج بمقاييس مرتبطة بالأثر. في إنذار عطل، قد تكون الحالات الفائتة أهم من الدقة العامة. في ترتيب البلاغات، راقب زمن الخدمة لكل حي.
نفذ اختبارات ضغط وهجوم. ماذا يحدث إذا تعطل حساس، أو أرسل مستخدم بلاغات مكررة، أو تغير الطقس، أو انقطعت الشبكة؟ اختبر واجهة الموظف أيضًا؛ فالنموذج الجيد قد يفشل بسبب شاشة تدفع المستخدم إلى قرار خاطئ.
احتفظ بمجموعة تحقق مستقلة وحدّثها بحذر. عند تعديل النموذج أو البيانات أو السياسة، أعد الاختبارات الجوهرية. لا تفترض أن نسخة جديدة أفضل لمجرد ارتفاع متوسط الأداء.
مؤشرات النجاح بعد الإطلاق
اجمع بين مؤشرات تقنية وخدمية وحقوقية. التقنية تشمل الدقة والانحراف وزمن الاستجابة. الخدمية تشمل زمن الإنجاز والتكلفة وتكرار البلاغ. الحقوقية تشمل تفاوت النتائج، وعدد الاعتراضات، ونسبة القرارات المصححة، وحوادث الخصوصية، وإمكانية الوصول.
ضع عتبات توقف مسبقة. إذا زاد تفاوت الخدمة بين منطقتين أو ارتفعت الموافقات البشرية العكسية أو انخفضت جودة البيانات، يعود النظام إلى وضع المراجعة. العتبة المسبقة تمنع الفريق من تبرير المشكلة بعد وقوعها.
راجع المؤشرات مع لجنة متعددة التخصصات، لا فريق النموذج وحده. قد تتحسن الدقة بينما تسوء تجربة السكان أو يزيد العبء على مركز الاتصال.
من الهاكثون إلى خدمة عامة مستدامة
ينتج الهاكثون فكرة ونموذجًا أوليًا، وليس خدمة جاهزة. قبل التشغيل يلزم مالك ميزانية، وتعاقد واضح، وبنية آمنة، واتفاق مستوى خدمة، وخطة بيانات، واختبار وصول، ودعم، وإدارة تغيير. كما يجب تحديد ملكية الشفرة والبيانات وحق التدقيق ونقل المعرفة.
لا تعتمد المدينة على فريق فائز وحده. أنشئ مرحلة احتضان تجريبي تتضمن مراجعة أخلاقية وأمنية وقانونية، وتجربة محدودة، وتقييم مستقل. إذا أثبت الحل قيمة، انتقل إلى شراء أو شراكة بشروط تمنع الإغلاق التقني وتضمن إمكانية استخراج البيانات والسجلات.
وثّق سبب الاستمرار أو الإيقاف. إيقاف مشروع لا يحقق السلامة أو القيمة نتيجة جيدة، وليس فشلًا. التعلم المنظم يوفر على المدينة تكلفة نشر طويل الأمد.
خطة تنفيذ في عشرة أسابيع
- الأسبوع الأول: تعريف المشكلة والمستخدم والأثر والبدائل.
- الثاني: جرد البيانات والأساس النظامي والحساسية.
- الثالث: جلسات أصحاب المصلحة وسجل المخاطر.
- الرابع والخامس: نموذج أولي بأقل بيانات وصلاحيات.
- السادس: اختبارات الدقة والعدالة والخصوصية والأمن.
- السابع: اختبار قابلية الاستخدام والشرح والاعتراض.
- الثامن: تشغيل في الظل ومقارنة بالعملية الحالية.
- التاسع: مراجعة مستقلة وخطة الإيقاف والاستمرار.
- العاشر: قرار تجربة محدودة أو تعديل أو إلغاء موثق.
أسئلة شائعة عن الذكاء الاصطناعي الأخلاقي
هل الالتزام الأخلاقي يقلل سرعة الابتكار؟
التقييم المبكر قد يضيف وقتًا قصيرًا، لكنه يمنع إعادة بناء المنتج بعد مشكلة خصوصية أو تحيز، ويرفع فرصة قبول الخدمة واستمرارها.
هل يكفي الحصول على موافقة المستخدم؟
لا. بعض الخدمات العامة لا تملك بديلًا عمليًا، والموافقة لا تبرر جمعًا غير ضروري. يلزم غرض واضح وتقليل بيانات وضوابط وحقوق.
من يتحمل مسؤولية قرار النموذج؟
الجهة التي تعتمد وتستخدم النظام تظل مسؤولة. يجب توزيع الأدوار داخليًا بوضوح، لكن لا يجوز إحالة المسؤولية إلى الخوارزمية أو المورد.
هل الشفافية تعني نشر الشفرة؟
ليس دائمًا. الأهم شرح الاستخدام والبيانات والأثر والحقوق، مع إتاحة تفاصيل كافية للمدققين والجهات المختصة.
متى يجب منع الأتمتة؟
عندما يكون الأثر عاليًا ولا تتوفر بيانات مناسبة أو مراجعة فعالة أو مسار اعتراض، أو عندما لا يمكن تقليل الضرر إلى مستوى مقبول.
الخلاصة
يحوّل الذكاء الاصطناعي الأخلاقي المدينة الذكية من مجموعة أجهزة ونماذج إلى منظومة خدمة مسؤولة. تبدأ المنظومة بمشكلة حقيقية وأقل قدر من البيانات، وتقيس العدالة والخصوصية والسلامة، وتشرح القرار، وتمنح الإنسان سلطة حقيقية، وتراقب الأثر بعد الإطلاق.
المعيار ليس عدد المشاريع التي تحمل وصف «ذكي»، بل جودة الحياة والثقة والقدرة على التصحيح. عندما تدخل المبادئ في المتطلبات والميزانية والاختبار والعقد والتشغيل، يصبح الابتكار أسرع في التعلم وأكثر أمانًا واستدامة.
