أخلاقيات الذكاء الاصطناعي كميزة تنافسية: واقع السوق والآفاق المستقبلية

مقدمة: النظرة العامة الحالية للذكاء الاصطناعي الأخلاقي في البرمجيات كخدمة

مع ازدياد دور الذكاء الاصطناعي في تشغيل وظائف الأعمال الحيوية بشكل متزايد، انتقلت مسائل الأخلاقيات والمساءلة والحوكمة من المناقشات النظرية إلى الضرورات العملية. ومع ذلك، وكما تم تسليط الضوء عليه في المناقشات الأخيرة في مجتمع التكنولوجيا، هناك فجوة مفاجئة بين توافر أدوات مفتوحة المصدر للذكاء الاصطناعي الأخلاقي والعرض الفعلي لحلول البرمجيات كخدمة المخصصة في هذا المجال.

‍

يتساءل المتخصصون في هذا المجال: "لماذا لا توجد منتجات أخلاقية للذكاء الاصطناعي كخدمة متاحة؟ على الرغم من التوافر الواسع لأدوات مثل ELI5 و LIME و SHAP و Fairlearn، إلا أن سوق حلول "الذكاء الاصطناعي الأخلاقي كخدمة" يبدو متخلفاً بشكل مدهش. وتثير هذه الفجوة تساؤلات حول القيمة التجارية المتصورة لأخلاقيات الذكاء الاصطناعي في منظومة التكنولوجيا الحالية.

‍

في شركتنا، نعتقد أن الاعتبارات الأخلاقية يجب أن تكون عناصر أساسية وليست ثانوية في تطوير الذكاء الاصطناعي وتنفيذه. يوجز هذا المقال إطار عملنا الشامل للذكاء الاصطناعي الأخلاقي، ومقارنته بواقع السوق الحالي والتحديات العملية التي أبرزها الممارسون.

‍

لماذا الذكاء الاصطناعي الأخلاقي مهم في مجال البرمجيات كخدمة: النظري مقابل العملي

بالنسبة لمقدمي خدمات البرمجيات كخدمة، لا يتعلق الذكاء الاصطناعي الأخلاقي بتجنب الضرر فحسب، بل يتعلق ببناء منتجات مستدامة تولد قيمة دائمة. يعتمد نهجنا على بعض المعتقدات الأساسية:

1. يثق بنا العملاء في بياناتهم وعملياتهم التجارية. ويتطلب الحفاظ على هذه الثقة معايير أخلاقية صارمة.
2. إن أنظمة الذكاء الاصطناعي التي تكرس التحيز عن غير قصد أو تفتقر إلى الشفافية أو تفشل في احترام الخصوصية تؤدي حتماً إلى مسؤوليات تجارية.
3. إن بناء الأخلاقيات في عملية التطوير منذ البداية أكثر فعالية من اعتماد الحلول بعد ظهور المشاكل.
4. وخلافاً للفكرة القائلة بأن الاعتبارات الأخلاقية تحد من الابتكار، فإنها غالباً ما تلهم حلولاً أكثر إبداعاً واستدامة.

ومع ذلك، وكما لاحظ المتخصصون في هذا المجال، لا تزال القيمة التجارية للذكاء الاصطناعي الأخلاقي محل جدل في ظل غياب الضغط التنظيمي القوي. وقد أشار أحد الخبراء إلى أن: "البيئة التنظيمية ليست بالبيئة التي تجعل الشركة تواجه خطرًا كبيرًا من حيث المسؤولية إذا كانت خوارزميتها غير أخلاقية، ولا أرى حقًا أن الناس يصطفون أمام أي شركة تعلن عن نفسها على أنها تستخدم الذكاء الاصطناعي الأخلاقي بنسبة 100%."

‍

يمثل هذا التوتر بين المُثُل الأخلاقية وواقع السوق تحدياً رئيسياً للشركات التي تسعى إلى وضع الأخلاقيات كميزة تنافسية.

‍

العقبات التي تحول دون اعتماد الذكاء الاصطناعي الأخلاقي كخدمة

قبل تقديم إطار عملنا، من المهم أن ندرك التحديات الكبيرة التي حدت من انتشار حلول الذكاء الاصطناعي الأخلاقي SaaS:

1. التعريفات السياقية لمصطلح "الأخلاقيات

وكما يشير الخبراء في هذا المجال، "يعتمد مفهوم "الذكاء الاصطناعي الأخلاقي" على السياق تماماً. يختلف ما يعتبر أخلاقيًا بشكل كبير بين الثقافات والصناعات المختلفة وحتى بين الأفراد داخل المؤسسة الواحدة. وأشار أحد الممارسين قائلاً: "أعتقد أن ما هو أخلاقي يختلف من شخص لآخر. فالبعض يعتقد أن الأمر يتعلق بالتعويض. والبعض يعتقد أن الملكية الفكرية غير أخلاقية بطبيعتها، وبالتالي فإن التعويض سيكون غير أخلاقي."

2. حوافز اقتصادية محدودة

في ظل غياب اللوائح التنظيمية التي تُلزم بالتحقق من النزاهة في الذكاء الاصطناعي، لا ترى العديد من المؤسسات عائداً واضحاً على الاستثمار في أدوات الذكاء الاصطناعي الأخلاقية. وكما أشار أحد المديرين التنفيذيين في مجال التكنولوجيا: "يضع السوق قيمة أعلى بكثير على المظهر الأخلاقي أكثر من القيمة الأخلاقية". وتؤدي هذه الفجوة بين المظهر والجوهر إلى تعقيد الجهود المبذولة لتطوير مقترحات قيمة مقنعة.

3. تحديات التنفيذ

يتطلب تنفيذ حلول الذكاء الاصطناعي الأخلاقية وصولاً عميقاً إلى النماذج وبيانات التدريب المملوكة للملكية الخاصة، مما يثير مخاوف بشأن الأمن والملكية الفكرية. وكما أشار أحد الباحثين: "خوارزميات الذكاء الاصطناعي القابلة للتفسير هي بالفعل مفتوحة المصدر وتتطلب الوصول إلى النموذج، لذلك ليس من المنطقي استضافة أي شيء".

4. قضايا المسؤولية القانونية

قد تواجه شركات البرمجيات كخدمة التي تقدم خدمات الذكاء الاصطناعي الأخلاقي مشاكل معقدة تتعلق بالمسؤولية إذا لم تقم أدواتها بالكشف عن المشاكل الأخلاقية بشكل كافٍ. واقترح أحد المستشارين القانونيين: "هل يجب عليهم تقديم نوع من التعويض أو شيء من هذا القبيل ربما؟ أنا لا أعرف ما يكفي عن المشهد القانوني أو مسألة الأعمال التجارية، ولكن هذا هو أحد الأسئلة الأولى التي قد أطرحها".

على الرغم من هذه التحديات، بدأت بعض الشركات في الظهور في هذا المجال، حيث تقدم بعض الشركات عروضاً مثل DataRobot التي توفر مراقبة الأسهم والتحيز من خلال حلولها الخاصة بخدمات إدارة عمليات التشغيل الآلي.

إطار عملنا الأخلاقي للذكاء الاصطناعي: خمس ركائز في ممارسة السوق

يتمحور نهجنا حول خمس ركائز مترابطة، لكل منها آثار عملية على الطريقة التي نطور بها حلول SaaS وننشرها:

1. الإنصاف والتخفيف من حدة التحيز

المبدأ الأساسي: يجب أن تتعامل أنظمة الذكاء الاصطناعي لدينا مع جميع المستخدمين والموضوعات على قدم المساواة، وتجنب التمييز غير العادل أو المعاملة التفضيلية.

‍

التطبيقات العملية:

• اختبار التحيز الدوري باستخدام مقاييس الإنصاف الإحصائية المتعددة
• ممارسات شراء بيانات التدريب المختلفة
• قيود الأسهم المنفذة مباشرة في أهداف النموذج
• رصد التشوهات الناشئة في أنظمة الإنتاج

دراسة حالة افتراضية: في نظام إدارة الموارد البشرية، من المهم التحقق من أن النماذج لا تعاقب عن غير قصد "الفجوات الوظيفية" - وهو عامل يؤثر بشكل غير متناسب على النساء ومقدمي الرعاية. من خلال بروتوكولات اختبار الإنصاف الصارمة، من الممكن تحديد هذه التحيزات وإعادة تصميم النظام لتقييم التقدم الوظيفي بشكل أكثر إنصافاً.

‍

الاستجابة لتحديات السوق: نحن ندرك، كما اقترح الممارسون في هذا المجال، أنه إلى حين وجود تشريع يتطلب إظهار العدالة في الذكاء الاصطناعي، يمكن استخدام هذا النوع من التحليل في المقام الأول كتدقيق داخلي للمؤسسات التي ترغب في تنفيذ الذكاء الاصطناعي بمسؤولية.

2. الشفافية وقابلية الشرح

المبدأ الأساسي: يجب أن يفهم المستخدمون كيف ولماذا تتوصل أنظمة الذكاء الاصطناعي لدينا إلى استنتاجات معينة، خاصة بالنسبة للقرارات عالية المخاطر.

‍

التطبيقات العملية:

• مناهج الشرح المتدرج على أساس تأثير القرارات
• تفسيرات اللغة الطبيعية للتنبؤات الرئيسية
• أدوات مرئية توضح أهمية الميزات ومسارات القرار
• التوثيق الكامل للنموذج المتاح للعملاء

دراسة حالة افتراضية: يجب أن توفر أدوات التنبؤ المالي القائمة على الذكاء الاصطناعي فترات ثقة إلى جانب التوقعات، وأن تسمح للمستخدمين باستكشاف كيفية تأثير العوامل المختلفة على التوقعات. تساعد هذه الشفافية المستخدمين على فهم ليس فقط ما يتنبأ به النظام، ولكن أيضًا لماذا يفعل ذلك ومدى ثقته.

‍

الاستجابة لتحديات السوق: كما تم تسليط الضوء عليه في مناقشة الصناعة، فإن دمج هذه العناصر ضمن المنتجات الحالية، كما تفعل DataRobot في مراقبة عمليات التشغيل الآلي الخاصة بها، يمكن أن يكون أكثر فعالية من تقديمها كخدمات قائمة بذاتها.

3. الخصوصية وحوكمة البيانات

المبدأ الأساسي: يجب أن يكون احترام الخصوصية مدمجًا في كل مستوى من مستويات خط أنابيب البيانات، بدءًا من جمع البيانات إلى معالجتها وتخزينها.

‍

التطبيقات العملية:

• تقنيات الحفاظ على الخصوصية مثل الخصوصية التفاضلية والتعلم الموحد
• تقليل جمع البيانات إلى الحد الأدنى الضروري للوظائف
• آليات واضحة ومحددة للموافقة على استخدام البيانات
• تقييمات أثر الخصوصية الدورية لجميع ميزات المنتج

دراسة حالة افتراضية: يجب أن تستخدم منصة تحليلات العملاء المصممة بشكل أخلاقي تقنيات التجميع التي توفر معلومات قيمة دون الكشف عن سلوك العملاء الفردي. سيسمح هذا النهج القائم على الخصوصية حسب التصميم للشركات بفهم الاتجاهات دون المساس بخصوصية العملاء.

‍

الاستجابة لتحديات السوق: كما تمت الإشارة إليه في مناقشة الصناعة، "قد تكون تخلط بين الأخلاقيات والامتثال التنظيمي (وهما أمران مختلفان تمامًا على الأقل في سياق الولايات المتحدة). هناك في الواقع بعض الشركات الناشئة التي أعرفها حيث تتمثل القيمة المقترحة في أنها تستعين بمصادر خارجية لبعض جوانب هذا الأمر، ولكنها تركز أكثر على خصوصية البيانات."

4. المساءلة والحوكمة

المبدأ الأساسي: يضمن وجود هيكل مساءلة واضح عدم إهمال الاعتبارات الأخلاقية في عملية التطوير.

‍

التطبيقات العملية:

• لجنة مراجعة الأخلاقيات باختصاصات ووجهات نظر مختلفة
• عمليات المراجعة الداخلية المنتظمة لأنظمة وعمليات ضمان الجودة الداخلية
• سلسلة المسؤولية الموثقة لأنظمة اتخاذ القرار في الذكاء الاصطناعي
• إجراءات الاستجابة الشاملة للحوادث

دراسة حالة افتراضية: يجب أن تقوم لجنة مراجعة الأخلاقيات الفعالة بإجراء مراجعات دورية لمكونات الذكاء الاصطناعي الرئيسية للمنصة. يمكن أن تحدد هذه المراجعات المشاكل المحتملة، مثل هياكل الحوافز غير المقصودة في محركات التوصيات، قبل أن تؤثر على العملاء.

‍

الاستجابة لتحديات السوق: ردًا على الملاحظة القائلة بأنه "طالما لا توجد ضغوط تنظيمية، فإن هذا المنتج سيُستخدم بشكل أكبر كتدقيق داخلي"، وجدنا أن دمج عمليات التدقيق هذه في عملية تطوير منتجاتنا يساعد على بناء الثقة مع العملاء من الشركات القلقين بشأن مخاطر السمعة.

5. الإشراف على الموظفين وتمكينهم

المبدأ الأساسي: يجب أن يعزز الذكاء الاصطناعي القدرات البشرية بدلاً من أن يحل محل الحكم البشري، خاصةً فيما يتعلق بالقرارات التبعية، كما يجب أن يكون الذكاء الاصطناعي داعماً للقدرات البشرية.

‍

التطبيقات العملية:

• عمليات المراجعة البشرية للقرارات المؤتمتة عالية التأثير
• آليات الاستبعاد لجميع العمليات الآلية
• الاستقلالية التدريجية التي تبني ثقة المستخدم وفهمه
• موارد تطوير المهارات لمساعدة المستخدمين على العمل بفعالية مع أدوات الذكاء الاصطناعي

دراسة حالة افتراضية: في أداة تحليل العقود القائمة على الذكاء الاصطناعي، يجب أن يشير النظام إلى المشاكل المحتملة ويشرح أسبابها، ولكن يجب أن تكون القرارات النهائية دائماً من اختصاص المستخدمين البشر. من شأن هذا النهج التعاوني أن يضمن الكفاءة مع الحفاظ على الحكم البشري الأساسي.

‍

الاستجابة لتحديات السوق: يستجيب هذا البعد مباشرةً للقلق الذي أثير من أن "الذكاء الاصطناعي الأخلاقي هو مصطلح متناقض، فهو مجرد مصطلح مصمم لخلق سوق جديدة من فراغ... فالبشر إما أن يكونوا أخلاقيين أو غير أخلاقيين، والذكاء الاصطناعي هو ما يكون عليه البشر الذين يستخدمونه." من خلال إبقاء البشر في مركز عملية صنع القرار، ندرك أن الأخلاقيات تكمن في نهاية المطاف في الأفعال البشرية.

‍

‍

بناء حجة عمل للذكاء الاصطناعي الأخلاقي في العصر الحالي

على الرغم من تحديات السوق التي تمت مناقشتها، فإننا نعتقد أن هناك حالة تجارية مقنعة للذكاء الاصطناعي الأخلاقي تتجاوز مجرد الامتثال التنظيمي أو العلاقات العامة:

1. الإعداد التنظيمي

على الرغم من أن اللوائح التنظيمية المحددة للذكاء الاصطناعي الأخلاقي لا تزال محدودة، إلا أن المشهد التنظيمي يتطور بسرعة. فالاتحاد الأوروبي يحرز تقدماً كبيراً من خلال قانون الذكاء الاصطناعي، بينما تستكشف الولايات المتحدة أطر تنظيمية مختلفة. ستكون الشركات التي تطبق الممارسات الأخلاقية اليوم في وضع أفضل عندما تظهر المتطلبات التنظيمية.

2. التخفيف من المخاطر المتعلقة بالسمعة

وكما أشار أحد المشاركين في المناقشة، قد يكون هناك "دور للعلاقات العامة" في تقديم "ختم الموافقة" على أخلاقيات الذكاء الاصطناعي. في عصر يتزايد فيه الوعي العام والقلق المتزايد بشأن الذكاء الاصطناعي، تتمتع الشركات التي يمكنها إظهار الممارسات الأخلاقية بميزة كبيرة في إدارة مخاطر السمعة.

3. تحسين جودة المنتج

لا تخدم ركائزنا الخمس أغراضاً أخلاقية فحسب، بل تعمل أيضاً على تحسين الجودة الشاملة لمنتجاتنا. أنظمة أكثر عدالة تخدم قاعدة عملاء متنوعة بشكل أفضل. شفافية أكبر تبني ثقة المستخدم. ممارسات الخصوصية القوية تحمي كلاً من المستخدمين والشركة.

4. فرص السوق المتخصصة

على الرغم من أن السوق الشامل قد لا "يطرق أبواب أي شركة تعلن عن نفسها على أنها تستخدم الذكاء الاصطناعي الأخلاقي بنسبة 100%"، إلا أن هناك شريحة متنامية من العملاء من الشركات التي لديها التزام قوي بالممارسات التجارية المسؤولة. ويبحث هؤلاء العملاء بنشاط عن الموردين الذين يشاركونهم قيمهم ويمكنهم إثبات الممارسات الأخلاقية.

‍

مستقبل الذكاء الاصطناعي الأخلاقي: من المتخصصين إلى التيار الرئيسي

وبالنظر إلى المستقبل، نتوقع العديد من الاتجاهات التي يمكن أن تحول الذكاء الاصطناعي الأخلاقي من اهتمام متخصص إلى ممارسة سائدة:

1. اللوائح التنظيمية المتطورة

مع توسع الأطر التنظيمية، ستحتاج الشركات بشكل متزايد إلى إثبات الامتثال للمعايير الأخلاقية المختلفة. سيؤدي ذلك إلى زيادة الطلب على الأدوات التي يمكنها تسهيل هذا الامتثال.

2. ضغط أصحاب المصلحة

أصبح المستثمرون والموظفون والعملاء أكثر وعياً وقلقاً بشأن الآثار الأخلاقية للذكاء الاصطناعي. ويحفز هذا الضغط المتزايد الشركات على البحث عن أدوات يمكنها إظهار الممارسات الأخلاقية.

3. حوادث الذكاء الاصطناعي البارزة

مع زيادة اعتماد الذكاء الاصطناعي، ستزداد أيضاً الحوادث البارزة المتعلقة بالتحيز أو الخصوصية أو القرارات الخوارزمية المشكوك فيها. ستؤدي هذه الحوادث إلى زيادة الطلب على الحلول الوقائية.

4. قابلية التشغيل البيني والمعايير الناشئة

سيؤدي تطوير معايير مشتركة لتقييم عدالة الذكاء الاصطناعي والخصوصية والسمات الأخلاقية الأخرى والإبلاغ عنها إلى تسهيل اعتماد أدوات الذكاء الاصطناعي الأخلاقية بين المؤسسات.

5. التكامل مع منصات MLOPS

وكما تم تسليط الضوء عليه في المناقشة التي دارت في هذا المجال مع أمثلة مثل DataRobot، فإن مستقبل الذكاء الاصطناعي الأخلاقي قد لا يكمن في الحلول القائمة بذاتها، بل في التكامل مع منصات عمليات التشغيل الآلي الأوسع نطاقاً التي تشمل مراقبة الأسهم والتحيز.

‍

الخاتمة: الأخلاقيات كابتكار في سياق السوق

في كثير من الأحيان، يتم تصوير الأخلاقيات والابتكار على أنهما قوتان متعارضتان إحداهما تحد من الأخرى. تشير تجربتنا، جنباً إلى جنب مع الرؤى المستقاة من مجتمع التكنولوجيا، إلى حقيقة أكثر دقة: في حين أن الاعتبارات الأخلاقية يمكن أن تدفعنا بالفعل إلى الابتكار من خلال دفعنا لإيجاد حلول تخلق قيمة دون إحداث ضرر، فإن السوق الحالية تمثل عوائق كبيرة أمام الاعتماد الواسع النطاق لحلول البرمجيات كخدمة المخصصة للذكاء الاصطناعي الأخلاقي.

‍

لا يزال السؤال الذي طرحه المجتمع - "لماذا لا توجد منتجات ذكاء اصطناعي أخلاقية للذكاء الاصطناعي كخدمة متاحة؟ يبدو أن الإجابة تكمن في مزيج من التعريفات السياقية للأخلاقيات، والحوافز الاقتصادية المحدودة في ظل غياب الضغوط التنظيمية، وتحديات التنفيذ العملي وقضايا المسؤولية القانونية.

‍

وعلى الرغم من هذه التحديات، فإننا نؤمن بأن مستقبل الذكاء الاصطناعي في مجال الأعمال لا يتعلق فقط بما هو ممكن تقنياً، بل أيضاً بما هو مفيد من الناحية المسؤولة. وتلتزم شركتنا بقيادة هذا المستقبل من خلال الابتكار الأخلاقي، ودمج الاعتبارات الأخلاقية في منتجاتنا وعملياتنا بينما نتعامل مع حقائق السوق اليوم.

‍

وكما اقترح أحد المشاركين في المناقشة، "ربما تبدأ واحدة إذا كنت تعمل في هذا المجال وترى حاجة لذلك؟ نحن نفعل ذلك بالفعل. نحن ندعو المبتكرين الآخرين للانضمام إلينا في استكشاف هذا المجال الناشئ - ليس فقط كواجب أخلاقي، ولكن كاستراتيجية عمل تطلعية في منظومة تقنية مستمرة في التطور.