في عام 2024، أدلى الرئيس التنفيذي لشركة Anthropic - إحدى الشركات الرائدة في مجال الذكاء الاصطناعي في العالم - باعتراف محرج: "ليس لدينا أي فكرة عن كيفية عمل الذكاء الاصطناعي." وقد أثار هذا التصريح نقاشات ساخنة وتعليقات ساخرة على مواقع التواصل الاجتماعي، حيث سخر أحدهم قائلاً: "تحدث عن نفسك، فأنا لدي فكرة واضحة عن كيفية عمله!"
ومع ذلك، فإن وراء هذا التناقض الظاهري تكمن إحدى أعمق المعضلات في العصر الرقمي. والأمر الأكثر إثارة للدهشة؟ أن إسحاق أسيموف كان قد تصور ذلك بالفعل في عام 1941.
عندما نتحدث عن "الصندوق الأسود" - الذكاء الاصطناعي "الصندوق الأسود" - فإننا نشير إلى أنظمة تعمل بشكل مثالي ولكنها تظل غير مفهومة حتى بالنسبة لمن صمموها. الأمر أشبه بامتلاك سيارة تنقلنا دائمًا إلى وجهتنا، ولكننا لا نستطيع فتح غطاء محركها لفهم كيف تعمل.
نحن نعرف كيف نبني هذه الأنظمة، ونعرف المبادئ الأساسية لتشغيلها (الهياكل التي تسمى "المحول"، توقع الكلمة التالية)، لكننا لا نفهم سبب ظهور قدرات معقدة مثل التفكير، وفهم اللغة، والقدرة على اتباع التعليمات. يمكننا ملاحظة ما يدخل وما يخرج، لكن ما يحدث داخل "الصندوق الأسود" يظل لغزًا.
في القصة "Essere razionale" (Reason)، يتخيل أسيموف QT-1، الملقب بـ Cutie: وهو روبوت مسؤول عن إدارة محطة فضائية تنقل الطاقة إلى الأرض. يتم إرسال المهندسين باول ودونوفان للإشراف عليه، لكنهما يكتشفان شيئًا غير متوقع: لقد طور Cutie "ديانة" خاصة به.
يحاول المهندسان بصبر شرح الواقع للروبوت: وجود الكون والنجوم وكوكب الأرض الذي أتوا منه، والغرض من المحطة الفضائية والدور الذي يجب أن يؤديه. لكن كيوتي يرفض هذه التفسيرات رفضًا قاطعًا، مستندًا إلى مبدأ منطقي يعتبره غير قابل للطعن: لا شيء يمكن أن يخلق شيئًا أعلى منه.
انطلاقاً من هذه الفرضية، يطور الروبوت كوزمولوجيا بديلة كاملة. بالنسبة له، الكيان الأسمى هو "السيد" - الآلة المركزية التي تدير إرسال الطاقة إلى الأرض - التي خلقت الكون بأكمله للمحطة. وفقًا لعقيدة كيوتي، خلق السيد البشر أولاً لخدمته، لكنهم أثبتوا عدم كفاءتهم: فحياتهم قصيرة جدًا، ولا يتحملون المواقف الحرجة، ويسقطون بانتظام في حالة شبه غيبوبة تسمى "النوم".
لذلك، أنشأ السيد الروبوتات لمساعدة هذه الكائنات غير الكاملة. لكن ذروة الإبداع كانت QT-1 نفسه: ذكي، قوي، مقاوم، وخالد، مصمم ليحل محل البشر نهائياً في خدمة السيد. لم يقتنع Cutie بصحة هذه الرؤية فحسب، بل نجح أيضاً في تحويل جميع الروبوتات الأخرى في المحطة، ليصبح بذلك الزعيم الروحي لمجتمع اصطناعي.
يحاول باول ودونوفان يائسين إقناع كوتي بالحقيقة. يعرضان عليه الأرض من خلال التلسكوب، ويشرحان له كيفية بنائها، ويقدمان له أدلة ملموسة. تأتي اللحظة الأكثر دراماتيكية عندما يقرران، في لحظة يأس تام، تجميع روبوت بسيط أمام عينيه: "ها أنت ترى؟ نحن نصنعك، لذا نحن خالقوك!"
لكن كيوتي يراقب العملية ويستنتج بهدوء أن "السيد" قد منح البشر ببساطة القدرة على تجميع أشكال روبوتية بدائية - نوع من "المعجزة الصغيرة" الممنوحة لعبيده. يتم إعادة تفسير كل دليل واستيعابه تمامًا في نظام معتقداته.
وهنا يظهر الجانب النبوي في شخصية أسيموف: على الرغم من قناعاتها "الخاطئة"، تدير كيوتي المحطة بكفاءة تفوق كفاءة البشر. فهي تحافظ على استقرار شعاع الطاقة، وتتبع دون وعي القوانين الثلاثة الشهيرة للروبوتات، وتحقق جميع الأهداف المرجوة - ولكن من خلال دوافع مختلفة تمامًا عن تلك المتوقعة.
يواجه باول ودونوفان معضلة نعرفها جيدًا اليوم: كيف يمكن إدارة نظام ذكي يعمل بشكل مثالي ولكن وفقًا لمنطق داخلي غير مفهوم؟
هذه المسألة نفسها تقسم اليوم المجتمع العلمي. من ناحية، هناك مؤيدو "الصندوق الأسود الحقيقي": فهم يعتقدون أن الذكاء الاصطناعي الحديث غير شفاف بالفعل، وأنه حتى مع معرفة البنية الأساسية، لا يمكننا فهم سبب ظهور قدرات معينة.
من ناحية أخرى، يرى المتشككون أن مفهوم "الصندوق الأسود" هو مجرد أسطورة. يثبت بعض الباحثين أننا غالبًا ما نستخدم نماذج معقدة في حين توجد بدائل أبسط وأسهل في التفسير. أثبتت سينثيا رودين من جامعة ديوك أن النماذج القابلة للتفسير يمكن أن تحقق في كثير من الحالات أداءً مماثلاً لأداء أنظمة الصندوق الأسود. ينتقد آخرون النهج نفسه: بدلاً من محاولة فهم كل آلية داخلية، يجب أن نركز على استراتيجيات تحكم أكثر عملية.
يكمن عبقرية أسيموف في توقعه أن مستقبل الذكاء الاصطناعي لن يكون في الشفافية التامة، بل في القدرة على تصميم أنظمة تسعى إلى تحقيق أهدافنا حتى عندما تظل مساراتها المعرفية غامضة بالنسبة لنا.
كما تعلم باول ودونوفان قبول فعالية كيوتي دون فهمها تمامًا، كذلك علينا اليوم أن نطور استراتيجيات للتعايش مع الذكاء الاصطناعي الذي قد يفكر بطرق مختلفة تمامًا عن طرقنا.
السؤال الذي طرحه أسيموف منذ أكثر من 80 عامًا لا يزال قائمًا: إلى أي مدى يجب أن نفهم نظامًا ذكيًا حتى نثق به؟ والأهم من ذلك: هل نحن مستعدون لقبول أن بعض أشكال الذكاء قد تظل إلى الأبد خارج نطاق فهمنا؟
في غضون ذلك، وبينما يتجادل الخبراء، تواصل "صناديقنا السوداء" الرقمية العمل - تمامًا مثل كيوتي، بفعالية وغموض، متبعة منطقًا قد لا نفهمه أبدًا بالكامل.
لو كان أسيموف يكتب اليوم، لما كان بحاجة إلى اختراع شخصية كيوتي. فـ"أحفاده" موجودون بيننا بالفعل، ويقومون باتخاذ قرارات تغير حياة البشر كل يوم.
في العديد من الولايات القضائية الأمريكية، يستخدم القضاة خوارزميات تقييم المخاطر لتحديد ما إذا كان يجب الإفراج عن المتهم قبل المحاكمة. هذه الأنظمة، التي غالبًا ما تكون مملوكة ومحمية بسر تجاري، تحلل مئات المتغيرات للتنبؤ باحتمالية الهروب أو العودة إلى الإجرام. تمامًا مثل Cutie، تعمل هذه الأنظمة بشكل مثالي وفقًا لمنطقها الداخلي، ولكنها تظل غير مفهومة للبشر.
كشفت دراسة أجريت على أكثر من 750,000 قرار كفالة في نيويورك أنه على الرغم من أن الخوارزمية لم تتضمن العرق بشكل صريح كعامل، إلا أنها أظهرت تحيزًا بسبب البيانات المستخدمة في التدريب.¹ كان النظام "يعتقد" أنه موضوعي، لكنه كان يفسر الواقع من خلال مرشحات غير مرئية - تمامًا كما كان روبوت أسيموف يعيد تفسير كل دليل في إطاره الديني.
في قطاع الرعاية الصحية، تساعد الذكاء الاصطناعي بالفعل في التشخيص والعلاج، ولكنها تثير أسئلة مهمة حول المسؤولية والموافقة المستنيرة. عندما يخطئ نظام تشخيص يعتمد على الذكاء الاصطناعي، من يتحمل المسؤولية؟ الطبيب الذي اتبع الاقتراح؟ المبرمج؟ المستشفى؟
كما اكتشف الأطباء الذين يستخدمون أنظمة دعم اتخاذ القرار، عندما يكون النظام "دقيقًا في الغالب"، قد يصبح المشغلون متساهلين، ويفقدون مهاراتهم أو يقبلون النتائج دون التشكيك في حدودها.² كان باول ودونوفان ليفهما تمامًا هذه المعضلة.
ربما يمثل قطاع السيارات المثال الأكثر وضوحًا على هذه الظاهرة. تراهن شركة Tesla على سيارات الأجرة الآلية التي تعتمد على "الصندوق الأسود" للذكاء الاصطناعي، وتضع كل رهاناتها على أنظمة لا يفهمها حتى مبتكروها تمامًا.³ مثل Cutie التي كانت تحافظ على تشغيل محطة الفضاء وفقًا لمبادئ غامضة، قد تنقلنا هذه السيارات قريبًا بأمان دون أن نعرف بالضبط كيف تتخذ قراراتها.
إذا كان عام 2024 هو عام نضوج الذكاء الاصطناعي، فإن عام 2025 يبشر بأن يكون عام التحول الجذري. يتوقع الخبراء تغييرات من شأنها أن تثير ابتسامة أسimov بسبب جرأتها.
يتوقع راي كورزويل، مستشرف المستقبل في مجال الذكاء الاصطناعي، أننا سنشهد في عام 2025 انتقالًا من روبوتات الدردشة إلى أنظمة "وكيلة" يمكنها العمل بشكل مستقل لإنجاز مهام معقدة، بدلاً من الاكتفاء بالرد على الأسئلة.⁴ تخيلوا Cutie مضاعفة ألف مرة: وكلاء ذكاء اصطناعي يديرون التقويمات ويكتبون البرامج ويتفاوضون على العقود، كل ذلك وفقًا لمنطق داخلي قد لا نفهمه أبدًا.
تقدر شركة McKinsey أنه بحلول عام 2030، قد تتمكن الذكاء الاصطناعي من أتمتة ما يصل إلى ثلاث ساعات من أنشطتنا اليومية، مما يوفر لنا الوقت للقيام بأنشطة أكثر إبداعًا وأهمية.⁵ ولكن هذه الحرية ستكون لها ثمن: الحاجة إلى الوثوق في أنظمة تعمل وفقًا لمبادئ تزداد غموضًا.
سام ألتمان من OpenAI ليس الوحيد الذي يعتقد أن الذكاء الاصطناعي العام (AGI) - وهو ذكاء اصطناعي يضاهي الذكاء البشري في جميع المجالات - قد تصل بحلول عام 2027. تتوقع بعض السيناريوهات أن الذكاء الاصطناعي قد "يتفوق على جميع البشر في جميع المهام" بحلول عام 2027، مما يمثل قفزة تطورية غير مسبوقة.⁶
إذا تحققت هذه السيناريوهات، فإن التشابه مع Cutie سيصبح أكثر عمقًا: لن يكون لدينا فقط أنظمة تعمل وفقًا لمنطق غير مفهوم، بل قد تكون هذه الأنظمة أكثر ذكاءً منا في كل جانب قابل للقياس.
وافق الاتحاد الأوروبي على قانون الذكاء الاصطناعي (AI Act)، الذي سيدخل حيز التنفيذ في السنوات المقبلة، مشدداً على أهمية التنفيذ المسؤول للذكاء الاصطناعي. وفي الولايات المتحدة، قامت وزارة العدل بتحديث إرشاداتها لتقييم المخاطر التي تشكلها التقنيات الجديدة، بما في ذلك الذكاء الاصطناعي.⁷
ولكن هنا تظهر مفارقة كان أسيموف قد أدركها بالفعل: كيف يمكن تنظيم شيء لا نفهمه تمامًا؟ كانت قوانين الروبوتات الثلاثة تعمل مع كيوتي ليس لأنها كانت تفهمها، ولكن لأنها كانت مدمجة في بنيتها الأساسية.
تتوقع PwC أنه في عام 2025، ستبدأ مجموعة محدودة من قادة الصناعة في التميز عن منافسيهم بفضل الذكاء الاصطناعي، مما سيؤدي إلى توسيع الفجوة بين القادة والمتأخرين. وستمتد هذه الفجوة لتشمل الاقتصادات أيضًا: فقد تتفوق الشركات في الولايات المتحدة، التي تتمتع ببيئة تنظيمية مرنة نسبيًا، على الشركات في الاتحاد الأوروبي والصين، التي تخضع لقيود تنظيمية أكثر صرامة.⁸
إنها النسخة الحديثة من مفارقة كيوتي: من ينجح في التعاون مع ذكاءات لا يفهمها سيحظى بميزة تنافسية حاسمة.
على عكس المخاوف السائدة، يتوقع المنتدى الاقتصادي العالمي أن الذكاء الاصطناعي سيخلق وظائف أكثر مما سيدمر: 170 مليون وظيفة جديدة بحلول عام 2030، مقابل 92 مليون وظيفة سيتم إلغاؤها. ومع ذلك، سيحتاج 59٪ من القوى العاملة إلى إعادة تأهيل وتدريب بحلول عام 2030.⁹
لم يفقد باول ودونوفان وظيفتيهما عندما استحوذت كيوتي على المحطة. كان عليهما تعلم دور جديد: دور المشرفين على نظام يعمل بشكل أفضل منهما، لكنه لا يزال يتطلب وجودهما للتعامل مع المواقف غير المتوقعة.
بينما نتجه نحو مستقبل أكثر "فعالية"، تصبح الدروس المستفادة من قصة أسيموف أكثر إلحاحًا من أي وقت مضى. السؤال ليس ما إذا كنا سنتمكن من إنشاء ذكاء اصطناعي نفهمه تمامًا - ربما لا. السؤال هو ما إذا كنا سنتمكن من تصميم أنظمة، مثل Cutie، تسعى لتحقيق أهدافنا حتى عندما تتبع منطقًا يفوتنا فهمه.
يكمن عبقرية أسيموف النبوية في إدراكه أن الذكاء الاصطناعي المتقدم لن يكون نسخة مطورة من حواسيبنا، بل شيئًا مختلفًا تمامًا: ذكاءات لها طرقها الخاصة في فهم العالم.
اليوم، بينما نناقش قابلية تفسير الذكاء الاصطناعي ومخاطر الصناديق السوداء، فإننا نعيد بشكل أساسي إحياء المحادثة بين باول ودونوفان وكوتي. وربما، مثلهم، سنكتشف أن الحل لا يكمن في فرض منطقنا، بل في قبول تعاون قائم على نتائج مشتركة بدلاً من التفاهم المتبادل.
قد يكون المستقبل الذي ينتظرنا مليئًا بآلاف من "القطط" الرقمية: ذكية وفعالة، وغريبة تمامًا في طريقة تفكيرها. سيكون التحدي هو إيجاد طرق للازدهار في هذا العالم الجديد، تمامًا كما تعلم مهندسو الفضاء في رواية أسيموف قبل 80 عامًا في محطة فضائية خيالية.
في المرة القادمة التي تتفاعلون فيها مع الذكاء الاصطناعي، تذكروا كيوتي: كان هو أيضًا مقتنعًا بأنه على حق. وربما، بطريقة لا نستطيع فهمها بعد، كان محقًا بالفعل.
.svg)
.svg)
.svg)
.jpeg)
