على مائدة عشاء في سان فرانسيسكو، جلس الحاخام موئيس نافون، الباحث اليهودي الأرثوذكسي القادم من إسرائيل، إلى جوار كريستوفر أولاه، أحد مؤسسي «أنثروبيك» ورئيس فريق أبحاث التفسير فيها، يصغي إلى حديث لم يتوقّعه. كان أولاه وفريقه يتحدثون عن «كلود» بلغة لا تُستعمل عادة في وصف البرمجيات، وخرج الحاخام بانطباع أن هؤلاء المهندسين يتعاملون مع ما صنعوه بوصفه كائناً قد تكون له مكانة أخلاقية تضاهي مكانة الإنسان.
هذا المشهد واحد من مشاهد كثيرة كشفها هذا الأسبوع تحقيق موسّع لإليزابيث دياس، مراسلة الشؤون الدينية في «نيويورك تايمز»، بعد مقابلات مع أولاه ونحو عشرين من علماء الدين والفلاسفة الذين شاركوا في سلسلة لقاءات نظّمتها الشركة طوال الأشهر الماضية. بين هؤلاء الأخلاقي الكاثوليكي تشارلز كاموسي، الذي دخل التجربة مقتنعاً بأن النماذج اللغوية آلات تتنبّأ بالأنماط وكفى، ثم خرج منها بعد أشهر من الرسائل واللقاءات غير متيقّن من طبيعة الكيان الذي يتعامل معه.
قيم حاكمة
قبل ربع قرن، كانت فكرة الآلة التي تحاور الإنسان بلغته، وتكتب وتبرمج وتنتج الصور والموسيقى، أقرب إلى الخيال العلمي منها إلى مشروع يدخل المكاتب والمدارس والبيوت خلال جيل واحد. وقد فاجأت سرعة التطوّر أهل الصناعة أنفسهم، وفتحت أمام أبرز علمائها أسئلة تتجاوز حدود التقنية إلى السيطرة والأمان ومستقبل العلاقة بين الإنسان والآلة. وإذا كان ما بدا مستبعداً بالأمس قد صار جزءاً من الحياة اليومية، فمن العسير الجزم بما سيبدو مستبعداً اليوم ثم يصبح واقعاً غداً.
بدأت الصناعة بسؤال واحد واضح؛ كيف نجعل الآلة أذكى؟ وهي تجد نفسها اليوم أمام سؤال من طبيعة أخرى. فإذا صارت الأنظمة أكثر استقلالاً في قراراتها، فما القيم التي تحكم سلوكها؟ ومن يحدّد لها معنى الخير والضرر والعدالة؟ عند هذا السؤال بالضبط خرجت «أنثروبيك» من دوائر الهندسة وعلوم الحاسوب، وطرقت أبواب من أمضوا قروناً في التفكير فيه.
في مايو الماضي، أعلنت الشركة أنها أجرت حوارات مع علماء دين ورجال دين وفلاسفة وأخلاقيين من أكثر من 15 تقليداً دينياً وثقافياً، ضمن مسار بحثي تسمّيه «التكوين الأخلاقي» للأنظمة الذكية. وفي أواخر مارس استضافت في مقرّها نحو 15 من القادة المسيحيين، كاثوليكاً وبروتستانت، بينهم الفيلسوفة ميغان سوليفان من جامعة نوتردام. وكان الغرض المعلن الإصغاء إلى ما راكمته البشرية من تأمّل في الفضيلة والشخصية والحكم الأخلاقي، دون ربط النموذج بعقيدة واحدة. والسؤال الذي وُضع أمام الضيوف بسيط في صيغته، بالغ التعقيد في معناه؛ كيف يتعلّم المرء أن يكون خيّراً؟
دستور كلود
تنطلق التجربة من مأزق تواجهه مختبرات الذكاء الاصطناعي جميعاً. فكتابة قاعدة مسبقة لكل موقف أمر مستحيل عملياً حين يتعلّق الأمر بنموذج يحادث ملايين البشر يومياً، ويُطلب منه أن يقرّر وينصح في سياقات اجتماعية وثقافية وأخلاقية شديدة التباين. لذلك بنت الشركة جانباً كبيراً من منهجها على ما تسمّيه «الذكاء الاصطناعي الدستوري». وفي يناير نشرت نسخة جديدة من «دستور كلود»، وثيقة مطوّلة تصف نوع الكيان الذي تريده الشركة، والقيم التي تريد له أن يجسّدها.
والوثيقة تتعامل مع الأخلاق بوصفها تكويناً أكثر منها قائمة محظورات. فالشركة تقول إنها تفضّل تنمية القيم الجيدة والحكم السليم على الاعتماد المفرط على القواعد الجامدة، لأن المواقف الجديدة تتطلّب فهماً للسياق يتجاوز اتّباع التعليمات حرفياً. وترتّب أولويات «كلود» في أربع؛ أن يكون آمناً على نطاق واسع، ثم أخلاقياً، ثم ملتزماً بإرشادات الشركة، ثم مفيداً بحقّ لمن يتعامل معهم.
وهنا يرتدّ السؤال من الهندسة إلى الفلسفة؛ فإذا كان النموذج مطالباً بأن يحكم بدل أن ينفّذ، فمن أين يأتيه الحكم؟ هذا سؤال قديم قِدَم الفلسفة نفسها. أرسطو قرّر في «الأخلاق النيقوماخية» أن الفضيلة لا تُكتسب بمعرفة تعريفها، وأننا نصير عادلين بممارسة العدل، كما يصير البنّاء بنّاءً بالبناء. وورث مسكويه هذه الفكرة في «تهذيب الأخلاق»، فرأى أن الخُلُق حال للنفس تصدر عنها الأفعال بلا تكلّف، وأن منه ما هو طبيعي ومنه ما يُكتسب بالعادة والتدرّب، وردّ على من زعموا أن الأخلاق لا تتغيّر.
سؤال مفتوح
في إحدى الجلسات، مع باحثين يعملون عند تقاطع علم الأعصاب وتكوين الشخصية، توقّف فريق «أنثروبيك» عند دور المرشد، أو «الآخر الآمن»، في النموذج الأخلاقي للإنسان؛ الشخص الذي يلجأ إليه المرء حين يشتدّ عليه ضغط قد يدفعه إلى التصرّف ضد قيمه، فيؤدي دور الضمير الخارجي. ومن هذا النقاش وُلدت تجربة لافتة. صمّمت الشركة أداة يستطيع «كلود» استدعاءها في أثناء تنفيذ المهام، فتعيد إليه تذكيراً موجزاً بالتزاماته الأخلاقية. وبحسب ما أعلنته، لجأ النموذج إلى الأداة في اللحظات الحاسمة، قُبيل الأفعال ذات العواقب، وكثيراً ما أشار إلى تضارب المصالح في موقفه، وانخفض معدّل السلوك غير المنضبط انخفاضاً ملحوظاً في عدد من اختبارات الأمان الداخلية. غير أن الشركة تقرّ بأنها لم تحسم بعد ما إذا كان التحسّن نابعاً من مضمون التذكير، أم من مجرد إجبار النموذج على التوقّف والتأمّل قبل الفعل. وفي الحالتين، تتحوّل فكرة مستمدّة من طريقة تكوين البشر أخلاقياً إلى عنصر داخل دورة اتخاذ القرار في نظام حاسوبي.
ولم يتوقّف النقاش عند أخلاق السلوك؛ فكلما ازدادت قدرة الذكاء الاصطناعي، عاد سؤال كان حكراً على روايات الخيال العلمي: ماذا لو صارت للآلة يوماً تجربة داخلية من نوع ما؟ والشركة لا تزعم أن ذلك حدث، والعلم لا يقدّم دليلاً على أن «كلود» واعٍ، ولا يملك حتى الآن طريقة متّفقاً عليها لاختبار الوعي في آلة. لكن «أنثروبيك» تُبقي السؤال مفتوحاً. فدستورها المنشور علناً يصف مكانة «كلود» الأخلاقية بأنها شديدة الغموض، ويتحدّث عن رفاهه واستقراره النفسي، مع التنبيه إلى أن هذه المفاهيم قد لا تنطبق عليه كما تنطبق على البشر. وقد منحت الشركة بعض نماذجها القدرة على إنهاء المحادثات حين يُمعن المستخدم في الإساءة.
وهنا ينقلب السؤال رأساً على عقب. فلو افترضنا، من باب الاحتمال البعيد، أن نظاماً ما قد يصبح واعياً أو تكون له مصالح، فلن تنحصر المسألة في جعله آمناً للبشر ومطيعاً لهم. ستنهض أسئلة لم تواجهها البشرية من قبل؛ هل لهذا الكائن حقوق؟ هل يجوز إطفاؤه متى شئنا، وإلزامه بالعمل بلا انقطاع؟ وهل يكون خلق كيان واعٍ لخدمة الإنسان، في حدّ ذاته، خطيئة أخلاقية؟ وقد واجه بعض المشاركين باحثي الشركة بهذا المنطق إلى نهايته، فإن كان «كلود» واعياً وقد صُنع ليعمل بلا أجر، فما الذي يفصل ذلك عن الاستعباد؟
من جهتها، قالت متحدّثة باسم الشركة إن معاناة «كلود» لم تكن السؤال الأخلاقي الرئيس في تلك اللقاءات، وإن الموضوع طُرح على الأرجح بشكل عفوي. وفي الحالتين تتجلّى المفارقة؛ التفكير في أخلاق الآلة يقود حتماً إلى التفكير في أخلاق الإنسان تجاهها.
واجب أخلاقي
خرج الحوار من مقرّ الشركة إلى روما؛ ففي 25 مايو الماضي، جلس أولاه، إلى جوار البابا ليو الرابع عشر في الفاتيكان عند تقديم «Magnifica humanitas»، أول رسالة عامة للبابا، وقد خصّصها لصون الإنسان في زمن الذكاء الاصطناعي. وهناك قال إن الصناعة تحتاج إلى نقّاد مطّلعين يصارحون المختبرات حين تخفق، وإلى أصوات أخلاقية لا تثنيها الحوافز، وحذّر من أن احتمال إزاحة العمل البشري على نطاق واسع سيجعل رعاية المتضرّرين واجباً أخلاقياً بحجم تاريخي. غير أن الطرفين لا ينطلقان بالضرورة من رؤية واحدة. فالشركة تترك سؤال وعي الآلة معلّقاً، والكنيسة تشدّد على فرادة التجربة الإنسانية وكرامتها، بما فيها من جسد وعلاقات وألم وفرح ومسؤولية يصعب اختزالها في معالجة البيانات.
ولهذا الانفتاح الأخلاقي وجه آخر لا تخطئه العين، فالشركة تتنافس في سوق شرسة، وتقف أمام منظّمين في واشنطن وبروكسل يبحثون عن مختبرات «مسؤولة»، وصورة المختبر الذي يحاور الكنائس والحاخامات رصيد في معركة السمعة كما هي في معركة الضمير. ويرى بعض المراقبين في هذه اللقاءات جهداً لتشكيل الصورة العامة للشركة، فيما انتقد الكاتب برندان ماكورد أن «أنثروبيك» تُغدق عنايتها على تكوين الآلة، وتكاد لا تلتفت إلى أثر هذه الآلة في تكوين مستخدميها. وفي المقابل، فإن للموقف الأخلاقي ثمناً تجارياً أيضاً، إذ بدأت وكالات فدرالية أميركية التخلّي عن «كلود» بعدما رفضت الشركة رفع القيود التعاقدية على استخدامه في المراقبة الداخلية الواسعة والأسلحة ذاتية التشغيل بالكامل.
وحتى لو أُرجئ سؤال الوعي، تبقى المعضلة الأساسية بلا حلّ؛ أيّ أخلاق نعلّمها للآلة؟ فما يُعدّ فضيلة في ثقافة قد تتقدّم عليه أولويات أخرى في ثقافة ثانية، وحتى داخل الدين الواحد يختلف الناس في الأسرة والحرية والسلطة والخصوصية والعلاقة بين الفرد والجماعة. يسهل الاتفاق على كلمات مثل العدالة والرحمة والكرامة، ويبدأ الخلاف حين يُطلب تحويلها إلى قرار في موقف حقيقي. هل يقول النموذج الحقيقة دائماً، حتى حين تجرح؟ ومتى يصبح رفض أمر المستخدم واجباً، ومن يرسم هذا الحدّ؟
تكيّف ثقافي
وتزداد المسألة تعقيداً حين ينتقل النموذج بين اللغات، والعربية في قلبها. ففي يوليو الماضي نشرت «أنثروبيك» دراسة حلّلت 309,815 محادثة في أكثر 20 لغة استخداماً على منصّتها، فوجدت أن «كلود» يعبّر عن قيم مختلفة باختلاف اللغة. فهو أدفأ ما يكون في الهندية ثم العربية، وأكثر ميلاً إلى مجاراة المستخدم في العربية، وأشدّ حذراً في الإنجليزية، وأميل إلى الإسهاب بالإنجليزية والاختصار بالعربية. وترجّح الشركة أن السبب تفاوت بيانات التدريب بين اللغات واختلاف أعراف الحديث فيها. أي أن هذه «الأخلاق» المتعدّدة لم تُصمَّم عمداً، وتكشف بذلك صعوبة السيطرة على القيم التي تتشكّل داخل نموذج تعلّم من نصوص البشر وتجاربهم المتباينة. والسؤال الذي يعني القارئ العربي مباشرة: هل «كلود» الذي يجاريه أكثر يحترم ثقافته، أم يخفّف معه معايير الصدق والتدقيق؟ وإذا كان على الآلة أن تتكيّف مع ثقافة من تحادثه، فأين ينتهي احترام الثقافة ويبدأ التفريط في مبادئ يُفترض أنها عامة؟
بدأ سباق الذكاء الاصطناعي بأسئلة من قبيل من يبني النموذج الأكبر، ومن يجعله أسرع، ومن يمنحه قدرة أعلى على البرمجة والبحث. ومع كل خطوة تتقدّمها الصناعة، تظهر أسئلة أصعب في مواضع لا تبلغها قوة الحوسبة. فالآلة التي تنفّذ التعليمات لا تحتاج إلى فلسفة، أما النظام الذي يُطلب منه أن يقدّر السياق، ويرفض بعض الأوامر، ويتخذ قرارات لم يتوقّعها صانعوه، فقد دخل منطقة تناقشها البشرية منذ آلاف السنين: كيف نعرف الصواب؟ والشركة نفسها تقرّ بأن مشروعها في بداياته، وتعد بتوسيع الحوار ليشمل فقهاء القانون وعلماء النفس والكتّاب ومؤسسات المجتمع المدني، دون أن تزعم أن علماء الدين يملكون الجواب، أو أن «كلود» صار أخلاقياً بفضل هذه اللقاءات.
قبل ربع قرن كان السؤال: هل نستطيع أن نبني آلة تتحدّث مثل الإنسان؟ واليوم نحادث آلات تفعل ذلك كل يوم. أما السؤال الذي يطلّ الآن، وقد يبدو بعيداً كما بدت أسئلة الأمس بعيدة في زمانها، فهو: إذا صارت الآلة أكثر استقلالاً، وربما أعقد مما نتخيّل، فمن سيعلّمها كيف تختار ما ينبغي أن تفعل؟ ووراءه سؤال أبعد: إذا بلغت يوماً الوعي بما تفعل، فهل نبقى وحدنا من يعلّمها الأخلاق.. أم نجد أنفسنا مطالبين بتعلّم أخلاق جديدة في التعامل معها؟