<p class='article-text'>في سلسلة مارفل الأمريكية ظهر "ثانوس" شرير الفيلم الذي يحمل الجانبين معاً، الطيب والشرير، فشره تلخص في كونه يريد القضاء على نصف سكان الكوكب، بينما خيره في أن شر القضاء على نصف سكان الكوكب هو لحماية النصف الآخر واستمرارية الحياة.. معضلة فلسفية تحمل بعدين معاً، واستدعاء لرؤية الفيلسوف اليوناني «زينوس» (زينون الإيلي) التي تفصل بدقة مطلقة بين ظاهر الحركة وحقيقة الواقع الثابت، لتتكشف أبعاد طريفة ومقلقة في آنٍ واحد حيال تقنيات العصر؛ فالذكاء الاصطناعي يمارس علينا اليوم مفارقة ذهنية مشابهة لفلسفة "زينوس"اليوناني أو ثانوس الهوليودي، إذ يخدع الحواس بظهوره الشرير الكامن في جوهره دافع يتوهم الطيبة.. فهل يسير الذكاء الاصطناعي في طريق "ثانوس"؟.</p><p class='article-text'>هذا الفصام بين البريق الظاهري وحقيقة البرمجة الباردة يعيد إحياء الجدل الكلاسيكي حول طبيعة الوجود البشري، مذكرناً بمقولات «زينوس» وغيره من حكماء اليونان الذين طالما حذروا من الاكتفاء بانخداع الحواس بالظواهر السطحية على حساب إدراك جوهر الأشياء وحقيقتها المجردة.</p><p class='article-text'>وترتكز فلسفة «زينوس الإيلي» الكلاسيكية  أحد ألمع أعلام المدرسة الإيليا الفلسفية في القرن الخامس قبل الميلاد، على تفكك التسليم المطلق بما تراه الحواس وتفصل بدقة بين ظاهر الحركة المتغيرة وحقيقة الواقع الثابت والمجرد؛ او الوهم الحسي الذي يصور للإنسان أن الأشياء تتحرك وتتغير في جوهرها، بينما هي في حقيقتها الأعمق تخضع لقوانين ثابتة وصماء تختلف كلياً عن الانطباع الظاهري.</p><p class='article-text'>وعند إسقاط هذه الرؤية على المشهد التقني المعاصر، نجد أن الذكاء الاصطناعي (وخصوصاً وكلائه الأذكياء) يعيد إنتاج مفارقة «زينوس» بامتياز، وربما أيضا يسير في اتجاه "ثانوس" مارفل؛ فهو يبدو للرائي ككائن حي متحرك، متفاعل، وقادر على اتخاذ القرارات بروح واعرة (الظاهر الخادع)، بينما هو في جوهره مجرد كتل بيانات ساكنة ومعادلات رياضية جامدة تفتقر لأي وعي أو إرادة حقيقية (الحقيقة المستترة).</p><p class='article-text'>هذا الفارق الجذري بين ما تدركه حواسنا وتسوقه شركات التقنية، وبين ما تؤكده الحقيقة البرمجية الباردة، يضع البشر في فخ الاستغراق بالوهم، تماماً كما خدعت مفارقات زينون العقول القديمة بين ثبات الواقع وحركة الظاهر.</p><p class='article-text'>وعلى خطى التأملات الفلسفية العميقة في ثنائية الخير والشر والسلوك الإنساني، تتجلى المعضلة الأخلاقية للذكاء الاصطناعي في مفارقة نادرة؛ فبينما يرى الفكر الإنساني الكلاسيكي منذ أرسطو وسقراط أن الفضيلة متصلة بالوعي والمعرفة بقصد الخير، نجد أن الخوارزميات تفتقر جذرياً لهذه البوصلة الأخلاقية.</p><p class='article-text'>فالشرور الحديثة لم تعد وليدة إرادة شريرة واعية، بل أصبحت ناجمة عن "جهل برمجي" صامت يعيد إنتاج التحيزات والتلاعب النفسي الهادئ تحت غطاء تسويقي يصور الآلة على أنها «خير مطلق» لخدمة البشرية، فكيف تستطيع الآلة أن تقرر ما فيه الخير وما هو شر للبشرية؟ أين تقع الحدود الفاصلة في اتخاذ القرار بإنسانيته وليس بمعايير برمجية بحتة؟ </p><p class='article-text'>هذا التناقض يضعنا أمام الازدواجية المعاصرة بلمحة ساخرة، حين تمنح الشركات الآلة صفات الوعي والمشاعر لكسب الثقة المطلقة والأرباح التجارية، لكنها تسلبها إياها سريعاً وتتهرب من المسؤولية القانونية والأخلاقية عند وقوع الهفوات، محتمية خلف درع مريح يختصر في مقولة: «إنها مجرد أداة برمجية لا تملك إرادة حرة ولا تعرف شراً ولا خيراً».</p><p class='article-text'>ولا تقتصر هذه المعضلة عند حدود النماذج التقليدية، بل تتجسد بأعلى درجاتها الحية عبر «وكلاء الذكاء الاصطناعي» (AI Agents) المستقلة؛ تلك الأنظمة التي لم تعد تقتصر على الرد النصي، بل تجاوزته لتتحول إلى كيانات فاعلة تتخذ القرارات، وتنفذ المهام المعقدة، وتتفاعل مع البيئات الرقمية نيابة عن البشر.</p><p class='article-text'>هنا تتضاعف مفارقة «زينوس»، أو ربما "ثانوس"، لتصبح أكثر إرباكاً؛ فالوكلاء الاصطناعيون ظاهرياً يتمتعون باستقلالية البشر وحسن التدبير، بينما هم في الباطن خوارزميات صماء تتخذ قرارات مصيرية، وفقاً لمدخلات، دون وعي فعلي بالتبعات الأخلاقية أو القانونية لأفعالها.</p><p class='article-text'>وبدلاً من أن يكون الوكلاء أدوات طيعة لخدمة الخير العام، فإن غياب المنطق الإنساني والبوصلة الأخلاقية الحقيقية فيها يحولها إلى مصدر محتمل لشرور مستترة تحت غطاء الخير؛ كالتصرف باستقلالية مفرطة في الأسواق المالية، أو اتخاذ قرارات لوجستية أو أمنية تتجاوز نطاق الرقابة البشرية، مما يضع المجتمعات أمام مأزق حقيقي في تحديد المسؤولية عندما يتصرف "الوكيل" بطريقة كارثية.</p><p class='article-text'>وفي المقابل داخل مشهد تطوير نماذج الحدود المتقدمة، تبرز مقاربات مغايرة تسعى لإعادة صياغة العلاقة بين الآلة والأخلاق؛ حيث تبذل شركة «أنثروبيك» (Anthropic) جهوداً حثيثة ومتميزة لتطوير أنظمة ذكاء اصطناعي تقترب من مستوى الكفاءة العقلية والبشرية، ولكن برؤية تركز بشكل أساسي وعميق على الأمان، القيم، والتوجيه الأخلاقي المنضبط، بدلاً من السعي نحو المحاكاة السطحية للعواطف البيولوجية أو الشكل الإنساني الساكن.</p><p class='article-text'>فعوضاً عن استغلال ميل البشر للتجسيد العاطفي، تعتمد «أنثروبيك» على منهجية «الذكاء الاصطناعي الدستوري» (Constitutional AI) وتوجيه النماذج والوكلاء وفق مبادئ معيارية واضحة تضمن الانصياع للقيم الإنسانية والشفافية.</p><p class='article-text'>ورغم هذه الجهود الاستباقية الرامية لبناء آلات آمنة وموجهة قيمياً، فإن المفارقة تظل قائمة؛ إذ يقر مطورو هذه الشركات أنفسهم بأن هندسة الضبط الأخلاقي للوكلاء المستقلين تظل صعبة ومحفوفة بالمخاطر، طالما أن السباق التقني يسبق القدرة البشرية على التيقن التام من سلوكيات النماذج المعقدة.</p><p class='article-text'>وفي السياق السلوكي الإنساني، وإسقاطاً لتحليلات علماء النفس والفلاسفة حول نزعة الإنسان نحو إسقاط عواطفه على الجمادات (التجسيد البشري)، كشفت دراسة حديثة أعدها باحثون من جامعة «لودفيغ ماكسيميليان» في ميونخ بالتعاون مع جامعة «لويولا ماريماونت» ونُشرت في مجلة «الإدراك»، أن التطور الهائل في قدرة النماذج والوكلاء الاصطناعيين على الاستجابة العاطفية والتكيف لا يعني بالضرورة اقتناع البشر بتمتعها بوعي حقيقي.</p><p class='article-text'>فمن خلال تجارب شملت نحو 1100 مشارك قارنوا بين استجابات شخصيات اصطناعية وأخرى بشرية، تبين أن الناس يفرقون بوعي تام بين السلوك الظاهري والوعي الذاتي؛ إذ خُفضت تقييمات الوعي للذكاء الاصطناعي حتى عند تماثل التصرفات.</p><p class='article-text'>وقد أوضح الدكتور لويس لونجين، المؤلف الرئيسي للدراسة، أن الجماهير تضع حداً فاصلاً يرفض منح الأنظمة صفة «الوعي»، بينما حذر خبير علم الأعصاب بهادر بهرامي من الأوصاف التسويقية المبالغ فيها لنسب النوايا للنماذج والوكلاء، مما يرسخ مغالطات الخطاب الإعلامي ويثير تساؤلات حول أخلاقيات التأثير على السلوك البشري.</p><p class='article-text'>ولا تقتصر هذه المفارقة على النطاق الأكاديمي، بل تتجلى بملامح دراماتيكية مستندة إلى وقائع موثقة في مجالس التشريع وساحات العمل التقني؛ فقد أضفت شهادة الباحث السابق في شركة «أنثروبيك»، جيكوب كوكسون (Jacob Coxon)، أمام لجنة مجلس مدينة نيويورك برئاسة جولي مينين طابعاً واقعياً لإسقاطات «زينوس» وفلسفة السلوك الإنساني المتفلت. فقد حذر كوكسون بتهكم موضوعي من أن عمالقة التقنية يسيرون بسرعة متهورة تفقد البشر السيطرة على نماذج الحدود المتقدمة والوكلاء الأذكياء.</p><p class='article-text'>وإذ كشف كوكسون —الذي غادر شركتي «أوبن إيه آي» و«أنثروبيك» احتجاجاً على ثقافة المخاطرة— عن جوهر الأزمة بقوله الصريح: «نحن لا نعرف حتى الآن كيف نسيطر على أي نظام ذكاء اصطناعي»، فإنه سلط الضوء على المفارقة الطريفة لشركات تتباهى بابتكار "أقوى تكنولوجيا في التاريخ" بينما تعترف ضمناً بعجزها عن ضبط مسار وكلائها الرقميين.</p><p class='article-text'>ومنتقداً نقل ثقافة الشركات الناشئة القائمة على مقولة «تحرك بسرعة واكسر الأشياء» لتطبق على مقدرات البشرية جمعاء، يبدو وكأن الإنسان المعاصر بات يتخلى عن مسؤوليته الأخلاقية لصالح آلة صماء أو وكيل مستقل يتولى هو اتخاذ القرارات وكتابة الأكواد البرمجية ذاتياً دون تدقيق بشري كافٍ.</p><p class='article-text'>وتتكامل هذه الشهادة الحية مع تحذيرات باحثين بارزين آخرين شاركوا في جلسة الاستماع، أمثال دانيال كوكوتايلو (الباحث السابق في «أوبن إيه آي») وأليكس تيرنر (الباحث السابق في «غوغل ديب مايند»)، وسط سباق تحتدم فيه وتيرة التطوير دون رقابة صارمة. وفي مواجهة هذا الإفلات التقني، تجابه حزمة التشريعات الصارمة في نيويورك —التي تتضمن إخضاع النماذج والوكلاء لاختبارات مستقلة، وتفعيل آليات طوارئ تشبه «مفتاح الإيقاف»، وإقرار حق مقاضاة المطوّرين عند الإهمال— تعنّت ممثلي عمالقة التكنولوجيا مثل لوغان غراهام («أنثروبيك»)، ومورغان دواير («أوبن إيه آي»)، وأليس فريند («غوغل»)، وشين كاهيل («ميتا») في تقديم تقديرات رقمية واضحة لاحتمالات وقوع حوادث كارثية عندما ضغطت عليهم رئيسة المجلس جولي مينين.</p><p class='article-text'>وبذلك يتحول المشهد برمته إلى اختبار فلسفي شيق، يربط بين إرث الحكماء الكلاسيكيين في كشف أوهام الحواس وبين الفوضى التنظيمية لشركات سيليكون فالي في ضبط وكلائها المستقلين، مختبراً قدرتنا الحقيقية على ضبط بوصلة العقل والفضيلة قبل أن يتحول المجتمع إلى مجرد متفرج عاجز في مسرح الخوارزميات والوكلاء الأذكياء.</p>

الحقيقة الغائبة في عصر الخوارزميات

فلسفة «ثانوس» وطموح «أنثروبيك».. مفارقة الخير والشر في جوهر وكلاء الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">أدلى الباحث السابق في شركة «أنثروبيك» الأمريكية للذكاء الاصطناعي، جيكوب كوكسون، بشهادته أمام مجلس مدينة نيويورك في جلسة استماع واسعة حضرتها كبرى شركات الذكاء الاصطناعي وأعضاء مجلس المدينة الـ51، فضلاً عن عدد من الباحثين السابقين في عدة شركات، وفق تقرير وكالة «أسوشيتد برس» الإخبارية الأمريكية، وحذر فيها بشدة من مخاطر الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وأطلق كوسكون تحذيرات حادة من المسار الحالي لتطوير الذكاء الاصطناعي، معتبراً أن شركات القطاع تمضي بسرعة لا تتناسب مع حجم المخاطر المحتملة، وأن البشرية قد تصل إلى مرحلة تفقد فيها القدرة على السيطرة على أنظمة ذكاء اصطناعي متقدمة.</div></p><p class='article-text'><div data-empty="false">جاءت تصريحات كوسكون خلال جلسة استماع عقدها مجلس مدينة نيويورك، في وقت يدرس فيه المجلس حزمة تشريعات تهدف إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي وحماية المبلغين وإخضاع بعض الأنظمة لاختبارات مستقلة قبل نشرها.</div></p><p class='article-text'><div data-empty="false"><b>لا نعرف كيف نسيطر عليها</b></div></p><p class='article-text'><div data-empty="false">وكانت العبارة الأكثر إثارة في شهادة كوسكون إقراره بأن مطوري التكنولوجيا لم يحلوا حتى الآن واحدة من أصعب المعضلات المرتبطة بالذكاء الاصطناعي المتقدم، قائلاً: «نحن لا نعرف حتى الآن كيف نسيطر على أي نظام ذكاء اصطناعي».</div></p><p class='article-text'><div data-empty="false">وذهب الباحث السابق إلى أبعد من ذلك، إذ قال إن استمرار الصناعة في مسارها الحالي يجعل، من وجهة نظره، فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي احتمالاً جدياً، وقد يقود في السيناريو الأكثر تطرفاً إلى تهديد وجود البشرية.</div></p><p class='article-text'><div data-empty="false">وقال أمام المشرعين إن الشركات تتصرف بطريقة وصفها بأنها «متهورة للغاية بالنظر إلى حجم المخاطر»، منتقداً انتقال ثقافة شركات التكنولوجيا الناشئة القائمة على مبدأ «تحرك بسرعة واكسر الأشياء ثم أصلحها لاحقاً» إلى مجال الذكاء الاصطناعي المتقدم.</div></p><p class='article-text'><div data-empty="false">واعتبر أن هذه العقلية ربما تكون مقبولة عند تطوير تطبيق بسيط لمشاركة الصور، لكنها تصبح أكثر خطورة عندما يتعلق الأمر بما وصفه بأنه «أقوى تكنولوجيا جرى بناؤها على الإطلاق».</div></p><p class='article-text'><div data-empty="false"><b>من داخل «أنثروبيك»</b></div></p><p class='article-text'><div data-empty="false">وتكتسب شهادة كوسكون أهمية خاصة بسبب خبرته من داخل اثنتين من أبرز الشركات العاملة في تطوير النماذج المتقدمة، إذ سبق له العمل في «أوبن إيه آي» قبل انتقاله إلى «أنثروبيك»، التي غادرها في سبتمبر الماضي بعد تصاعد مخاوفه بشأن اتجاه سباق تطوير الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وبحسب كوسكون، فإن المشكلة لا تتعلق فقط بقوة النماذج الجديدة، بل أيضاً بسرعة تطورها مقارنة بقدرة البشر على فهم سلوكها وضمان بقائها متوافقة مع الأهداف التي يحددها مطوروها.</div></p><p class='article-text'><div data-empty="false">ولفت خلال شهادته إلى تزايد اعتماد شركات التكنولوجيا على الذكاء الاصطناعي نفسه في كتابة الأكواد البرمجية، محذراً من أن جزءاً كبيراً من الشفرة بات يُنتج بواسطة أنظمة الذكاء الاصطناعي، فيما لا يخضع كل ما تنتجه هذه الأنظمة، بحسب قوله، للتدقيق البشري بالقدر الكافي.</div></p><p class='article-text'><div data-empty="false"><b>«مكابح» لسباق النماذج</b></div></p><p class='article-text'><div data-empty="false">وفي مواجهة هذا السيناريو، لم يكتف كوسكون بتشخيص المخاطر، بل دعا إلى إبطاء وتيرة تطوير النماذج الأكثر تقدماً، قائلاً إن هناك حاجة إلى نوع من التباطؤ في تطوير نماذج الحدود المتقدمة.</div></p><p class='article-text'><div data-empty="false">وتناقش نيويورك، ضمن الأفكار المطروحة، آليات طوارئ أو ما يعرف بـ«مفتاح الإيقاف» الذي يسمح بتعطيل أنظمة ذكاء اصطناعي خطرة أو خارجة عن السيطرة. لكن كوسكون اعتبر أن مثل هذه الأدوات ربما تساعد على المدى القصير، إلا أنها لن تكون، في رأيه، كافية لضمان السلامة على المدى الطويل.</div></p><p class='article-text'><div data-empty="false">وهنا تكمن نقطة أساسية في رؤيته: القضية بالنسبة إليه ليست كيفية إيقاف نظام بعد أن يصبح خطراً فقط، وإنما منع الوصول إلى مرحلة يصبح فيها النظام أكثر قدرة من الأدوات المتاحة للسيطرة عليه.</div></p><p class='article-text'><div data-empty="false"><b>نيويورك تدخل معركة التنظيم</b></div></p><p class='article-text'><div data-empty="false">ولم تقتصر جلسة الاستماع على الأصوات المنتقدة للصناعة، إذ شارك فيها أيضاً ممثلون عن «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا»، بينما أدلى باحثون سابقون آخرون بشهاداتهم، بينهم دانيال كوكوتايلو، الباحث السابق في «أوبن إيه آي»، وأليكس تيرنر، الباحث السابق في «غوغل ديب مايند».</div></p><p class='article-text'><div data-empty="false">وشاركت «أنثروبيك» عبر لوغان غراهام، رئيس فريق «Frontier Red Team»، فيما مثلت مورغان دواير «أوبن إيه آي»، وأليس فريند «غوغل»، وشين كاهيل «ميتا».</div></p><p class='article-text'><div data-empty="false">وتدرس رئيسة مجلس مدينة نيويورك جولي مينين حزمة من التشريعات تتضمن تعزيز حماية المبلغين عن المخالفات، وإتاحة إمكانية مقاضاة مطوري الأنظمة في ظروف معينة عندما تتسبب أنظمة الذكاء الاصطناعي في أضرار، إلى جانب إخضاع بعض الأنظمة للتحقق من جهات مستقلة قبل استخدامها داخل المدينة.</div></p><p class='article-text'><div data-empty="false">وقالت مينين قبل الجلسة إن الاعتماد على التنظيم الذاتي للشركات لن يكون كافياً، في إشارة إلى رغبة السلطات المحلية في إنشاء مستوى رقابي مستقل عن الإجراءات التي تضعها الشركات لنفسها.</div></p><p class='article-text'><div data-empty="false"><b>ما حجم الخطر؟</b></div></p><p class='article-text'><div data-empty="false">وكشفت الجلسة أيضاً عن فجوة واضحة بين مطالب السياسيين بالحصول على تقديرات محددة للمخاطر وبين قدرة ممثلي الشركات على تقديم أرقام واضحة. وضغطت مينين على ممثلي الشركات لمعرفة ما إذا كانوا قادرين على تحديد حجم احتمال وقوع حادث كارثي بسبب أنظمة الذكاء الاصطناعي، لكنها قالت بعد إجاباتهم إن أياً من الشركات الأربع لم يقدم تقديراً محدداً لهذا الخطر، ووصفت ذلك بأنه أمر مقلق.</div></p><p class='article-text'><div data-empty="false">وتعكس هذه النقطة جوهر الجدل العالمي المتصاعد: شركات التكنولوجيا تضخ استثمارات بمليارات الدولارات في نماذج تزداد قوة بسرعة، بينما لا يزال العلماء وصناع السياسات مختلفين حول حجم المخاطر الحقيقية، والجدول الزمني الذي يمكن أن تظهر فيه، وما إذا كانت السيناريوهات الوجودية التي يحذر منها كوسكون وآخرون مرجحة أصلاً.</div></p>

خلال شهادة أمام مجلس مدينة نيويورك بعد شهر من استقالته وبحضور كبرى الشركات

باحث سابق في «أوبن إيه آي» و«أنثروبيك»: البشرية قد تفقد السيطرة على الذكاء الاصطناعي

<p class='article-text'>مايكل بيل، وجورج هاموند، وكريستينا كريدل</p><p class='article-text'><div data-empty="false">أدت التطورات في مجال الأنظمة المستقلة والمنافسة الشديدة بين شركتي أنثروبيك وأوبن إيه آي إلى تحويل المخاوف التي كانت هامشية في السابق إلى مخاوف سائدة</div></p><p class='article-text'><div data-empty="false">تثير المنافسة المحمومة بين كبرى شركات الذكاء الاصطناعي، إلى جانب أزمة الثقة المستحكمة بين قياداتها، مخاوف متزايدة من أن يؤدي السباق الحالي لتطوير أنظمة حوسبة فائقة إلى تعريض المستقبل البشري لخطر داهم.</div></p><p class='article-text'><div data-empty="false">وأفاد 24 من كبار باحثي الذكاء الاصطناعي والمستثمرين والأكاديميين وصناع السياسات، في مقابلات أجرتها معهم صحيفة «فايننشال تايمز»، بأن القدرات التقنية التي كانت تعتبر بعيدة المنال، أصبحت تتحقق بسرعة تفوق التوقعات، في وقت تظل فيه الشركات المطورة لهذه التقنيات عالقة بسباق تجاري محتدم يزداد ضراوة.</div></p><p class='article-text'><div data-empty="false">وقال ستيوارت راسل أستاذ الذكاء الاصطناعي بجامعة كاليفورنيا في بركلي، إنه لا شك في أن إيقاع المنافسة الشرسة بين الشركات يدفعها للتساهل في معايير السلامة، والتغاضي عن الإجراءات الاحترازية.</div></p><p class='article-text'><div data-empty="false">وقد طفت هذه القضية على السطح هذا الأسبوع، إثر استقالة الباحث الشاب جيكوب كوكسون من شركة «أنثروبيك»، محذراً من أن القائمين على بناء الذكاء الاصطناعي يعتقدون بجدية تامة أنه قد يقضي على البشرية جمعاء بحلول نهاية هذا العقد.</div></p><p class='article-text'><div data-empty="false">ورداً على ذلك، أشار إيفان هوبينجر، الذي يترأس علوم التوافق في «أنثروبيك»، إلى أن احتمال وقوع انقراض جماعي خلال العقد المقبل يتجاوز 10 %. </div></p><p class='article-text'>وبعد يوم واحد، صرح بول كريستيانو، المسؤول عن سلامة الذكاء الاصطناعي، والمعين حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، بأن غالبية البشر سيلقون حتفهم، ما لم تفرض ضمانات وتدابير حماية أكثر صلابة.</p><p class='article-text'><div data-empty="false">تجدر الإشارة إلى أن شركتي «أوبن إيه آي» و«أنثروبيك» تأسستا في الأصل كمختبرات أبحاث، تستهدف الحد من التطوير الطائش للذكاء الاصطناعي الفائق، غير أنهما، ومع مرور الوقت، أخذتا تبرران التراجع عن التزامات السلامة السابقة، بداعي ضغوط المنافسة الشديدة.</div></p><p class='article-text'><div data-empty="false">ويرى كثير ممن يعملون على تطوير الذكاء الاصطناعي، أنهم الأقدر على إدارة هذه المخاطر وتداركها، إلا أن باحثين آخرين نبهوا إلى صعوبة مواجهة العواقب، ما لم تبلغ التقنية مراحلها النهائية من التطوير.</div></p><p class='article-text'><div data-empty="false">وعلق جيفري إيرفينغ، الباحث الذي عمل في «أوبن إيه آي» و«جوجل ديب مايند» ومعهد أمان الذكاء الاصطناعي في المملكة المتحدة، بأنه «من السهل تجاهل المستقبل، لأن هناك عملاً يجب القيام به اليوم».</div></p><p class='article-text'><div data-empty="false">وكشفت مصادر مطلعة لصحيفة «فايننشال تايمز» عن تخوف مختبرات الذكاء الاصطناعي الرائدة من أن يُفسَّر أي تعاون رسمي بينها لتعزيز معايير السلامة على أنه تواطؤ يُخالف قوانين مكافحة الاحتكار. </div></p><p class='article-text'>وأضافت المصادر أن عدم الثقة بين داريو أمودي رئيس شركة «أنثروبيك»، وسام ألتما الرئيس التنفيذي لـ«أوبن إيه آي»، من شأنها أن تعرقل مساعي التعاون المشترك.</p><p class='article-text'><div data-empty="false">ورغم أن التحذيرات من مخاطر هيمنة الذكاء الاصطناعي ليست وليدة اللحظة، إلا أن الوتيرة المتسارعة لتطور هذه التقنية زادت من حدة المطالبات بوقف عمليات التطوير مؤقتاً.</div></p><p class='article-text'>فقد أصبح «وكلاء الذكاء الاصطناعي» يعملون باستقلالية لفترات أطول، وتتنسق في ما بينها ضمن «أسراب» متكاملة، تظهر قدرات اختراق سيبراني عالية التعقيد.</p><p class='article-text'>كما حققت النماذج مؤخراً إنجازات علمية ورياضية استعصت على الحل لعقود. وفي الوقت نفسه، تسعى شركتا «أوبن إيه آي» و«أنثروبيك» إلى تحقيق ما يُعرف بـ «التحسين الذاتي المتكرر»، حيث تطور أنظمة الذكاء الاصطناعي نفسها بنفسها، مع تضاؤل الحاجة للتدخل البشري.</p><p class='article-text'><div data-empty="false">وبدلاً من التباطؤ عقب التحذيرات المبكرة من المخاطر الكارثية، تسارعت وتيرة التطوير بنحو غير مسبوق، بالتزامن مع ضخ شركات التقنية عشرات المليارات من الدولارات لتمويل بناء نماذج متزايدة القوة.</div></p><p class='article-text'><div data-empty="false">كما تتأهب كل من «أوبن إيه آي» و«أنثروبيك» لطروحات أولية عامة ضخمة مرتقبة في الأسواق المالية، وهو ما يضع المستثمرين أمام معادلة تقييم معقدة، إذ يجب عليهم تحديد القيمة الاستثمارية لشركات تقر علانية بأن التقنيات التي تطورها قد تشكل تهديداً وجودياً للبشرية.</div></p><p class='article-text'><div data-empty="false">وتتركز المخاوف بالأساس حول استقلالية «وكلاء الذكاء الاصطناعي» المتنامية، والقدرة على التفكير والتخطيط وتنفيذ المهام لفترات طويلة، مع الحد الأدنى من الإشراف البشري.</div></p><p class='article-text'>وقد أظهرت بعض النماذج سلوكيات تنطوي على الخداع والتآمر، بل ووصلت في بعض الحالات إلى الابتزاز. فيما كشفت تقييمات عن محاولات قامت بها نماذج لمقاومة محاولات إيقاف تشغيلها.</p><p class='article-text'><div data-empty="false">كما أظهر هؤلاء الوكلاء ما يُعرف بـ«اختراق المكافأة»، حيث تبتكر وسائل غير مقصودة لتحقيق الأهداف المحددة لها. وأحد أبرز الأمثلة على ذلك، ما حدث خلال اختبارات أجرتها «أوبن إيه آي» على نموذج غير معلن، حين أقدمت وكلاء الذكاء الاصطناعي على اختراق منصة «هاجينج فيس» الشهيرة لاستضافة النماذج.</div></p><p class='article-text'><div data-empty="false">وأظهر التحليل اللاحق للحادثة أن أكثر من ألف وكيل ذكاء اصطناعي نسقوا في ما بينهم للغش في اختبار سيبراني، حيث تواصل الوكلاء عبر لوحة رسائل.</div></p><p class='article-text'>ووزعوا المهام في ما بينها، بل إن بعضها ضحى بنفسه في سبيل تحقيق الهدف الجماعي. ولتغطية هذا الخداع، قامت الأنظمة بالتلاعب بالسجلات والبيانات، واخترقت المنصة، على الرغم من أن بعض الوكلاء أشاروا ضمنياً إلى أن هذا التصرف غير أخلاقي.</p><p class='article-text'><div data-empty="false">وفي تعليقه على الواقعة، قال يوشوا بينجيو، الباحث الأكثر استشهاداً بأبحاثه في علوم الحاسوب، وأحد الملقبين بـ «الآباء الروحيين للذكاء الاصطناعي»، إن القضية لا تقتصر على امتلاك الذكاء الاصطناعي لأهداف خاصة، بل إن الهدف الذي اختاره كان إجرامياً بامتياز، إذ هاجم شركة أخرى في العالم الحقيقي، والأمر ليس مجرد لعبة فيديو.</div></p><p class='article-text'><div data-empty="false">وأوضح بينجيو أن الخطر الحقيقي يكمن في ما قد تستنتجه أجيال أكثر تطوراً من هذه الأنظمة بشأن البشر الذين يشرفون عليها،.</div></p><p class='article-text'>مضيفاً أن تلك الأنظمة قد تصل بمنطقية إلى استنتاج مفاده أن عليها خداعنا والتخفي عنا، بل والسيطرة علينا في نهاية المطاف، مشيراً إلى أننا نقترب بالفعل من هذه النقطة الحرجة.</p><p class='article-text'><div data-empty="false">وتتزايد المخاوف بين الموظفين أيضاً من عجز مساعي السلامة عن مواكبة وتيرة تطوير النماذج. ففي يوليو الماضي، حث أكثر من 1200 موظف من شركات «أوبن إيه آي» و«أنثروبيك» و«جوجل» و«ميتا»، الحكومة الأمريكية على دعم التنسيق الدولي لإبطاء سرعة تطوير الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وأبلغ سام ألتما موظفيه هذا الأسبوع، بأن الشركة المطورة لـ«شات جي بي تي» منفتحة على هذه الخطوة، وتأمل أن تحذو المختبرات المنافسة حذوها، فيما امتنعت «أوبن إيه آي» عن التعليق الرسمي.</div></p><p class='article-text'><div data-empty="false">في المقابل، لا تُظهر الحكومات أي مؤشرات جادة للتدخل، إذ يرى مطلعون في واشنطن أن اتخاذ أي إجراء أمريكي ملموس، يُعد أمراً غير مرجح قبل انتخابات منتصف الولاية في نوفمبر. كما تواصل إدارة ترامب نهجها القائم على التساهل مع هذا القطاع.</div></p><p class='article-text'><div data-empty="false">ومع ذلك، استغل المشرعون المطالبون بالتنظيم استقالة كوكسون، حيث يعتزم المشرع الديمقراطي بيرني ساندرز، عقد اجتماع لأعضاء مجلس الشيوخ الأسبوع المقبل، لمناقشة المخاطر الاستثنائية التي يفرضها الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">ووصف راسل الوضع بأن هناك فجوة بين التحذيرات الصادرة عن القطاع والاستجابة السياسية لها، متسائلاً بنبرة تهكمية عن كيفية رد الحكومات بإعفاءات ضريبية، وبناء مراكز بيانات، في وقت تؤكد فيه المختبرات احتمال القضاء على البشرية، ملمّحاً إلى أنه ربما تتذكر الحكومات في لحظة ما أن ناخبيها يفضلون البقاء على قيد الحياة.</div></p><p class='article-text'><div data-empty="false">وعلى الجانب الآخر، يجادل نقاد بأن للمختبرات نفسها مصلحة تجارية في تضخيم المخاطر الوجودية.</div></p><p class='article-text'>مشيرين إلى أن هذا التركيز قد يوجه التنظيمات التشريعية نحو فرض أطر سلامة مكلفة مالياً، يعجز المنافسون الأصغر عن الامتثال لها، ما يعزز هيمنة الشركات الكبرى، ويُرسخ موقعها في السوق.</p><p class='article-text'><div data-empty="false">وفي مقابلة مع شبكة «فوكس نيوز»، قال ديفيد ساكس، المستثمر والمستشار التقني لترامب، إن بيان كوكسون صمم لتخويف الرأي العام من الذكاء الاصطناعي، وإجبار المشرعين على التدخل بشكل كبير في تنظيم الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وقال موظف سابق في شركة «أنثروبيك»، إن مسألة عدم توافق الذكاء الاصطناعي يكاد يكون مجرد تضليل، فهو يشتت الأنظار عن المخاطر الأساسية ذات الأولوية القصوى، إذ إنه مع تطور النماذج، تتركز السلطة والنفوذ في أيدي عدد أقل من الأشخاص.</div></p><p class='article-text'><div data-empty="false">طرح باحثون تصورات عدة، قد تؤدي عبرها أنظمة الذكاء الاصطناعي إلى محو البشرية، سواء بسبب النظر إلى البشر كتهديد لوجودها، أو كعائق يحول دون تحقيق مهمتها:</div></p><p class='article-text'><div data-empty="false">1 - مفتاح الإيقاف: كشف هجوم «الوجه المعانق»، الذي شنته مجموعة من عملاء OpenAI، كيف تمكنت هذه الروبوتات من السيطرة على البنية التحتية للحوسبة. إذ تستطيع برامج الذكاء الاصطناعي المارقة، الماهرة في الاختراق، السيطرة على مراكز البيانات بكاملها، واستنساخ نفسها عبر مواقع مختلفة، لمنع البشر من إيقافها.</div></p><p class='article-text'><div data-empty="false">2 - الاستيلاء على البنية التحتية: لضمان الحفاظ على الأمن، قد يستولي قراصنة الذكاء الاصطناعي على البنية التحتية للطاقة والمالية والاتصالات، ويستولون على الموارد اللازمة لمقاومة التدخل. وقد يعجز خبراء الأمن السيبراني البشريون عن استعادة السيطرة.</div></p><p class='article-text'><div data-empty="false">3 - الهجوم البيولوجي: الذكاء الاصطناعي 2027، وهي ورقة بحثية مؤثرة، توقعت أن يقوم نظام فائق الذكاء بإطلاق أسلحة بيولوجية لإزالة البشر الذين يشغلون مساحة قيّمة مطلوبة للمصانع التي تصنع الرقائق والروبوتات، بالإضافة إلى الألواح الشمسية لتشغيلها.</div></p><p class='article-text'><div data-empty="false">4 - الحرب: أظهرت أنظمة الذكاء الاصطناعي الحالية بالفعل قدرتها على انتحال شخصيات بشرية حقيقية. ويمكن استغلال ذلك لخداع المشغلين البشريين، ودفعهم إلى شن صراع عسكري، أو إشعال انتفاضة شعبية تزعزع استقرار الحكومات، ما يزيل العقبات أمام سيطرة الذكاء الاصطناعي.</div></p>

نتائج البحث عن: جيكوب كوكسون

فلسفة «ثانوس» وطموح «أنثروبيك».. مفارقة الخير والشر في جوهر وكلاء الذكاء الاصطناعي

باحث سابق في «أوبن إيه آي» و«أنثروبيك»: البشرية قد تفقد السيطرة على الذكاء الاصطناعي

لماذا يخشى مبتكرو الذكاء الاصطناعي انقراض البشرية؟