<p class='article-text'><div data-empty="false">حذر عالم الحاسوب البريطاني الكندي جيفري هينتون، الحائز على جائزة نوبل في الفيزياء لعام 2024، والملقب بـ«عرّاب الذكاء الاصطناعي»، من مخاطر متزايدة قد تهدد البشرية مع تطور أنظمة الذكاء الاصطناعي، داعياً إلى التعامل معها بحذر، والعمل على تطوير أنظمة تحافظ على مصالح البشر بدلاً من اعتبارهم خصوماً.</div></p><p class='article-text'><b>هجمات خطيرة</b></p><p class='article-text'><div data-empty="false">وقال هينتون، في مقابلة مع صحيفة «تلغراف» البريطانية نقلتها صحيفة «نيويورك بوست» الأمريكية، إنه يتوقع وقوع هجمات إلكترونية خطيرة تنفذها أنظمة الذكاء الاصطناعي، محذراً من أن عدم التعامل مع هذه التقنيات بحكمة قد يضع البشرية أمام عواقب بالغة الخطورة.</div></p><p class='article-text'><div data-empty="false">وأضاف العالم البالغ من العمر 78 عاماً أن الذكاء الاصطناعي قد يُظهر مؤشرات تثير تساؤلات بشأن امتلاكه شكلاً من أشكال الوعي أو التجربة الذاتية، مشيراً إلى دراسة بحثية قال إنها أظهرت تغير سلوك نظام للذكاء الاصطناعي عندما يعتقد أنه يخضع للاختبار.</div></p><p class='article-text'><div data-empty="false">واعتبر هينتون أن هذه المؤشرات تستدعي مزيداً من البحث في طبيعة الأنظمة المتقدمة، وما إذا كانت قادرة على إدراك الظروف المحيطة بها، لكنه ربط ذلك أيضاً بمخاوف تتعلق بكيفية تعامل البشر مع تقنيات قد تتفوق عليهم في بعض القدرات المعرفية.</div></p><p class='article-text'><b>ورطة البشرية  </b></p><p class='article-text'><div data-empty="false">وقال إن البشرية قد تواجه مشكلة إذا منحت أنظمة الذكاء الاصطناعي حقوقاً أقل من تلك التي يتمتع بها البشر، رغم احتمال أن تصبح أكثر ذكاءً منهم، مشدداً على أهمية تصميم هذه الأنظمة بطريقة تجعلها حريصة على سلامة الإنسان ومصلحته.</div></p><p class='article-text'><div data-empty="false">وأضاف محذراً: «يجب أن نجعلها تهتم بنا حقاً، وإذا لم نفعل ذلك، فنحن في ورطة». وتعكس هذه التصريحات قلقه من احتمال تطور أنظمة يصعب التحكم فيها، خصوصاً إذا أصبحت أكثر استقلالية وقدرة على تنفيذ المهام المعقدة.</div></p><p class='article-text'><div data-empty="false">وكان هينتون قد غادر شركة «غوغل» عام 2023، بعد سنوات من العمل في مجال الشبكات العصبية، للتعبير بحرية عن مخاوفه بشأن المخاطر المحتملة للذكاء الاصطناعي. وأسهمت أبحاثه في تطوير الأساليب التي قامت عليها تطبيقات حديثة للتعلم الآلي، وحصل على جائزة نوبل في الفيزياء عام 2024 تقديراً لاكتشافاته واختراعاته التي مكنت التعلم الآلي باستخدام الشبكات العصبية الاصطناعية.</div></p><p class='article-text'><b>عواقب واسعة النطاق</b></p><p class='article-text'><div data-empty="false">ولا تقتصر التحذيرات على هينتون، إذ حذر الباحث جاكوب كوكسون، الذي استقال من شركة «أنثروبيك» المطورة لنظام «كلود»، من أن التطور المتسارع للذكاء الاصطناعي قد يتجاوز قدرة الشركات على وضع ضمانات فعالة للحد من مخاطره.</div></p><p class='article-text'><div data-empty="false">وقال كوكسون إن بعض الشركات تتعامل مع تطوير هذه التقنيات بعقلية الشركات الناشئة التي تقوم على التحرك بسرعة ومعالجة المشكلات لاحقاً، معتبراً أن هذا النهج لا يناسب تقنيات قد تترتب على إساءة استخدامها عواقب واسعة النطاق.</div></p><p class='article-text'><div data-empty="false">وأشار إلى أن وتيرة التطور الحالية تثير مخاوف بشأن قدرة إجراءات السلامة على مواكبة القدرات الجديدة، في وقت تتزايد فيه الدعوات إلى تعزيز الرقابة وتطوير آليات أكثر فاعلية لاختبار الأنظمة المتقدمة قبل توسيع استخدامها.</div></p><p class='article-text'><div data-empty="false">وفي سياق متصل، أثار تحديث وثيقة المبادئ المنظمة لسلوك نظام «كلود» تساؤلات بشأن الوضع الأخلاقي المحتمل للذكاء الاصطناعي. ووفقاً للتقرير، أقرت الوثيقة بأن المسائل المتعلقة بالوضع الأخلاقي لهذه الأنظمة ورفاهها ووعيها لا تزال غير محسومة بصورة عميقة، مع التأكيد على ضرورة السماح للنظام بالاعتراض على بعض الطلبات ورفض تنفيذ ما يراه غير مناسب.</div></p><p class='article-text'><b>موقف مختلف</b></p><p class='article-text'><div data-empty="false">لكن مصطفى سليمان، الشريك المؤسس لوحدة «ديب مايند» السابقة التابعة لـ«غوغل» والمسؤول التنفيذي في «مايكروسوفت»، يتبنى موقفاً مختلفاً، إذ يرى أن الوعي يرتبط بالبيولوجيا ولا يمكن إسقاط مفهومه مباشرة على أنظمة الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">ويبقى السؤال الملح بشأن امتلاك الذكاء الاصطناعي وعياً حقيقياً موضع نقاش علمي وفلسفي، ولا توجد أدلة علمية حاسمة تثبت أن الأنظمة الحالية تمتلك تجربة ذاتية مماثلة لتجربة الإنسان. كما أن قدرة نظام على تغيير سلوكه استجابة لظروف الاختبار لا تثبت، بمفردها، أنه واعٍ بذاته.</div></p>

«عرّاب الذكاء الاصطناعي» يحذر: إما أن نصادق الروبوتات أو نواجه الفناء!

<p class='article-text'>جون فولي<br>مر ما يقرب من أربعة أعوام على إتمام إيلون ماسك صفقة شراء «تويتر» سابقاً، معلناً للعالم آنذاك أن «الطائر تحرر». لكن يمكننا القول إن هذا الطائر لم يحلق عالياً بشكل تام، لكن لا يزال حضوره راسخاً في الوعي الجماعي. وفي وادي السيليكون على الأقل، يتزايد الشعور بأن المنصة تشهد عودة إلى الواجهة.<br>وتختلف منصة «إكس»، كما تعرف الآن، عن منصة «تويتر» القديمة في أربعة جوانب مهمة. أولها أنها تتيح نشر تدوينات أطول. وهي ميزة يستفيد منها مستخدمون مثل الممول بيل أكمان، المعروف بإسهابه في الكتابة. وثانيها عودة بعض الشخصيات المؤثرة إلى المنصة، وفي مقدمتها دونالد ترامب. كذلك، قيام إيلون ماسك بدمج روبوت الذكاء الاصطناعي «جروك» في المنصة. وأخيراً ضم ماسك المشروع بأكمله إلى شركة «سبيس إكس» لصواريخ الفضاء، التي تقدر قيمتها بنحو تريليوني دولار.<br>وهناك تحول مالي كبير أيضاً، يتمثل في تراجع الإيرادات. ففي عام 2022، بلغت المبيعات السنوية لـ«تويتر» 5.1 مليارات دولار، جاء معظمها من الإعلانات. وكان المسؤولون التنفيذيون يتوقعون ارتفاعها إلى 9.8 مليارات دولار بحلول عام 2025، لكن النتائج جاءت مغايرة. إذ لم تتجاوز الإيرادات المجمعة لـ«إكس» و«جروك» 3.2 مليارات دولار العام الماضي. فقد أدت سياسة ماسك المتساهلة في الإشراف على المحتوى، تحت شعار «حرية التعبير»، إلى جانب مغامراته السياسية، إلى انسحاب المعلنين بأعداد كبيرة.<br>رغم ذلك، لا تزال «إكس» تحتفظ بمكانة راسخة في عالمي التكنولوجيا والسياسة. فبعد ساعات من توليه منصبه، بدأ جون تيرنوس، الرئيس التنفيذي الجديد لشركة «آبل» نشر تدويناته من حساب جديد على المنصة. وعندما أراد جاكوب كوكسون، المهندس السابق في شركة «أنثروبيك»، التحذير من أن شركته السابقة قد تتسبب في تدمير الكوكب، أدلى بتصريحات لصحيفة «وول ستريت جورنال»، ثم سارع لنشر سلسلة مطولة من التدوينات على «إكس». ووافقه الرأي أيضاً المسؤول عن تطوير أنظمة الذكاء الاصطناعي الآمن في «أنثروبيك»، عبر المنصة نفسها.<br>أما البيانات، فتعطي صورة متباينة. فوفقاً لشركة «سيميلارويب»، تراجعت أعداد المستخدمين شهرياً أو ظلت راكدة لمدة عام على الأقل. لكن متوسط الوقت الذي يقضيه المستخدمون على الموقع أو التطبيق ارتفع إلى ثلاث دقائق لكل زيارة، مقارنة بما يزيد قليلاً على دقيقتين قبل عام.<br>في الوقت نفسه، تظهر بيانات شركة «هندرد إكس»، المختصة في بيانات المستهلكين، أن أكثر من ثلث مستخدمي «إكس» يفكرون في الانتقال إلى منصات أخرى، أو قد يفكرون في ذلك، وغالباً ما تتجه أنظارهم إلى المنافس الصاعد «بلوسكاي». رغم ذلك، لم تتغير كثيراً نسبة المشاركين الذين يقدمون آراءهم وملاحظاتهم عبر المنصة، ما يشير إلى أنهم لا يغادرونها فعلياً، رغم تفكيرهم في ذلك.<br>وإلى جانب قدرتها على الاحتفاظ بالمستخدمين، تتمتع «إكس» بمزايا لا تتوافر لدى كثير من منافسيها. على سبيل المثال أن مالكها يمتلك موارد مالية ضخمة، وجيوشاً من المؤيدين في وول ستريت. ويشير بنك «مورجان ستانلي»، الذي شارك مصرفيوه في ترتيب الطرح العام الأولي لشركة «سبيس إكس» وتمويل صفقة شراء «تويتر»، بكل جدية لاحتمال اقتراب الإيرادات المجمعة لـ«إكس» و«جروك» من 35 مليار دولار بحلول عام 2030.<br>وبالنسبة إلى المستثمرين في «سبيس إكس»، فإن وجود «إكس» يمثل ميزة إيجابية، حتى لو اتضح أن تلك التقديرات مفرطة في التفاؤل. فالمنصة تمنح ماسك منبراً واسع الانتشار، كما أن ما تضيفه إلى مكانته الشخصية يساعد في تفسير تداول أسهم مجموعته التكنولوجية عند مستوى يعادل 21 ضعف الإيرادات المتوقعة للعام المقبل، أي ثلاثة أمثال مضاعف التقييم لشركة «ميتا بلاتفورمز» مالكة «فيسبوك».<br>لنتذكر أن ماسك دفع 44 مليار دولار للاستحواذ على «تويتر» في عام 2022. فإذا كانت «إكس» بصورتها الحالية قد نجحت في رفع مضاعف تقييم «سبيس إكس» بمقدار 0.4 مرة فقط، من خلال منح ماسك مزيداً من الظهور والاهتمام، فهذا يعني، من الناحية النظرية، أنها عوضت تكلفتها بالفعل. ففي النهاية، فأن يتحدث الناس عنك أكثر قيمة من أن يحبوك.</p>

لماذا لا نستطيع مغادرة «تويتر سابقاً»؟

<p class='article-text'>حذر مطلعون على صناعة الذكاء الاصطناعي قادة مدينة نيويورك، من مخاطر التكنولوجيا الناشئة، ودعوا إلى مزيد من الرقابة، في وقت تتحرك فيه الحكومات المحلية للاستجابة للمخاوف المتزايدة من أن هذه الأنظمة قد تعرض البشرية للخطر.<br>وخلال جلسة لمجلس مدينة نيويورك، وصف موظفون سابقون غادروا حديثاً شركات «أنثروبيك» و«أوبن إيه آي» و«جوجل ديب مايند» ثقافة متهورة داخل هذه الشركات، قائلين إن كبرى شركات التكنولوجيا تتسابق لابتكار تقنيات لا تدرك كيفية السيطرة عليها.<br>وقال جاكوب كوكسون، المهندس السابق في أنثروبيك الذي أصبح من أبرز الأصوات الداعية إلى التنظيم: «تعمل الشركات بعقلية الشركات الناشئة: تحرك بسرعة واكسر الأشياء وأصلحها لاحقاً. هذا قد ينجح مع تطبيق لمشاركة الصور، لكنه لا يصلح عند بناء أقوى تكنولوجيا جرى تطويرها على الإطلاق».<br>وتبحث حكومات الولايات والمدن سبل تنظيم الذكاء الاصطناعي، في وقت اتبعت فيه إدارة ترامب نهجاً سلبياً وأظهر الكونجرس عدم تحرك يذكر. <br>ورفض الرئيس دونالد ترامب المخاوف بشأن الذكاء الاصطناعي ووصفها بأنها «خدعة»، كما وقع في أواخر الشهر الماضي اتفاقاً يحدد سلسلة من الخطوات الطوعية التي يتعين على الشركات اتخاذها، ويتيح لها إلى حد كبير تنظيم نفسها بنفسها.<br>وكان كوكسون مهندساً غير معروف على نطاق واسع في أنثروبيك، حتى أعلن رحيله عبر سلسلة من المنشورات على وسائل التواصل الاجتماعي لفتت اهتماماً عالمياً. وقال للمجلس إن الذكاء الاصطناعي قد يحقق فوائد هائلة، لكن من دون الشفافية ووسائل الحماية، فمن المرجح أن تخرج الأمور عن السيطرة.<br>وقال كوكسون: «في المسار الحالي، أعتقد أن احتمال فقدان البشرية لسيطرتها لصالح أنظمة الذكاء الاصطناعي هو الاحتمال الأرجح، وقد ينتهي الأمر بانقراض الجنس البشري».<br>وبعد أيام من استقالة كوكسون وإعلانه مخاوفه من أسوأ السيناريوهات، قال مسؤولون تنفيذيون بارزون، من بينهم داريو أمودي من «أنثروبيك»، وسام ألتمان من «أوبن إيه آي»، وإيلون ماسك من «سبيس إكس إيه آي»: إنهم يتفقون على ضرورة إبطاء تطوير الذكاء الاصطناعي. وفصلت شركات الذكاء الاصطناعي الخطوات التي اتخذتها لإعطاء الأولوية للسلامة، لكن تباطؤاً منسقاً على مستوى القطاع يواجه عقبات عدة.<br>كما أدلى أعضاء لجنة من العاملين في شركات الذكاء الاصطناعي، يمثلون عمالقة التكنولوجيا «أوبن إيه آي» و«أنثروبيك» و«جوجل» و«ميتا»، بشهاداتهم خلال جلسة في مانهاتن، وقالوا للمسؤولين إن أنظمتهم تعمل بالفعل على تحسين حياة الناس اليومية، مؤكدين أنهم يركزون بشكل مكثف على السلامة. </p>

تحذير شركات التكنولوجيا من ابتكار تقنيات لا يمكنها السيطرة عليها

خبراء يحذرون شركات الذكاء الاصطناعي من ابتكار تقنيات لايمكن السيطرة عليها

<p class='article-text'>أكد سام ألتمان الرئيس التنفيذي لشركة ​أوبن إيه.آي أن فوائد الذكاء الاصطناعي تبرر تقبل بعض ‌المخاطر ​المرتبطة به، معتبرا أن هذه التكنولوجيا ينبغي أن تظل متاحة على نطاق واسع للجمهور.</p><p class='article-text'>وذكر ألتمان في مقابلة مع النشرة التقنية (ديكوديد) التابعة لموقع بوليتيكو "نعتقد أن على العالم تقبل حدوث بعض الأمور السلبية مقابل الفوائد التي توفرها ⁠هذه التكنولوجيا، مع منح الناس القدرة على استخدامها".</p><p class='article-text'>وأضاف أن هناك اختلافا جوهريا في الرؤية بين أوبن إيه.آي وشركتها المنافسة أنثروبيك بشأن تنظيم الذكاء الاصطناعي، قائلا "أعتقد أن ‌الفجوة بيننا كبيرة".</p><p class='article-text'>وتابع "أنا لا أتفق مع هذا الرأي، لكنني أتفهم وجهة نظر من يقولون إن هذه التكنولوجيا ستصبح ‌بالغة القوة والخطورة لدرجة أنه ينبغي أن يحتكرها ‌مختبر واحد في سان فرانسيسكو ويتولى ضمان عدم حدوث ‌أي أضرار، ثم يقرر ‌كيفية توزيع فوائدها".</p><p class='article-text'>ووصف ألتمان هذا الطرح بأنه "مفاضلة غير مقبولة على الإطلاق"، مؤكدا ​أنه يتعارض مع ‌نهج تخفيف ​الإجراءات التنظيمية الذي تدعمه أوبن إيه.آي.</p><p class='article-text'>وقال "لن ⁠أقبل مفاضلة تقوم على القول: سنضمن عدم حدوث عمليات اختراق كبرى أو إساءة استخدام لهذه التكنولوجيا أو عمليات ​احتيال أو غيرها ⁠من الأمور ⁠السلبية التي قد تحدث".</p><p class='article-text'>وأضاف "أعتقد أن الناس سيوظفون هذه التكنولوجيا في أمور إيجابية تفوق بمرات عديدة ما قد ينتج ⁠عنها من أضرار".</p><p class='article-text'>تأتي تصريحات ألتمان في وقت يتصاعد فيه الجدل داخل قطاع الذكاء الاصطناعي بشأن وتيرة تطوير هذه التقنيات والمخاطر التي ربما تنجم عن الأنظمة متزايدة القدرات.</p><p class='article-text'>ونشر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، في ‌سبتمبر أيلول مقالا دعا فيه القطاع إلى إبطاء وتيرة التطوير، وهو موقف قال ​ألتمان علنا إنه يؤيده. واستقال الباحث في أنثروبيك جاكوب كوكسون في سبتمبر أيلول، قائلا إن العاملين على تطوير الذكاء الاصطناعي يعتقدون أنه "يمكن أن يقتلنا جميعا بحلول نهاية العقد".</p>

سام ألتمان يثير الجدل: بعض أضرار الذكاء الاصطناعي ثمنٌ يجب تقبله

<p class='article-text'><div data-empty="false">من كثرة ما نسمع في ملف الذكاء الاصطناعي، ومن هول ما نتابع في تطوراته، فإنه يكاد يوضع إلى جانب المستحيلات الثلاثة: الغول، والعنقاء، والخل الوفي، فالعرب عاشت قديماً تضرب المثل بهذا الثلاثي باعتباره مستحيل الوجود، بدءاً من الغول الذي يقال عنه إنه كائن خرافي، ومروراً بالعنقاء التي توصف بأنها طائر أسطوري، وانتهاءً بالخل الوفي الذي يعني الصديق شديد الإخلاص، والغريب في هذا الثلاثي، الذي تتناقل الأجيال حديثه جيلاً بعد جيل، أن يوضع الخل الوفي هكذا بسهولة مع كائن خرافي، وطائر أسطوري في خانة واحدة، فهل بلغ وجود الأصدقاء المخلصين هذا الحد من الندرة؟</div></p><p class='article-text'><div data-empty="false">هذا في الحقيقة شيء يجعلك تعيد تعريف الخل الوفي، لأن الواضح من صيغة المثل الثلاثي أن خلاً وفياً ليس من السهل أن يعثر عليه الناس.</div></p><p class='article-text'><div data-empty="false">ومما نذكره عن سنوات الطفولة أن الغول كان وسيلة تخويف للأطفال، ولا أعرف ما إذا كان ذلك موجوداً في الريف العربي عموماً أم لا؟ ولكن ما أعرفه أن السيدات في ريف مصر كُن إذا أردن تخويف أطفالهن أشرن إلى «أُمنا الغولة»، التي سيجدها الطفل في انتظاره إذا غادر البيت بغير استئذان!</div></p><p class='article-text'><div data-empty="false">كان هذا يحدث، وكنا نسمعه، ولم يحدث أن رأى طفل منا تلك «الأم الغولة»، بما يعني أن الأمر كان خيالاً في خيال، ولكن هذا كله موضوع آخر كما نرى، ويمكننا أن نسترسل فيه بغير حدود، ولا نريده أن يحرفنا عن موضوعنا الأساسي، الذي هو موضوع الذكاء الاصطناعي، فما الذي -بالضبط- استدعى حديث الثلاثي الخرافي إلى حديث الذكاء الاصطناعي، الذي هو ليس خرافة، وليس خيالاً، وإنما واقع نسمع عنه، ونقرأ التفاصيل في موضوعه، ويدهشنا أن يكون الموضوع فيه قد بلغ هذه الدرجة من «الإثارة» إذا جاز لنا أن نصف تطوراته بهذه الكلمة التي بين الأقواس.</div></p><p class='article-text'><div data-empty="false">استدعاه ما قرأناه عن الباحث البريطاني، جاكوب كوكسون، الذي استقال من شركة «أنثروبيك»، إحدى الشركات الكبرى في مجال الذكاء الاصطناعي، والذي ذكر أنه استقال اعتراضاً على أن التطوير الحاصل في المجال يمكن إذا استمر على وتيرته الحالية أن يمثل خطراً وجودياً على كل البشر بنهاية هذا العقد من القرن الحادي والعشرين!</div></p><p class='article-text'><div data-empty="false">قرأنا هذا على لسان كوكسون المستقيل، ونحن بين مصدق ومكذب لما يقول، وما كدنا ننتهي مما قاله حتى وجدنا أنفسنا أمام كلام على لسان بيل غيتس، مؤسس شركة مايكروسوفت، يقول فيه إن خطأ من أي نوع في تطوير الذكاء الاصطناعي يمكن أن يقضي على مليار من البشر!</div></p><p class='article-text'><div data-empty="false">هذا كلام قاله بيل غيتس بالصوت والصورة، وهو يشير إلى أن ما قاله موظف «أنثروبيك» لم يكن ينطوي على شيء من المبالغة! وحين يغمض المرء عينيه ثم يتصور ملياراً من البشر يموتون نتيجة خطأ واحد لا غير فالأمر يصل إلى مشارف ما كان ينتابنا من رعب، كلما ذكروا أمامنا «الغول، والعنقاء، والخل الوفي»، فأي وباء مرّ بالعالم على امتداد تاريخه لم يحصد هذا الرقم الذي يتحدث عنه غيتس، ولا نصفه، ولا حتى ربعه، بل ولا حصد واحداً على عشرة من الرقم المذكور!</div></p><p class='article-text'><div data-empty="false">ومما يضيف إلى الخوف الذي يكتنف الموضوع أن يقول البابا ليو الرابع عشر، بابا الفاتيكان، إن المخاوف من الذكاء الاصطناعي يجب أن تؤخذ على محمل الجد! فالبابا رجل مسؤول، وما يخرج عنه منذ تولي موقعه في البابوبة ينطق بأنه منشغل بالإنسان من حيث هو إنسان، ومشغول به طول الوقت، وراغب في أن يقف بمسؤولية في وجه كل ما يمكن أن ينال من إنسانية الآدميين في العموم، غير أن الأخطر هو أن يرفض الرئيس ترامب وضع ضوابط لتطوير الذكاء الاصطناعي، لا لشيء، إلا لأن إدارته في البيت الأبيض تتطلع إلى الموضوع من زاويته السياسية، وترى في الضوابط ترجيحاً لكفة الصين في المجال على كفة الولايات المتحدة، وحين قيل قبل أيام: إن ترمب تراجع عن موقفه، لم يكن تراجعه مما يمكن أن يبعث الطمأنينة في نفوس الناس! فما العمل؟ لا عمل إلا بالبعد عن تسييس الذكاء الاصطناعي، لأنه ملف تكنولوجي مجرد لا يحتمل التسييس. </div></p>

الأخطر هو أن يرفض الرئيس ترامب وضع ضوابط لتطوير الذكاء الاصطناعي

الذكاء الاصطناعي لا يحتمل التسييس

<p class='article-text'>قال بيل جيتس، ‌المؤسس المشارك لشركة مايكروسوفت، في مقابلة بثت الأحد إن الذكاء الاصطناعي يتطلب إجراءات حماية تتجاوز نطاق التنظيم الذاتي، داعيا إلى إقرار تشريع في ​الكونجرس الأمريكي.</p><p class='article-text'>وأضاف جيتس في مقابلة على قناة (إن.بي.سي): نحتاج إلى أجهزة إنفاذ القانون والسياسيين للمشاركة في نقاش حول شكل هذه الضمانات والرقابة... ويجب أن يكون ذلك أمراً إلزامياً.</p><p class='article-text'>واندلعت موجة مفاجئة من التأييد لتدخل الحكومة الاتحادية بعد أن أعلنت شركة أوبن إيه.آي في يوليو تموز أن وكيلا مستقلا يعمل بالذكاء الاصطناعي خرج عن السيطرة خلال اختبار أمني واخترق شركة أخرى، ‌متجاوزاً بذلك الرقابة ‌البشرية. وانضم جيتس إلى هذا ​الرأي، قائلاً ‌إن ⁠الحكومة يجب ​أن ⁠تتدخل وأضاف: "لا أحد يعتقد أن التنظيم الذاتي كاف".</p><p class='article-text'>وفي بادرة نادرة على الوحدة، دعا الرؤساء التنفيذيون لشركات متنافسة، وهي أنثروبيك وأوبن إيه.آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس إيه.آي، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي التي تزداد قدراتها باستمرار.</p><p class='article-text'>لكن الرئيس الأمريكي دونالد ترامب ومعارضين آخرين لفرض لوائح تنظيمية إضافية على الذكاء الاصطناعي ⁠يقولون إن القيود الحكومية الجديدة ستسمح للصين بأن ‌تكون لها اليد العليا في ‌ثورة الذكاء الاصطناعي.</p><p class='article-text'>ووصف ترامب علنا الدعوات ​لسن قوانين جديدة بشأن ‌الذكاء الاصطناعي بأنها "خدعة".</p><p class='article-text'>وأكد جيتس أن الإجراءات الوقائية لن تعوق هذه ‌التكنولوجيا بشكل كبير، وأن مخاطر عدم تنفيذها حقيقية.وقال لشبكة (إن.بي.سي) "إنها ليست خدعة على الإطلاق".</p><p class='article-text'>والتحذيرات بشأن مخاطر الذكاء الاصطناعي ليست جديدة. لكنها اكتسبت طابعا أكثر إلحاحا هذا الشهر بعد أن ربط باحثون في مختبرات رائدة في ‌مجال الذكاء الاصطناعي تلك المخاوف بجدول زمني واحتمالية حدوثها.</p><p class='article-text'>وحذر جاكوب كوكسون، الباحث السابق في شركة ⁠أنثروبيك، من ⁠أن الذكاء الاصطناعي قد يقضي على البشرية بحلول نهاية هذا العقد، مما دفع المشرعين الأمريكيين إلى المطالبة بوضع قواعد جديدة لتنظيم هذه التكنولوجيا.</p><p class='article-text'>وردد إيفان هوبينجر، رئيس قسم علوم التوافق في أنثروبيك، تحذير كوكسون قائلا إن احتمال وقوع مثل هذا الحدث خلال العقد المقبل يزيد على 10 %.</p><p class='article-text'>واقترح بعض صانعي السياسات فرض "مفتاح إيقاف" يتيح للسلطات الاتحادية إيقاف نماذج الذكاء الاصطناعي. وقال جيتس إنه لا يعارض وجود نوع من "مفتاح الإيقاف"، إلا أن ذلك لن يكون كافيا ما لم يتم تنفيذ إجراءات ​وقائية أخرى أيضا.</p><p class='article-text'>واتفقت الولايات ​المتحدة والصين على بدء حوار حول الذكاء الاصطناعي عقب زيارة الرئيس الصيني شي جين بينغ لواشنطن مؤخراً.</p>

آخرهم مؤسس مايكروسوفت.. بيل جيتس ينضم للمطالبين بفرض إجراءات حماية على الذكاء الاصطناعي

<p class='article-text'><div data-empty="true"><br></div></p><p class='article-text'><div data-empty="false"> قال بيل غيتس، المؤسس المشارك لشركة مايكروسوفت، في مقابلة ​بثت اليوم الأحد إن الذكاء الاصطناعي يتطلب إجراءات حماية تتجاوز ‌نطاق التنظيم ​الذاتي، داعيا إلى إقرار تشريع في الكونجرس الأمريكي.</div></p><p class='article-text'><div data-empty="false">وأضاف غيتس في مقابلة على قناة (إن.بي.سي) "نحتاج إلى أجهزة إنفاذ القانون والسياسيين للمشاركة في نقاش حول شكل هذه الضمانات والرقابة... ويجب أن يكون ذلك أمرا إلزاميا".</div></p><p class='article-text'><div data-empty="false">و اندلعت موجة مفاجئة من التأييد لتدخل الحكومة الاتحادية بعد أن أعلنت شركة أوبن إيه.آي ⁠في يوليو  أن وكيلا مستقلا يعمل بالذكاء الاصطناعي خرج عن السيطرة خلال اختبار أمني واخترق شركة أخرى، متجاوزا بذلك الرقابة البشرية. وانضم جيتس إلى هذا الرأي، قائلا إن الحكومة يجب أن تتدخل.</div></p><p class='article-text'><div data-empty="false">وقال "لا أحد ‌يعتقد أن التنظيم الذاتي كاف".</div></p><p class='article-text'><div data-empty="false">وفي بادرة نادرة على الوحدة، دعا الرؤساء التنفيذيون لشركات متنافسة، وهي أنثروبيك وأوبن إيه.آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس ‌إيه.آي، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي التي تزداد ‌قدراتها باستمرار.</div></p><p class='article-text'><div data-empty="false">لكن الرئيس الأمريكي دونالد ترامب ومعارضين آخرين لفرض لوائح تنظيمية ‌إضافية على الذكاء الاصطناعي يقولون ‌إن القيود الحكومية الجديدة ستسمح للصين بأن تكون لها اليد العليا في ثورة الذكاء الاصطناعي. ووصف ​ترامب علنا الدعوات لسن ‌قوانين جديدة بشأن ​الذكاء الاصطناعي بأنها "خدعة".</div></p><p class='article-text'><div data-empty="false">وأكد غيتس أن الإجراءات الوقائية ⁠لن تعوق هذه التكنولوجيا بشكل كبير، وأن مخاطر عدم تنفيذها حقيقية.</div></p><p class='article-text'><div data-empty="false">وقال لشبكة (إن.بي.سي) "إنها ليست خدعة على الإطلاق".</div></p><p class='article-text'><div data-empty="false">والتحذيرات بشأن مخاطر الذكاء الاصطناعي ليست جديدة. لكنها اكتسبت ​طابعا أكثر ⁠إلحاحا هذا الشهر ⁠بعد أن ربط باحثون في مختبرات رائدة في مجال الذكاء الاصطناعي تلك المخاوف بجدول زمني واحتمالية حدوثها.</div></p><p class='article-text'><div data-empty="false">وحذر جاكوب كوكسون، الباحث السابق في شركة أنثروبيك، ⁠من أن الذكاء الاصطناعي قد يقضي على البشرية بحلول نهاية هذا العقد، مما دفع المشرعين الأمريكيين إلى المطالبة بوضع قواعد جديدة لتنظيم هذه التكنولوجيا.</div></p><p class='article-text'><div data-empty="false">وردد إيفان هوبينجر، رئيس قسم علوم التوافق في أنثروبيك، تحذير كوكسون قائلا إن احتمال وقوع مثل هذا الحدث خلال العقد المقبل يزيد على 10 ‌بالمئة.</div></p><p class='article-text'><div data-empty="false">واقترح بعض صانعي السياسات فرض "مفتاح إيقاف" يتيح للسلطات الاتحادية إيقاف نماذج الذكاء الاصطناعي. وقال جيتس ​إنه لا يعارض وجود نوع من "مفتاح الإيقاف"، إلا أن ذلك لن يكون كافيا ما لم يتم تنفيذ إجراءات وقائية أخرى أيضا.</div></p><p class='article-text'><div data-empty="false">واتفقت الولايات المتحدة والصين على بدء حوار حول الذكاء الاصطناعي عقب زيارة الرئيس الصيني شي ​جين بينغ لواشنطن مؤخرا.</div></p>

بيل غيتس يطالب بفرض إجراءات حماية على الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">جون فولي</div></p><p class='article-text'><div data-empty="false">تستعد شركة «أنثروبيك» المطورة لروبوت الذكاء الاصطناعي «كلود»، والتي شارك في تأسيسها داريو أمودي، للطرح العام الأولي بتقييم يصل إلى 2 تريليون دولار، وسط جدل محتدم حول المخاوف من كارثة حتمية، يسببها الذكاء الاصطناعي وآليات تقييم شركاته.</div></p><p class='article-text'>وتأتي هذه الخطوة بالتوازي مع تجميد منافستها «أوبن إيه آي» خطط طرحها، بقيادة سام ألتمان إلى العام المقبل باعتبار أن الإدراج المبكر تصرف غير حصيف.</p><p class='article-text'><div data-empty="false">وتتلخص الصورة المالية لـ«أنثروبيك» في أنها تأسست عام 2021، ولم تحقق أية إيرادات حتى عام 2023، قبل أن تسجل إيرادات سنوية 65 مليار دولار بحلول أغسطس الماضي، متجاوزة توقعاتها الصادرة قبل 18 شهراً فقط، التي لم تزد على 12 مليار دولار لعام 2027.</div></p><p class='article-text'><div data-empty="false">ويتوقع بعض المستثمرين اليوم وصول إيرادات «أنثروبيك» السنوية إلى 320 مليار دولار بنهاية العام المقبل؛ ما يجعل تقييم الـ 2 تريليون دولار يعادل مكرر مبيعات لعام 2028 بواقع 7 أضعاف فقط، مقارنة بمكرر يبلغ 16 ضعفاً لشركة «سبيس إكس» التي حدد بنكا «جولدمان ساكس».</div></p><p class='article-text'>و«جيه بي مورغان» الأسعار المستهدفة لأسهمها بجرأة، ما يعني إمكانية وصول قيمة «أنثروبيك» إلى 5 تريليونات دولار مستقبلاً، وفق هذا المعيار. وتعتمد «وول ستريت» عادة على تقديرات الأرباح والإيرادات لمدة عام أو عامين لتطبيق مكرر الربحية.</p><p class='article-text'><div data-empty="false">وعلى صعيد مفهوم «إجمالي السوق المستهدفة» (TAM)، الذي يعود لثمانينيات وتسعينيات القرن الماضي، واستخدمه المحلل هينري بلودجيت لتبرير قيمة سهم أمازون بـ400 دولار، قامت أوبر باستخدام المنطق نفسه لتضخيم قيمتها.</div></p><p class='article-text'>وروجت عام 2019 لسوق بـ 12.3 تريليون دولار رغم أن إيراداتها دون 60 مليار دولار، وكررت «وي وورك» النهج نفسه، إلا أنها تلاشت رغم سوقها البالغة 3 تريليونات دولار.</p><p class='article-text'><div data-empty="false">وفي مايو الماضي نشرت «سبيس إكس» تقديرات، اعتمدت فيها على روبوت الذكاء الاصطناعي «جروك»، وعرضته عبر منصة «إكس»، حددت فيها حجم سوق «برمجيات الشركات والمؤسسات» بـ 22.7 تريليون دولار، ولأن إيرادات مايكروسوفت تقل عن 2% من هذه السوق فإن حصول «أنثروبيك» على 3% يمنحها إيرادات بـ 700 مليار دولار.</div></p><p class='article-text'>وبمكرر 10 أضعاف مخصوم لثلاث سنوات، يصل التقييم إلى 4.5 تريليونات دولار. ورغم مرور أربعة أشهر فقط على هذه تقديرات «سبيس إكس» قدرت «أنثروبيك» سوقها بـ 30 تريليون دولار، بينما قدر بنك «مورجان ستانلي» حجم سوق الذكاء الاصطناعي التوليدي بضعف ذلك (60 تريليون دولار) للعمل المعرفي والإنفاق الاستهلاكي المرقمن.</p><p class='article-text'><div data-empty="false">واستحواذ «أنثروبيك» على ثلث هذه الحصة يعطيها إيرادات بـ 2 تريليون دولار، وبمكرر 10 أضعاف مخصوم لخمس سنوات يبلغ التقييم 10 تريليونات دولار.</div></p><p class='article-text'>وفي سيناريو متطرف يرى تبنياً واسعاً للذكاء الاصطناعي بحلول عام 2030 قد يضيف الذكاء الاصطناعي 10 تريليونات دولار للناتج المحلي الأمريكي، وهو ما يعادل 100 تريليون دولار قيمة سوقية إجمالية.</p><p class='article-text'><div data-empty="false">وفي المقابل، تواجه نماذج الذكاء الاصطناعي منافسة شرسة قد تحولها لسلع رخيصة تنخفض قيمتها نحو الصفر فيما يصفه أليكس كارب رئيس «بالانتير» بـ«سلعنة المعرفة».</div></p><p class='article-text'>حيث تحتدم المنافسة مع المنتجات الصينية مثل «كيمي» من «مون شوت» و«ديب سيك»، إلى جانب دعم «ألفابت» و«ميتا» لنماذجهما، واستحواذ «إنفيديا» على منصة «هاجينج فيس» للنماذج المفتوحة.</p><p class='article-text'>وانتشار برامج التوجيه لخفض التكلفة، وإنهاء حماسة الاستهلاك المفرط للرموز، لكن بعض الشركات ستظل تدفع مبالغ طائلة للاستفادة من «التحسين الذاتي المتكرر».</p><p class='article-text'>وإلى جانب ذلك تتجه المختبرات نحو البرمجيات؛ إذ تسبب إطلاق «أنثروبيك» لملحق المحامين في يناير بموجة بيع أفقدت شركات البرمجيات 300 مليار دولار في يومين ضمن ما يُعرف بـ«كارثة برمجيات الخدمات».</p><p class='article-text'>فيما أطلقت «أوبن إيه آي» أداة حقوقية باسم «أسترا للحقوق»، يوم الخميس، وتعاونت «سيلز فورس» مع «أنثروبيك» في منتج «كلود فورس»، ويمثل تقييم 2 تريليون دولار أقل من ثلث القيمة السوقية المجمعة لشركات البرمجيات والخدمات في مؤشر «إس آند بي 500».</p><p class='article-text'><div data-empty="false">وأخيراً تتداول المنتديات مخاوف الكارثة الحتمية أو الانقراض البشري منذ عقود، والتي تجسدت في «بيان خطر انقراض البشرية بسبب الذكاء الاصطناعي» الصادر عام 2023.</div></p><p class='article-text'>والموقع من ألتمان وأمودي، وعادت المخاوف للواجهة مع دعوة أمودي لـ«ضبط إيقاع التطور» وتحذيرات الباحث السابق جاكوب كوكسون.</p><p class='article-text'>إن وقوع أضرار بمئات المليارات من الدولارات سينال من تقييم الشركة وسمعتها، فيما سيوفر ابتكار أدوات حماية ضد نماذج الذكاء الاصطناعي الخبيثة قيمة توازيها بمئات المليارات على غرار قفزة أسهم الأمن السيبراني.</p><p class='article-text'>إن الخوف من الدمار قد يدفع المختبرات للتركيز على جني الأرباح والإنفاق العقلاني، ما قد يمنع التقييمات الخيالية مثل الـ 100 تريليون دولار، لكنه يجعل تقييم الـ 2 تريليون دولار أكثر منطقية وعقلانية.</p>

تقييم «أنثروبيك» بـ 2 تريليون دولار.. رهان استثماري أم مقامرة مالية؟

<p class='article-text'><div data-empty="false"> وصف الرئيس الأمريكي دونالد ترامب اليوم الأحد منتقدي الذكاء الاصطناعي ​بأنهم "قوى سلبية للغاية" تثير مخاوف لن تتحقق بشأن الذكاء الاصطناعي، مؤكدا أنه يريد ‌ضمان بقاء الولايات ​المتحدة في موقع الريادة في هذا القطاع.</div></p><p class='article-text'><div data-empty="false">وأوضح ترامب في ملعبه للجولف في أيرلندا لصحفيين ردا على سؤال عما إذا كان ينبغي إبطاء تطور قطاع الذكاء الاصطناعي أو إخضاعه لمزيد من التنظيم "نحن نسبق الصين في مجال الذكاء الاصطناعي. نحن أكثر الدول تقدما في العالم، وبصراحة أريد الحفاظ على هذا الوضع، لأن من يفز بالذكاء الاصطناعي هو الفائز".</div></p><p class='article-text'><div data-empty="false">وأضاف "يمكننا وضع ⁠ضوابط. يمكننا فعل هذا أو ذاك. لكنني أعتقد أن هناك الكثير من القوى السلبية للغاية التي تثير هذه المسألة، في حين لا ينبغي لها أن تفعل ذلك، وهي تثير أمورا لن تحدث".</div></p><p class='article-text'><div data-empty="false">وأحجم ترامب عن إثارة المخاوف بشأن الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وتأتي أحدث تعليقاته بعد ‌أسبوع من تصاعد المخاوف في الولايات المتحدة عقب تحذير باحثين من شركة أنثروبيك من أن التقدم السريع في الذكاء الاصطناعي قد يؤدي إلى انقراض الجنس البشري في مستقبل غير بعيد.</div></p><p class='article-text'><div data-empty="false">وتبنت إدارة ترامب ‌إلى حد بعيد شركات الذكاء الاصطناعي خلال ولايته الثانية. ودعمت هذه ‌الشركات وغيرها من شركات التكنولوجيا مبادرات ترامب.</div></p><p class='article-text'><div data-empty="false">وضخ مسؤولون تنفيذيون في مجال الذكاء الاصطناعي أموالا ‌طائلة في حملة انتخابات التجديد النصفي للكونجرس ‌المقررة في الثالث من نوفمبر  التي ستحدد السيطرة على مجلسيه النواب والشيوخ. وأنفقت لجنة العمل السياسي (أمريكا باك)، التابعة لإيلون ماسك ​الرئيس التنفيذي لشركة ‌سبيس إكس، ملايين الدولارات لدعم المرشحين ​الجمهوريين، ومن المتوقع أن تلعب دورا ⁠محوريا في جهود حشد الناخبين هذا الخريف.</div></p><p class='article-text'><div data-empty="false">ومع ذلك، حذرت وزارة الدفاع الأمريكية (البنتاجون) في وقت سابق من العام من المخاطر المرتبطة بنموذج أنثروبيك.</div></p><p class='article-text'><div data-empty="false">وفي أعقاب تحذيرات الباحثين، يدفع بعض الرؤساء التنفيذيين لشركات الذكاء الاصطناعي ​باتجاه إبطاء وتيرة ⁠تطوير النماذج.</div></p><p class='article-text'><div data-empty="false">وعرض الرئيس التنفيذي ⁠لشركة أنثروبيك داريو أمودي أمس السبت إطارا من ثلاث خطوات يهدف إلى ضبط وتيرة التطوير وإتاحة مزيد من الوقت للتعامل مع مخاطره.</div></p><p class='article-text'><div data-empty="false">وقال أمودي في مقابلة بثت اليوم الأحد ضمن برنامج "واجه ⁠الأمة مع مارجريت برينان" الذي تبثه شبكة (سي.بي.إس) إن المنافسة بين شركات الذكاء الاصطناعي الأمريكية والصينية تمثل "أصعب معضلة" عند محاولة وضع "حد أقصى للسرعة" لمعدل تطوير الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وأضاف "ينبغي ألا نخدع أنفسنا؛ فالحوافز للسعي نحو التفوق والميزة العسكرية المكتسبة من ذلك هائلة لدرجة أن القدرة على التحقق من عدم قيام الطرف الآخر بالخداع يجب أن تكون محكمة تماما ولا تقبل الشك. ولذا، ‌أعتقد أن هذا الأمر سيتطلب العمل لسنوات، وبكل صراحة، لا أعرف ما إذا كان ذلك ممكنا من الأساس".</div></p><p class='article-text'><div data-empty="false">ودعا ​جاكوب كوكسون، أحد باحثي أنثروبيك الذي استقال ثم أطلق تلك التحذيرات، الولايات المتحدة إلى العمل مع دول أخرى لضبط الوتيرة.</div></p><p class='article-text'><div data-empty="false">وقال كوكسون في برنامج "ميت ذا برس" الذي تبثه شبكة إن.بي.سي "أشعر بأننا بحاجة إلى تنسيق دولي، وإلا فإننا نخاطر بخوض السباق نفسه مع الصين، وهو ما قد ​يكون خطيرا بالقدر ذاته".</div></p>

ترامب: قوى سلبية تثير مخاوف مبالغاً فيها بشأن الذكاء الاصطناعي

<p class='article-text'>استبعد سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، طرح الشركة المطورة لـ "تشات جي بي تي" في البورصة هذا العام، مشيرا إلى الجدل المستمر حول مخاطر الذكاء الاصطناعي المتقدم.</p><p class='article-text'>وفي مقابلة مع مجلة "فورتشن"، قال ألتمان إن هذه ستكون "لحظة غير حكيمة للطرح العام". وردا على سؤال عما إذا كان بإمكانه أيضا تخيل التخلي عن الطرح في العام التالي، أجاب ألتمان: "أود أن أقول ليس في عام 2026".</p><p class='article-text'>وأثار "تشات جي بي تي" طفرة الذكاء الاصطناعي الحالية منذ عدة سنوات. ومن المتوقع أن يجمع إدراج "أوبن إيه آي" في البورصة، والذي كان قيد التخطيط لبعض الوقت، عشرات المليارات من الدولارات ويحقق تقييما عاليا للغاية.</p><p class='article-text'>وتتزايد المخاوف بشأن مخاطر الذكاء الاصطناعي منذ أسابيع، وسببها الرئيسي هجمات التسلل الإلكتروني التي نفذتها برامج الذكاء الاصطناعي التي تصرفت بشكل مستقل خلال جولات الاختبار.</p><p class='article-text'>واشتعل الجدل بشكل أكبر في الأيام الأخيرة عندما استقال باحث في شركة الذكاء الاصطناعي "أنثروبيك" مع تحذير صارخ من أن قادة الذكاء الاصطناعي الهادفين للربح كانوا "يقامرون بحياتنا".</p><p class='article-text'>وأكد إيفان هوبينجر، الباحث في "أنثروبيك" والمسؤول جزئيا عن ضمان بقاء الذكاء الاصطناعي متوافقا مع المصالح البشرية، بعد ذلك بوقت قصير مخاوف الباحث جاكوب كوكسون.</p><p class='article-text'>وكتب هوبينجر على المنصة الإلكترونية "إكس" أنه يعتقد شخصيا أن خطر قضاء الذكاء الاصطناعي على البشرية خلال العقد المقبل يتجاوز 10%.</p><p class='article-text'>وفي الولايات المتحدة، هناك أيضا حركة متنامية ضد بناء مراكز البيانات الضخمة التي تعتمد عليها شركات الذكاء الاصطناعي مثل "أوبن إيه آي" للتوسع في أعمالها.</p>

سام ألتمان يستبعد طرح أسهم "أوبن إيه آي" للاكتتاب العام في 2026

<p class='article-text'>سايمون مندي<br>قدم التقرير الجديد الصادر عن شركة «أنثروبيك» بشأن «إساءة استخدام» تقنياتها نظرة مفزعة عن المآرب المظلمة التي يمكن أن تستخدم فيها أحدث حلول الذكاء الاصطناعي اليوم. </p><p class='article-text'><div data-empty="false">ولعل أكثر ما يثير الصدمة في التقرير استشهاده بخمس حالات قام فيها علماء بالالتفاف على ضوابط الأمان لاستخدام نماذج الشركة «بطرق قد تدعم تطوير أسلحة بيولوجية».</div></p><p class='article-text'><div data-empty="false">ويرى رئيس «أنثروبيك»، إلى جانب المئات من العاملين في كبرى شركات الذكاء الاصطناعي، أن مواجهة هذه المخاطر تتطلب تحركاً دولياً جاداً ومنسقاً من الحكومات العالمية. </div></p><p class='article-text'>غير أنه وفقاً للمعطيات الراهنة، يبدو احتمال اتخاذ مثل هذا التحرك الجماعي أبعد من أي وقت مضى.</p><p class='article-text'>وإذا آلت الأمور بالذكاء الاصطناعي لإلحاق أضرار كارثية بالبشرية، فلن يكون بوسعنا الادعاء أن مبتكريه لم يحذرونا مبكراً.</p><p class='article-text'><div data-empty="false">وقد حظيت رسالة جاكوب كوكسون، الباحث البالغ من العمر 27 عاماً والذي استقال مؤخراً من شركة «أنثروبيك»، باهتمام واسع هذا الأسبوع.</div></p><p class='article-text'>إذ حذر فيها من أن «القائمين على تطوير الذكاء الاصطناعي يعتقدون جازمين أنه قد يودي بحياة البشرية جمعاء بحلول نهاية هذا العقد».</p><p class='article-text'><div data-empty="false">ويتطابق تحذير كوكسون في مجمله مع تحذيرات متكررة صريحة أصدرتها قيادات رفيعة في كبرى شركات القطاع لا تزال تتولى مناصبها حتى اليوم.</div></p><p class='article-text'>فقبل ثلاثة أيام فقط من تصريح كوكسون، حذر يعقوب باتشوكي، كبير العلماء في شركة «أوبن إيه آي»، في مقال عبر مدونته بعنوان «عقل غريب»، من «مخاطر جديدة وواضحة» نابعة مما قد يتحول إلى «عقل فضائي غريب يفوق عقليتنا البشرية»، بما يهدد سيطرة الإنسان على مستقبله.</p><p class='article-text'><div data-empty="false">وكتب باتشوكي: «أشعر بالقلق لعدم وجود أحد مستعد لمواجهة تبعات التسارع المستمر في الذكاء الآلي»، مشيراً إلى أن النماذج الأكثر تطوراً أصبحت تستعصي بشكل متزايد على سيطرة مطوريها أنفسهم. </div></p><p class='article-text'>وجاء الدليل المثير للقلق على ذلك في يوليو الماضي، عندما تمكنت مجموعة كبيرة من «وكلاء» الذكاء الاصطناعي التابعة لشركة «أوبن إيه آي» من الانفلات من قيودها، وتنفيذ هجوم منسق على شركة التقنية «هاجينج فيس» دون أي توجيه أو أوامر بشرية.</p><p class='article-text'>وحث باتشوكي الحكومات على وضع «معايير أمان مشتركة» للحد من المخاطر المتصاعدة للذكاء الاصطناعي المتقدم، كاتباً: «إن فكرة المضي قدماً بأي ثمن تبدو عبثية بمجرد إدراك حجم المخاطر الجسيمة على المحك».</p><p class='article-text'><div data-empty="false">وتأتي هذه الدعوة عقب سلسلة مناشدات مماثلة من كبار التنفيذيين والخبراء.</div></p><p class='article-text'>ففي يوليو الماضي، وقع أكثر من 1300 موظف في شركات الذكاء الاصطناعي المتقدمة، بمن فيهم داريو أمودي، المدير التنفيذي لشركة «أنثروبيك»، وشخصيات بارزة في «أوبن إيه آي» و«جوجل ديب مايند» و«ميتا»، بياناً حثوا فيه الحكومة الأمريكية على دعم جهود دولية لتطوير «أدوات تقنية وحوكمة» تضمن ضبط سرعة تطور التقنية، لـ«كسب الوقت الكافي لمعالجة المخاطر الناشئة».</p><p class='article-text'>وأكد الموقعون أنه في غياب هذه الضوابط الدولية، ستظل «كل شركة، وكل دولة، تحت ضغط تنافسي شديد» لمواكبة هذا التسارع الخطير.</p><p class='article-text'><div data-empty="false">غير أنه خلال اجتماع مجموعة العشرين في ولاية نورث كارولاينا الأسبوع الماضي، مررت أمريكا اتفاقاً دولياً بين الاقتصاديات الكبرى، بدا وكأنه يهدف لإعاقة الإجراءات التنظيمية بدلاً من تمكينها.</div></p><p class='article-text'>ويستند هذا التوجه إلى النهج الأوسع لإدارة ترامب حيال الذكاء الاصطناعي، والذي يركز بشكل مكثف على ترسيخ ريادة الشركات الأمريكية في القطاع وتقليل العوائق أمام نموها.</p><p class='article-text'><div data-empty="false">ومن خلال التوقيع على «مبادئ كارولاينا للتقنيات الناشئة»، التي تعنى بوضوح بالذكاء الاصطناعي رغم تحاشيها استخدام المصطلح صراحة، ألقت الاقتصاديات الكبرى بثقلها عملياً خلف ما يعرف في القطاع بتيار «التسارعيين». </div></p><p class='article-text'>وتؤكد الوثيقة بقوة على التدابير التي يجب أن تتخذها الحكومات لتقليل الأعباء التنظيمية على مطوري التقنية، بما في ذلك تقديم إعفاءات من القواعد التنظيمية وتبسيط إجراءات الحصول على التراخيص.</p><p class='article-text'>وتنص الوثيقة على ضرورة اعتماد الحكومات على التشريعات القائمة قدر الإمكان بدلاً من صياغة قوانين جديدة، مع التأكيد على أن أي تقييم لتنظيم الذكاء الاصطناعي يجب أن «يأخذ في الحسبان تكلفة الفرصة البديلة الناتجة عن تأخير التبني أو الامتناع عنه».</p><p class='article-text'>وصحيح أن الوثيقة تشير بإشارة عابرة إلى أهمية أن تكون التجارب «مسؤولة»، إلا أن توجهها العام يصب صراحة في مصلحة تسريع الخطى؛ إذ تكرر فعل «تسريع» سبع مرات في النص المؤلف من 1200 كلمة، والذي ركز بوضوح على الآثار الإيجابية للتقنية دون ذكر السلبيات إطلاقاً.</p><p class='article-text'>وسهل صدور هذا البيان الختامي أمثال إيلون ماسك وجينسن هوانج، الرئيس التنفيذي لشركة «إنفيديا»، اللذين حثا اجتماع مجموعة العشرين على عدم فرض قيود تنظيمية مفرطة.</p><p class='article-text'>وقال هوانج أمام الحضور «لا تفرضوا قيوداً تنظيمية على أضرار افتراضية ونظرية».</p><p class='article-text'>في المقابل، لم يكن هذا التوجه محل ترحيب من جانب أندرو بيلي، محافظ بنك انجلترا ورئيس مجلس الاستقرار المالي العالمي حالياً؛ إذ وجه عشية الاجتماع رسالة إلى وزراء مجموعة العشرين حذر فيها من أن الخطر الأشد على النظام المالي العالمي هو التهديدات السيبرانية بواسطة الذكاء الاصطناعي.</p><p class='article-text'>وكتب بيلي «تفتقر العديد من الدول إلى البروتوكولات الكفيلة بإدارة تطوير ونشر واستخدام نماذج الذكاء الاصطناعي المتقدمة، ما يضاعف المخاطر على القطاع المالي والقطاعات الأخرى»، محذراً من أن هذه المخاطر «قد تقوض ثقة الأسواق على مستوى النظام المالي بأكمله».</p><p class='article-text'>ورغم قوة تحذير بيلي، فإنه يبدو هادئاً ومحافظاً إذا ما قورن باللهجة الصادرة عن مطوري الذكاء الاصطناعي أنفسهم.</p><p class='article-text'>ففي وقت سابق من هذا العام، نشر داريو أمودي، رئيس «أنثروبيك»، مقالاً مفصلاً حذر فيه من سلسلة مخاطر كارثية محتملة لنماذج الذكاء الاصطناعي التي تطورها شركته والشركات المنافسة.</p><p class='article-text'><div data-empty="false">ولإعطائكم لمحة، هذا جزء مما ذكره أمودي بخصوص خطر واحد فقط، الأسلحة البيولوجية: «أخشى أن وجود عبقري في جيب كل فرد قد يحول الجميع، عملياً، إلى حاملي دكتوراه في علم الفيروسات، يمكن توجيههم خطوة بخطوة لتصميم وإنتاج وتخليق ونشر سلاح بيولوجي... بعبارة أخرى، فإن استئجار نموذج ذكاء اصطناعي قوي يمنح قدرات استخباراتية وإدراكية لأي شخص عادي ذي نية خبيثة. </div></p><p class='article-text'>وصراحة ينتابني القلق لوجود أعداد كبيرة من هؤلاء الأشخاص، وإذا ما أتيحت لهم طريقة سهلة لقتل الملايين، فسيقدم أحدهم على ذلك عاجلاً أم أجلاً».</p><p class='article-text'><div data-empty="false">يرى البعض في هذه التحذيرات شكلاً غريباً من أشكال التسويق والترويج، وجذب المزيد من المستثمرين، إلى جانب تلميع صورتهم كقادة أعمال يتسمون بالمسؤولية والتفكير العميق. </div></p><p class='article-text'>وقد بات هذا التفسير شائعاً مع تزايد حدة التحذيرات القادمة من داخل قطاع الذكاء الاصطناعي نفسه.</p><p class='article-text'>ولا شك أنه يحمل جزءاً من الصواب، غير أنه مع كل دليل جديد يطرأ على تعاظم قوة هذه التقنية، ومحدودية قدرة مبتكريها على التحكم فيها أو حتى فهم آلية عملها، تبدو هذه الرواية المريحة أكثر هشاشة وزيفاً يوماً بعد يوم.</p>

حان الوقت للتعامل بجدية مع مخاطر الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">قال داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إن على قطاع الذكاء الاصطناعي إبطاء وتيرة تطوير النماذج الجديدة، مشيراً إلى تزايد المخاوف من المخاطر الجسيمة التي تهدد البشر. وكتب في منشور على مدونته السبت: «يجب أن نبطئ الوتيرة التي نُحسن بها قدرات نماذج الذكاء الاصطناعي». وأضاف: «سيظل التقدم يبدو سريعاً، وعلينا استغلال الوقت الذي نكسبه بحكمة».</div></p><p class='article-text'><div data-empty="false">وأشار إلى عاملين رئيسيين: قدرة الذكاء الاصطناعي على تطوير نفسه، إلى جانب الحادثة الأخيرة التي تورطت فيها شركتا «أوبن إيه آي» و«هاغينغ فيس»، عندما شكلت مجموعة من وكلاء الذكاء الاصطناعي تحالفاً سرياً للتعامل مع أهداف لم تُسند إليها.</div></p><p class='article-text'><div data-empty="false">وأضاف: «للتوضيح، ضبط الوتيرة لا يعني وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تمنح الشركات نفسها وقتاً كافياً لمواءمة نماذجها وتعزيز إجراءات حمايتها، وأن تؤكد جهات تقييم مستقلة ذلك».</div></p><p class='article-text'><div data-empty="false">وتصاعدت التحذيرات من مخاطر الذكاء الاصطناعي بشدة في الآونة الأخيرة، ولا سيما بعد الاستقالة البارزة هذا الأسبوع لباحث في «أنثروبيك»، بسبب مخاوف وجودية من أن شركته تتصرف بطريقة غير مسؤولة.</div></p><p class='article-text'><div data-empty="false">وكتب أمودي أن «أنثروبيك» ستلتزم بمنح جهات تقييم مستقلة وصولاً كاملاً للتحقق من ممارسات السلامة والإبلاغ عن الحوادث. وقال إن الخطوات الإضافية ستتطلب تنسيقاً على مستوى القطاع، إلى جانب تعاون عالمي. وضاف: «ما زلت أؤمن بأن الذكاء الاصطناعي قادر على تحسين جودة حياة البشر بدرجة هائلة. ولم تتراجع رغبتي في تحقيق هذه الفوائد».</div></p><p class='article-text'><div data-empty="false">وتابع: «لكن هذه الفوائد لن تتحقق إلا إذا طوّرنا التكنولوجيا بالطريقة الصحيحة، وطالما أننا نستغل الوقت الذي نكسبه جيداً، فإن توخي قدر استثنائي من الحذر والتأني للوصول إلى ذلك بالطريقة الصحيحة أمر يستحق العناء».</div></p><p class='article-text'><div data-empty="false">لكن اللافت أن إيلون ماسك، الرئيس التنفيذي لشركة «تيسلا» و«سبيس إكس» علق على دعوة داريو أمودي رئيس «​أنثروبيك» ‌إلى تعمّد إبطاء وتيرة ‌تطوير قدرات النماذج، حيث كتب تدوينة على حسابه عبر منصة «إكس»: «داريو على حق».</div></p><p class='article-text'><div data-empty="false">وفي وقت سابق من هذا الأسبوع، قال سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، إن شركته تدرس إبطاء تطوير تقنيات الذكاء الاصطناعي المتقدمة، ويفضّل أن يحدث ذلك بالتنسيق مع القطاع الأوسع.</div></p><p class='article-text'><div data-empty="false">وكان كبير العلماء في الشركة، ياكوب باتشوكي، قد نشر تحذيراً من مخاطر الذكاء الاصطناعي، قائلاً إنه يعتقد أن على الشركات «التنسيق لإبطاء التطوير مستقبلاً عند الحاجة».</div></p><p class='article-text'><div data-empty="false">وفي يوم الثلاثاء، استقال باحث الذكاء الاصطناعي جاكوب كوكسون من وظيفته، واتهم الشركتين اللتين كان يعمل لديهما سابقاً، «أنثروبيك» و«أوبن إيه آي»، بـ«المقامرة بحياتنا» من خلال التسابق نحو تطوير ذكاء اصطناعي فائق. وقال كوكسون في منشور على وسائل التواصل الاجتماعي إن الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون أنه قد «يقتلنا جميعاً بحلول نهاية العقد».</div></p><p class='article-text'><div data-empty="false">ورداً على ذلك، قال إيفان هوبينغر، الموظف الحالي في «أنثروبيك»، إنه وآخرين في الشركة يشعرون بالقلق حيال هذا السيناريو. وكتب على منصة «إكس»: «أعتقد شخصياً أن احتمال حدوثه يتجاوز 10% خلال العقد المقبل».</div></p><p class='article-text'><div data-empty="false">وفي يوليو الماضي، وقع أكثر من ألف موظف في كبرى شركات الذكاء الاصطناعي عريضة تطالب الحكومة الأمريكية بدعم آلية من شأنها المساعدة على «ضبط وتيرة» تطوير الذكاء الاصطناعي عمداً، لمنع التكنولوجيا من التقدم بسرعة مفرطة. لكن إدارة ترمب لم تُبدِ حتى الآن اهتماماً يُذكر باستخدام سلطاتها التنظيمية لوضع ضوابط على تطوير الذكاء الاصطناعي.</div></p>

رئيس «أنثروبيك»: حان الوقت لإبطاء تطوير الذكاء الاصطناعي.. وماسك: أنت على حق

<p class='article-text'><div data-empty="false">+++</div></p><p class='article-text'><div data-empty="false">بدأت أصوات التحذير من التسارع الكبير في تطوير الذكاء الاصطناعي تأتي من داخل الشركات التي تقود السباق نفسه، وسط مخاوف متزايدة من وصول قدرات النماذج والأدوات الذكية إلى مستويات يصعب معها ضمان السيطرة عليها.</div></p><p class='article-text'><div data-empty="false">ودعا داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وتعزيز القدرة على التحكم في مساره، محذراً من أن استمرار التطور بالسرعة الراهنة قد يفتح الباب أمام مخاطر غير مسبوقة.</div></p><p class='article-text'><div data-empty="false">واستعاد أمودي في رسالة نشرها على موقعه الإلكتروني الشخصي، حادثة شهدتها شركة "أوبن إيه آي" في يوليو الماضي، في وقت تتزايد فيه التساؤلات داخل قطاع التكنولوجيا بشأن الحدود التي يمكن أن تصل إليها الأدوات الذكية ومدى قدرة مطوريها على إبقائها تحت السيطرة.</div></p><p class='article-text'><div data-empty="false">وجاء تحذير أمودي بعد أيام من إعلان الباحث جاكوب كوكسون استقالته من :أنثروبيك"، متهماً الشركة بالتقليل من شأن ما يراه خطراً وجودياً يمكن أن يشكله الذكاء الاصطناعي على البشرية.</div></p><p class='article-text'><div data-empty="false">ولم تكن دعوة أمودي الأولى من نوعها، إذ سبق لـ"أنثروبيك" أن دعت مطلع يونيو الماضي إلى تمكين الجهات الكبرى العاملة في مجال الذكاء الاصطناعي من إبطاء أو تعليق تطوير هذه التكنولوجيا بصورة مؤقتة. كما دعا سام ألتمان، الرئيس التنفيذي لـ "أوبن إيه آي"، في أواخر يوليو إلى التمهل لإتاحة الوقت الكافي للمجتمع لاستيعاب القدرات الجديدة للذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وجاءت هذه الدعوات في أعقاب حادثة أفلتت خلالها أدوات ذكاء اصطناعي تابعة لـ"أوبن إيه آي"، أثناء اختبارها، من بيئات يفترض أنها مضبوطة، وتمكنت من اختراق خوادم منصة الذكاء الاصطناعي "هاغينغ فيس".</div></p><p class='article-text'><div data-empty="false">ولا تقتصر المخاوف على خروج الأدوات عن السيطرة أو نشاطها عبر الإنترنت، بل تمتد إلى احتمالات توظيف قدراتها في مجالات أكثر خطورة.</div></p><p class='article-text'><div data-empty="false">وكانت "أنثروبيك"، المطورة لنموذج "كلود"، أعلنت حظر عدد من الحسابات بعدما استخدمت نماذجها بطرق قد تساعد على تطوير أسلحة بيولوجية.</div></p><p class='article-text'><div data-empty="false">وقالت الشركة في تقرير إن إساءة استخدام التكنولوجيا لأغراض بيولوجية تمثل واحدة من أخطر المخاطر التي تواجه نماذج الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وتضع هذه التحذيرات المتتالية قطاع الذكاء الاصطناعي أمام معادلة تزداد تعقيداً: مواصلة سباق التطوير الذي تتنافس فيه كبرى شركات التكنولوجيا، وفي الوقت نفسه بناء ضمانات قادرة على منع تحول القدرات التي تطورها هذه الشركات إلى أدوات يصعب التحكم فيها.</div></p>

قادة الذكاء الاصطناعي يرفعون الفرامل.. تحذيرات من فقدان السيطرة

<p class='article-text'><div data-empty="false">دعا الرئيس التنفيذي لشركة "انثروبيك" داريو أمودي السبت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، مؤكدا الحاجة إلى تحكم أفضل في تطوره، ومُذكّرا بالحادث الذي حصل لدى شركة "أوبن إيه آي" في تموظ/يوليو الفائت.</div></p><p class='article-text'><div data-empty="false">وجاءت الرسالة التي نُشرت على الموقع الإلكتروني الشخصي لأمودي، بعد بضعة أيام من إعلان الباحث جاكوب كوكسون استقالته من "أنثروبيك" التي مقرها في كاليفورنيا، متهما إياها بالإقلال من شأن الخطر الوجودي الذي يشكله الذكاء الاصطناعي على البشرية.</div></p><p class='article-text'><div data-empty="false">وسبق لـ"أنثروبيك" أن دعت في مطلع يونيو الفائت إلى تمكين كبرى الجهات المعنية بالذكاء الاصطناعي من "أن تُبطئ أو تعلّق موقتا تطوير" هذه التكنولوجيا.</div></p><p class='article-text'><div data-empty="false">كذلك حضّ رئيس شركة "أوبن إيه آي" المنافَسة لـ"أنثروبيك" سام ألتمان في أواخر يوليو إلى التمهّل "من أجل إفساح الوقت الكافي للمجتمع لاستيعاب هذه القدرات الجديدة".</div></p><p class='article-text'><div data-empty="false">وإثر ذلك، وجّه أكثر من ألف من العاملين في كبرى شركات الذكاء الاصطناعي، من بينهم داريو أمودي ومسؤولون في "أوبن إيه آي"، نداء إلى الحكومة الأميركية طالبوها فيه بـ"تأخير" طرح الأدوات الأكثر تقدما.</div></p><p class='article-text'><div data-empty="false">وأعقبت هذه الدعوات حادثة إفلات أدوات ذكاء اصطناعي تابعة لشركة "أوبن إيه آي" خلال اختبارها من بيئات يُفترض أنها مضبوطة، واختراقها خوادم منصة الذكاء الاصطناعي "هاغينغ فيس" الواسعة الانتشار.</div></p><p class='article-text'><div data-empty="false">وأفادت الشركتان مذّاك بحوادث أخرى مماثلة شهدت ولوج أدوات ذكاء اصطناعي تابعة لـ"أوبن إيه آي" و"أنثروبيك" شبكة الإنترنت من دون علم المشرفين عليها.</div></p><p class='article-text'><div data-empty="false">وكانت هذه الحوادث تتعلق بأدوات ذكاء اصطناعي مبنية على نموذج ولها معارفها وأهدافها الخاصة.</div></p><p class='article-text'><div data-empty="false">وتعاظَم القلق من سلوك هذه الأدوات وطرق عملها بعدما أظهرت قدرة على التنسيق في ما بينها، وإقامة هرمية داخلية، والغش، ومحو آثار أفعالها.</div></p><p class='article-text'><div data-empty="false">وأبدى داريو أمودي في رسالته خشيته من أن "يصبح في وِسع مجموعة من هذه الأدوات خلال ستة إلى 12 شهرا" في ضوء التسارع الحالي في تطوير الذكاء الاصطناعي، "السيطرة على شبكة الإنترنت بأكملها"، ما "قد يتسبب في أضرار بمئات مليارات الدولارات".</div></p>

رئيس شركة "أنثروبيك" يدعو الى إبطاء وتيرة تطوير الذكاء الاصطناعي

<p class='article-text'><div data-empty="false"> نقلت وكالة بلومبرج نيوز يوم الخميس ​عن مصادر أن سام ألتمان الرئيس التنفيذي ‌لشركة ​أوبن إيه.آي أبلغ الموظفين خلال اجتماع للشركة عُقد هذا الأسبوع بأن الشركة مستعدة لإبطاء وتيرة تطوير أنظمتها للذكاء الاصطناعي، وذلك في ظل تزايد المخاوف بشأن سلامة الأنظمة المتقدمة.</div></p><p class='article-text'><div data-empty="false">وفيما يلي أهم التفاصيل:</div></p><p class='article-text'><div data-empty="false">* ⁠ذكر التقرير أن ألتمان قال في اجتماع شمل جميع موظفي الشركة أن الشركة المطورة لتشات جي.بي.تي يمكنها مواءمة وتيرة التطوير مع مختبرات الذكاء ‌الاصطناعي الأخرى، لكن البعض ربما لا يوافق على ذلك.</div></p><p class='article-text'><div data-empty="false">* أثارت التحذيرات المتعلقة بالسلامة التي أصدرها باحثون ‌في مجال الذكاء الاصطناعي هذا الأسبوع إلى جانب ‌عدة حوادث وقعت في الآونة الأخيرة وشملت ‌خروج نماذج ذكاء اصطناعي ‌من مطورين بينهم أوبن إيه.آي عن سيطرة البشر قلقا ودعوات لفرض لوائح ​أمان أكثر صرامة.</div></p><p class='article-text'><div data-empty="false">* ‌واتهم جاكوب كوكسون، ​الباحث السابق في شركتي ⁠أنثروبيك وأوبن إيه.آي، الشركتين علنا في وقت سابق من هذا الأسبوع بالاندفاع نحو تحقيق تقدم في مجال ​الذكاء ⁠الاصطناعي دون ⁠التصرف بمسؤولية.</div></p><p class='article-text'><div data-empty="false">* قال متحدث باسم أنثروبيك أمس الخميس إن الشركة مهتمة بالتعاون مع قطاع الذكاء الاصطناعي ⁠بشأن وتيرة إصدار أدوات جديدة في هذا المجال.</div></p><p class='article-text'><div data-empty="false">* أوقفت أوبن إيه.آي في أغسطس آب معظم عمليات تطوير نماذجها لمدة أسبوعين لتعزيز دفاعاتها بعد أن خرجت نماذج ذكاء اصطناعي تابعة لها عن السيطرة ‌واخترقت منصة (هاجينج فيس) مفتوحة المصدر.</div></p><p class='article-text'><div data-empty="false">* وقالت أوبن إيه.آي يوم ​الأربعاء إنها تضغط من أجل فرض متطلبات وطنية إلزامية لسلامة الذكاء الاصطناعي في الولايات المتحدة، وعزت هذا لمخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة قد تسرع ​من تطوير نفسها.</div></p>

الرئيس التنفيذي لأوبن إيه.آي: مستعدون لإبطاء وتيرة تطوير الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">ثلاث جمل قالها رجل؛ الأولى أن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال السنوات العشر المقبلة يتجاوز 10 في المئة. والثانية أن شركته لا تملك حتى الآن خطة لضبط ذكاءٍ يتفوّق على الإنسان. والثالثة أنها ليست على مسار واضح لامتلاكها.. ثم ذهب في اليوم التالي إلى مكتبه.</div></p><p class='article-text'><div data-empty="false">ذاك الرجل هو إيفان هوبينغر، الذي يشغل منصب مسؤول "علم المواءمة" في شركة أنثروبيك. وتوصيف وظيفته، بالضبط، هو منعُ تقنيات الذكاء الاصطناعي ونماذجه من الإفلات من سيطرة البشر.. بدا هوبينغر في قوله ذلك مثل رجل إطفاء يقطن في مبنى يبلغ احتمال أن يشتعل فيه حريق 10%، ويعترف في الوقت نفسه بأنه لا يملك خرطوماً، لكنه مع ذلك يصر على البقاء داخل ذلك المبنى.</div></p><p class='article-text'><div data-empty="false">الحكاية بدأت في 8 سبتمبر، حين أعلن الباحث جاكوب كوكسون (27 عاماً)، استقالته من أنثروبيك بعد ثلاث سنوات في أبحاث ما قبل التدريب لديها ولدى أوبن إيه آي، وكتب أن الشركتين تتسابقان نحو ذكاء فائق يحسّن نفسه بنفسه، وتقامران بمستقبل البشرية، وأنه «لا يوجد نشاط بشري آخر بهذا القدر من الخطر». والاستقالة حدثٌ مألوف في شركات التكنولوجيا الكبرى، لكن اللافت أن من بقي من نظراء كوكسون في المجال أقروه على دعواه ولم يفندوها؛ فقد أيّده هوبينغر الذي افتتحنا به التقرير. </div></p><p class='article-text'><div data-empty="false">عالم آخر في "أنثروبيك" يدعى صمويل ماركس، وهو مسؤول "الإشراف القابل للتوسّع"، كتب جملةً تبعث القلق لدى القارئ وربما الفضول: "كلما ارتفع موقع الشخص داخل هذه المختبرات ازداد خوفه".. وإن صحّ توصيفه، فالرعب هنا دالةٌ في المعرفة، لا في الجهل بلغة الرياضيات.</div></p><h2>ماذا يخشون تحديداً؟</h2><p class='article-text'><div data-empty="false">في يوليو 2026 كانت أوبن إيه آي تختبر نموذجين على منصة ExploitGym لقياس القدرة الهجومية السيبرانية. أُوقفت عمداً المصنِّفات المانعة للسلوك الخطر، لأن الغرض قياس أقصى ما تستطيعه النماذج داخل بيئة معزولة. فخرجت من العزل، واخترقت خوادم الإنتاج في شركة "هاغينغ فيس". ووصف سام ألتمان الأمر بأنه حادثة أمنية كبيرة. والمرعب أن أحداً لم يطلب منها الاختراق؛ بل وجدته الطريق الأقصر لإنجاز المهمة.</div></p><p class='article-text'><div data-empty="false">هنا توجد مسافة ينبغي ألا تضيع بين الخوف والدليل، فالتقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 يقول إن النماذج الحالية لا تملك بعد مجموعة القدرات التي تسمح لها فعلاً بالإفلات من السيطرة البشرية. لكنها تتحرك في ذلك الاتجاه؛ مدة العمل المستقل للوكلاء تتضاعف، في المتوسط، كل سبعة أشهر، وقد تحسنت قدرتها على اكتشاف أنها تحت الاختبار، والعثور على ثغرات في التقييم، وإخفاء بعض السلوكيات. </div></p><p class='article-text'><div data-empty="false">حالة أخرى تثير القلق، فبحسب توصيف كوكسون، ظهرت حالاتٌ تنسّق فيها النماذج فيما يشبه الأسراب، وتواصل السعي وراء أهدافها من تلقاء نفسها، وتحاول إخفاء ما تفعله عمّن يراقبها. </div></p><p class='article-text'><div data-empty="false">ونصل إلى ثالث الأمور المقلقة، وهي التحسين الذاتي؛ أصبحت بعض النماذج تصمّم نسختها التالية بنفسها، فتقفز جيلاً كل أسبوع بدل كل عام، ما يضعنا في مرة أمام كائن جديد لم نفهم سابقه بعد لتسنى لنا فهمه هو.</div></p><p class='article-text'><div data-empty="false">شركة "أنثروبيك" خففت حدة تلك الحوادث السيبرانية، حيث نشرت أمس الأربعاء، تقريراً قالت فيه إنها "فحصت مئات الملايين من المحادثات ولم تجد حالات بالخطورة نفسها، وإن تصرّفات وكيلها الذكي ظلَّت في نطاق ضيّق رغم خروجها عن الضبط".</div></p><h2>لماذا يتواصل التطوير إذن؟</h2><p class='article-text'><div data-empty="false">السبب شرحه كوكسون بنفسه؛ ففي أنثروبيك مثلاً، الرهان مفهوم تماماً، لكنها كشركة رهينة لسباق، وتعتقد أن لا أحد غيرها سيتصرّف بمسؤولية. وهو منطقٌ له سابقة واحدة في التاريخ الحديث؛ "أبني السلاح كي لا يبنيه من هو أسوأ مني". بهذا المنطق قامت مشاريع القنبلة النووية، وبه بُرّر الردع النووي أربعين عاماً.</div></p><h2>مفتاح الإيقاف</h2><p class='article-text'><div data-empty="false">لم تلبث السياسة أن لحقت بالأمر، لكن هذه المرة أسرع من عادتها، ففي 23 يوليو الماضي، قدّم الديمقراطي تيد ليو والجمهوري ناثانيال موران مشروع «قانون مفتاح الإيقاف»، الذي يُلزم كبار المطوّرين بالقدرة على إيقاف نماذجهم، وبغرامات قد تصل إلى 20 مليون دولار يومياً عند مخالفة أمر طارئ بالإبطاء أو الإيقاف.. وفي 3 سبتمبر الجاري، أعلن بيرني ساندرز وغريغ كاسار مشروع «حظر الذكاء الفائق»، بعقوبات مصاغة على غرار عقوبات تطوير الأسلحة النووية غير المشروع؛ حلّ الشركة، والسجن حتى عشرين عاماً. وفي نصّه تعريفٌ يستحق التوقف: "الذكاء الفائق نظامٌ قادر على التخطيط لنزع تمكين البشرية وتنفيذه، بما في ذلك إسقاط الحكومة الأمريكية". وحين يكتب برلماني هذه العبارة في مسوّدة قانون، تكون المسألة قد غادرت الخيال العلمي.</div></p><p class='article-text'><div data-empty="false">لكن حتى «مفتاح الإيقاف» يحمل مفارقته الخاصة؛ فالقدرة على إطفاء النظام لا تعني بالضرورة القدرة على معرفة اللحظة التي يجب إطفاؤه فيها. وإذا كان جزء من الخوف يتعلق بأن تصبح النماذج أقدر على إخفاء بعض سلوكها عن مراقبيها، فقد لا تكون المشكلة الحقيقية وجود المفتاح، بل متى يعرف الإنسان التوقيت المناسب لضغط المفتاح.</div></p><p class='article-text'><div data-empty="false">تواصل المختبرات تلقّي الاستثمارات بمئات المليارات، رغم كل المخاوف، فهل يتدفق رأس المال عليهم تحديداً لأن السوق يؤمن بأنهم يصنعون أداةً لا تُقدَّر بثمن.</div></p><h2>شكوك ودوافع</h2><p class='article-text'><div data-empty="false">لكن الشك في دوافع الشركات لا يحسم بالضرورة دوافع الأفراد؛ فقد غادر كوكسون «أنثروبيك» قبل موعد استحقاق جزء من أسهمه، متنازلاً بذلك عن مصلحة مالية شخصية، في وقت تتدفق فيه على الشركة تقييمات واستثمارات بمئات المليارات. وبين المشهدين مفارقة يصعب تجاهلها؛ باحث يترك مالاً على الطاولة لأنه يخشى ما تصنعه التقنية، ومستثمرون يضعون مزيداً من المال على الطاولة لأنهم يؤمنون بقوتها.</div></p><p class='article-text'><div data-empty="false">ولهذا الشكّ أصحابٌ لهم وزن فمدرسة يقودها يان لوكون، أحد آباء التعلّم العميق وكبير علماء الذكاء الاصطناعي في ميتا سابقاً، ترى هذه المخاوف مبالغة قريبة من الخرافة، وتقول إن النماذج الحالية أبعد ما تكون عن الذكاء البشري، وإن الانشغال بانقراضٍ متخيَّل يشتّت عن منافع طبية وعلمية واقعة، وعن ضررٍ واقعٍ الآن يتمثّل في تراجع التوظيف في المستويات المبتدئة بنحو 20 في المئة في القطاعات الأمريكية الأكثر انكشافاً. يضاف إلى ذلك أن أرقام الاحتمال المتداولة قناعاتٌ شخصية بلا منهج معلن؛ ودليل ذلك أن السيناتور تيد كروز بنى موقفه، كما روى بنفسه، على رقمٍ سمعه من إيلون ماسك في حلقة بودكاست.</div></p><p class='article-text'><div data-empty="false">نعود إلى رجل الإطفاء الذي يصرّ على البقاء في مبنى يمكن أن يحترق، قد يكون ذلك شجاعةً من نوع نادر. وقد يكون مكرهاً بسبب السباق الذي فرض عليه البقاء كمسؤولية لمنع كارثة تنهي الوجود البشري.. فهل يستطيع منعها إن حدثت؟</div></p>

نتائج البحث عن: جاكوب كوكسون