أكد معالي عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد، أن الحكومة تستهدف تقديم 50% من الخدمات الحكومية عبر وكلاء الذكاء الاصطناعي خلال العامين المقبلين، مع إخضاع هذه الأنظمة لرقابة وتدقيق مستمرين، مشيراً إلى ان دولة الإمارات تنظر إلى الذكاء الاصطناعي باعتباره أداة لخدمة الإنسان وتحسين جودة حياته، وليس مجرد وسيلة لرفع الإنتاجية أو تحقيق وفورات اقتصادية.
جاء ذلك خلال جلسة «اختبار الثقة بالذكاء الاصطناعي الوكيلي»، والتي عقدت عقب الافتتاح الرسمي لاجتماعات قيادات المستقبل العالمية في دبي اليوم.
وأكد أن المعيار الأساسي لنجاح الخدمات الحكومية هو قدرتها على تحسين حياة الناس، بينما تمثل أي تطبيقات قد تمس حياة الإنسان أو مصدر رزقه "خطاً أحمر"
وكشف العلماء عن وجود "مركز تحكم لوكلاء الذكاء الاصطناعي" على مستوى الحكومة، ترتبط به جميع الوكلاء المستخدمة، بحيث تُسجَّل إجراءاتها وخطوات اتخاذ القرار وتخضع لمراقبة وتدقيق مستمرين، آلياً وبشرياً، للتأكد من عدم خروجها عن المسار المحدد.
وقال معاليه: إن الذكاء الاصطناعي يجب أن يستحق الثقة قبل منحه صلاحيات أوسع.
وطرح معاليه تساؤلاً: «هل نثق بالبشر أولاً قبل أن نسأل إن كنا نثق بالذكاء الاصطناعي؟»، موضحاً أن مستوى الثقة يختلف حسب طبيعة المهمة وحجم المخاطر.
وقال إنه لا يمكن حالياً منح وكلاء الذكاء الاصطناعي صلاحية كاملة لاتخاذ قرارات مصيرية تؤثر في حياة الأفراد وفرصهم، بينما يمكن الاعتماد عليهم في خدمات منخفضة المخاطر؛ مثل تجديد جوازات السفر استباقياً في الإمارات، مشدداً على أن بناء الثقة يبدأ من تصميم الأنظمة وتحديد مهامها وصلاحياتها بوضوح.
كما أكد أن الذكاء الاصطناعي يجب أن يستحق الثقة قبل منحه صلاحيات أوسع، موضحاً أن الأفراد قد يقبلون بتفويضه في مهام مثل المدفوعات منخفضة القيمة، مقابل ضرورة وضع ضوابط واضحة وتتبع قرارات وكلاء الذكاء. وحذر من أن فقدان الثقة بهذه الأنظمة قد يحدث سريعاً، بينما سوف تكون استعادتها صعبة؛ ما يستدعي تقليل المخاطر ومحاسبة الشركات المطورة على تأثير أنظمتها في حياة الناس.
أما في ملف الأسلحة ذاتية التشغيل فقد شدد العلماء على أن هناك مجالات لا تحتمل استمرار الجدل، وفي مقدمتها منح الذكاء الاصطناعي قرار قتل البشر أو إطلاق أسلحة مدمرة، مؤكداً أن العالم لم يصل بعد إلى إجماع شامل يمنع هذه الاستخدامات، ومحذراً من أن حظرها في دولة واحدة لا يكفي إذا لم تلتزم بقية الدول، ودعا إلى اتفاق دولي واضح بجدول زمني محدد قبل أن تتسع قدرات هذه الأنظمة أكثر
وروى العلماء قصة عن رجل أوقفه شرطي لأن الأضواء الخلفية لمقطورته لا تعمل، ليكتشف الرجل عند نزوله من السيارة أنه فقد المقطورة التي كانت تقل زوجته وأطفاله الخمسة.
وأوضح العلماء أن مغزى القصة هو ضرورة التحرك قبل الوصول إلى لحظة نكتشف فيها متأخرين أن الأمور خرجت عن السيطرة، وأننا فقدنا الثقة أو البيانات أو أصولاً مهمة بسبب غياب الضوابط والاستعداد المسبق.