برنامج ذكي يخدع مطوّريه!!

أوضح بحث جديد أجراه علماء من جامعة «ستاندفورد» وشركة «غوغل»، أنه يمكن لبرنامج ذكي أن يخدع مطوريه أو يخفي معلومات عنهم.

وكان علماء قد طوّروا أخيراً، برنامج «سايكل جان»، وهو عبارة عن شبكة عصبية، تم تدريبه على تحويل صور جوية إلى خرائط للشوارع، ثم إعادتها مجدداً لصور جوية. وشعر العلماء باندهاش عند ملاحظتهم اختفاء تفاصيل في الخرائط النهائية، وظهورها بعد طلبهم من البرنامج إعادة الكرة، وتحويل الخرائط إلى صور جوية، وحسب الدراسة، فقد تعلم البرنامج إخفاء معلومات عن مصادر الصور.

 

طباعة Email
تعليقات

تعليقات