فقد أدى إطلاق نماذج جديدة لتوليد الصور من قِبل كبرى شركات الذكاء الاصطناعي، مثل «أوبن ايه آي» و«جوجل»، خلال الأشهر الأخيرة، إلى تدفق الفواتير والإيصالات المولّدة بواسطة الذكاء الاصطناعي والمقدّمة داخلياً بالشركات، وفقاً للمنصات الرائدة لبرمجيات النفقات.
وقالت مجموعة «رامب»، وهي شركة تكنولوجيا مالية، إن برنامجها الجديد كشف عن فواتير احتيالية تجاوزت قيمتها مليون دولار أمريكي في غضون 90 يوماً.
وأفاد حوالي 30% من الخبراء الماليين في الولايات المتحدة والمملكة المتحدة الذين شملهم استطلاع أجرته منصة إدارة النفقات «ميديوس»، بأنهم لاحظوا ارتفاعاً في الإيصالات المزورة بعد إطلاق «أوبن ايه آي» لبرنامج GPT-4o العام الماضي.
وعزت العديد من المنصات القفزة الكبيرة في عدد الإيصالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي إلى إطلاق «أوبن إيه آي» نموذج GPT-4o المحسن لتوليد الصور في مارس.
وكان إنشاء مستندات احتيالية يتطلب في السابق مهارات في تحرير الصور أو الدفع مقابل هذه الخدمات من خلال البائعين عبر الإنترنت.
لكن ظهور برامج توليد الصور المجانية سهل على الموظفين تزوير الإيصالات بسرعة وفي ثوانٍ قليلة عن طريق كتابة تعليمات نصية بسيطة إلى روبوتات الدردشة.
وأظهرت العديد من الإيصالات التي عرضتها منصات إدارة النفقات الطبيعة الواقعية للصور، والتي تضمنت تجاعيد في الورق وتفاصيل دقيقة تطابق القوائم الواقعية والتوقيعات.
وقال سيباستيان مارشون، الرئيس التنفيذي لشركة «ريدو»، وهي منصة لإدارة النفقات: «هذا ليس تهديداً مستقبلياً، بل أمر يحدث بالفعل.
وفي حين أن نسبة صغيرة فقط من الإيصالات غير الحقيقية تُولّد حالياً بواسطة الذكاء الاصطناعي، إلا أن هذا سيزداد بالتأكيد».
ويتم ذلك عن طريق مسح الإيصالات للتحقق من البيانات الوصفية للصورة لمعرفة ما إذا كانت منصة ذكاء اصطناعي قد أنشأتها أم لا.
ومع ذلك، يمكن للمستخدمين إزالة هذه البيانات بسهولة عن طريق التقاط صورة أو لقطة شاشة للصورة.
ولمواجهة ذلك، يأخذ البرنامج أيضاً في الاعتبار معلومات سياقية أخرى من خلال فحص تفاصيل مثل التكرار في أسماء الخوادم والأوقات ومعلومات أوسع حول رحلة الموظف.
وقال كالفن لي، المدير الأول لإدارة المنتجات في شركة «رامب»: تستطيع التقنية النظر إلى كل شيء بتركيز واهتمام كبيرين لدرجة أن البشر، بعد فترة من الوقت، يقعون في الأخطاء.. فهم بشر.
وصرح ماسون وايلدر، مدير الأبحاث في جمعية محققي الاحتيال المعتمدين، بأن الإيصالات الاحتيالية المُولّدة بواسطة الذكاء الاصطناعي تُمثل مشكلةً بالغة الخطورة للمؤسسات.
وأضاف: لا توجد أي عوائق أمام الناس للقيام بذلك. لا يتطلب الأمر أي نوع من المهارات أو الكفاءات التكنولوجية كما كانت الحال قبل خمس سنوات باستخدام برنامج فوتوشوب.