يحتوي الذكاء الاصطناعي التوليدي على عدد كبير من إساءة الاستخدام الموثقة جيدًا، بدءًا من إعداد الأوراق الأكاديمية وحتى تقليد الفنانين. والآن، يبدو أنها تظهر في عمليات نفوذ الدولة.
إحدى الحملات الأخيرة كانت “على الأرجح” مدعومة بمنتجات توليد الصوت التجارية المعتمدة على الذكاء الاصطناعي، بما في ذلك التكنولوجيا التي أصدرتها الشركة الناشئة ElevenLabs، وذلك وفقًا لأحد التقارير. التقرير الأخير من شركة استخبارات التهديدات ومقرها ماساتشوستس Recorded Future.
ويصف التقرير حملة مرتبطة بروسيا تهدف إلى تقويض الدعم الأوروبي لأوكرانيا، والتي يطلق عليها اسم “عملية تقويض”، والتي استخدمت بشكل بارز التعليقات الصوتية التي أنشأها الذكاء الاصطناعي على مقاطع فيديو “أخبار” مزيفة أو مضللة.
وهاجمت مقاطع الفيديو، التي استهدفت الجماهير الأوروبية، السياسيين الأوكرانيين ووصفتهم بالفاسدين أو شككت في فائدة المساعدات العسكرية لأوكرانيا، من بين مواضيع أخرى. على سبيل المثال، روج أحد مقاطع الفيديو قائلاً: “حتى أجهزة التشويش غير قادرة على إنقاذ دبابات أبرامز الأميركية”، في إشارة إلى الأجهزة التي تستخدمها الدبابات الأميركية لصد الصواريخ القادمة ــ وهو ما يعزز فكرة مفادها أن إرسال دروع عالية التقنية إلى أوكرانيا لا طائل من ورائه.
يشير التقرير إلى أن منشئي الفيديو استخدموا “على الأرجح” الذكاء الاصطناعي المولد بالصوت، بما في ذلك تقنية ElevenLabs، لجعل المحتوى الخاص بهم يبدو أكثر شرعية. وللتحقق من ذلك، أرسل باحثو Recorded Future المقاطع إلى ElevenLabs الخاصة مصنف الكلام بالذكاء الاصطناعي, والذي يوفر القدرة لأي شخص على “اكتشاف ما إذا كان قد تم إنشاء مقطع صوتي باستخدام ElevenLabs”، والحصول على تطابق.
لم يستجب ElevenLabs لطلبات التعليق. على الرغم من أن شركة Recorded Future لاحظت الاستخدام المحتمل للعديد من أدوات توليد الصوت التجارية التي تعمل بالذكاء الاصطناعي، إلا أنها لم تذكر أسماء أي أدوات أخرى إلى جانب ElevenLabs.
وقد تم عرض فائدة توليد الصوت بواسطة الذكاء الاصطناعي عن غير قصد من قبل منسقي حملة التأثير، الذين أصدروا ــ بشكل غير متقن ــ بعض مقاطع الفيديو التي تحتوي على تعليقات صوتية بشرية حقيقية تحمل “لكنة روسية واضحة”. في المقابل، تحدثت التعليقات الصوتية التي أنشأها الذكاء الاصطناعي بلغات أوروبية متعددة مثل الإنجليزية والفرنسية والألمانية والبولندية، دون أي لهجات تبدو أجنبية.
وفقًا لـ Recorded Future، سمح الذكاء الاصطناعي أيضًا بإصدار المقاطع المضللة بسرعة بلغات متعددة يتحدث بها في أوروبا مثل الإنجليزية والألمانية والفرنسية والبولندية والتركية (بالمناسبة، جميع اللغات مدعومة بواسطة ElevenLabs.)
ونسبت شركة Recorded Future هذا النشاط إلى وكالة التصميم الاجتماعي، وهي منظمة مقرها روسيا تابعة للحكومة الأمريكية يعاقب في شهر مارس/آذار الماضي، بتهمة تشغيل “شبكة تضم أكثر من 60 موقعًا إلكترونيًا تنتحل صفة مؤسسات إخبارية حقيقية في أوروبا، ثم تستخدم حسابات وسائل التواصل الاجتماعي الزائفة لتضخيم المحتوى المضلل للمواقع المخادعة”. وقالت وزارة الخارجية الأمريكية في ذلك الوقت إن كل هذا تم “نيابة عن حكومة الاتحاد الروسي”.
وخلصت شركة ريكورديد فيوتشر إلى أن التأثير الإجمالي للحملة على الرأي العام في أوروبا كان ضئيلا.
هذه ليست المرة الأولى التي يتم فيها تسليط الضوء على منتجات ElevenLabs بسبب سوء الاستخدام المزعوم. كانت تقنية الشركة وراء مكالمة آلية تنتحل شخصية الرئيس جو بايدن والتي حثت الناخبين على عدم الخروج والتصويت خلال الانتخابات التمهيدية في يناير 2025، حسبما خلصت شركة كشف الاحتيال الصوتي، وفقا لبلومبرج. ردًا على ذلك، قالت ElevenLabs إنها أصدرت ميزات أمان جديدة مثل حجب أصوات السياسيين تلقائيًا.
أحد عشر مختبرًا الحظر “انتحال الشخصية بشكل غير مصرح به أو ضار أو خادع”. يقول ويستخدم أدوات مختلفة لفرض ذلك، مثل الإشراف الآلي والبشري.
شهدت ElevenLabs نموًا هائلاً منذ تأسيسها في عام 2022. وقد زادت مؤخرًا معدل العائد السنوي إلى 80 مليون دولار من 25 مليون دولار أقل من العام السابق، وقد تبلغ قيمتها قريبًا 3 مليارات دولار، حسبما ذكرت TechCrunch سابقًا. ومن بين مستثمريها أندريسن هورويتز والرئيس التنفيذي السابق لشركة جيثب نات فريدمان.
