مستويات تزييف مقاطع الفيديو والصوت تجاوزت الحدود بسبب تقنيات الذكاء الاصطناعي. باراك أوباما كان آخر ضحايا هذه العمليات المضللة.
نشر أشخاص مقطع فيديو تم إنتاجه ببراعة على تطبيق TikTok ، حيث يمكن سماع صوت الرئيس الأمريكي الأسبق باراك أوباما، لكن الحقيقة أنه لم يكن صوته، وإنما كان خدعة متقنة تم إنشاؤها بواسطة الذكاء الاصطناعي، وباستخدام أدوات جديدة متطورة.
فقد أصبح متاحا تزييف وانتحال الصوت لإحدى الشخصيات العامة، واكتسبت الأصوات قوة جذب واسعة النطاق للمحتالين منذ أن أصدرت شركات مثل ElevenLabs قائمة من الأدوات الجديدة في أواخر العام الماضي. منذ ذلك الحين، سرعان ما أصبحت التزييفات الصوتية سلاحًا جديدًا في ساحة معركة المعلومات المضللة عبر الإنترنت، مما يهدد بتعزيز التضليل السياسي في أي معركة انتخابية في العالم.
وبعد شهرين من ظهور ChatGPT لأول مرة، أضافت شركة مايكروسوفت، المستثمر والشريك الرئيسي في OpenAI، روبوت دردشة مشابهًا، قادرًا على إجراء محادثات نصية مفتوحة حول أي موضوع تقريبًا، إلى محرك بحث Bing على الإنترنت. لكن ردود الروبوت المضللة والغريبة في بعض الأحيان هي التي جذبت الكثير من الاهتمام بعد إطلاقه.
خبراء ومختصون: الشركات الكبرى ستتنافس على مواهب وكفاءات الذكاء الاصطناعي التوليدي
وتساعد هذه الأدوات في تنشيط عمليات تزييف الأصوات على نطاق واسع، وهو ما أصبح ملحوظا على تطبيق تيك توك، الذي أصبح مكتظا بمقاطع الصوت والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
الأكثر خطورة أن العديد من هذه المقاطع تتضمن إساءة واضحة لسمعة الكثير من الشخصيات المستهدفة، فعلى سبيل المثال تم نشر مقطع فيديو مزيف لـ أوبرا وينفري يشير إلى أنها متورطة في تجارة الرقيق، والمؤسف أن هذه المقاطع تحقق نسبة مشاهدات مرتفعة للغاية.
من جانبها، قالت شركة "نيوزجارد" الأمريكية وفقا لصحيفة "نيويورك تايمز"، وهي شركة متخصصة في مراقبة المعلومات المضللة على مواقع التواصل الاجتماعي، إن استخدام الذكاء الاصطناعي في تزييف الأصوات يستهدف في الغالب إثارة القيل والقال والشائعات الفاضحة والتلاعب بالرأي العام ومشاركة الأكاذيب مع الجماهير عبر الإنترنت.
وذكر جاك بروستر المسئول بالشركة إنها طريقة لكسب متابعين من الجمهور الواسع لهذا المحتوى التآمري".
من جهتها، قالت TikTok إنها أزالت العديد من الحسابات ومقاطع الفيديو لانتهاكها السياسات المتعلقة بنشر المعلومات. كما أزالت الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يحاكي صوت باراك أوباما لانتهاكه سياسة المنصة.
نشر أشخاص مقطع فيديو تم إنتاجه ببراعة على تطبيق TikTok ، حيث يمكن سماع صوت الرئيس الأمريكي الأسبق باراك أوباما، لكن الحقيقة أنه لم يكن صوته، وإنما كان خدعة متقنة تم إنشاؤها بواسطة الذكاء الاصطناعي، وباستخدام أدوات جديدة متطورة.
فقد أصبح متاحا تزييف وانتحال الصوت لإحدى الشخصيات العامة، واكتسبت الأصوات قوة جذب واسعة النطاق للمحتالين منذ أن أصدرت شركات مثل ElevenLabs قائمة من الأدوات الجديدة في أواخر العام الماضي. منذ ذلك الحين، سرعان ما أصبحت التزييفات الصوتية سلاحًا جديدًا في ساحة معركة المعلومات المضللة عبر الإنترنت، مما يهدد بتعزيز التضليل السياسي في أي معركة انتخابية في العالم.
وبعد شهرين من ظهور ChatGPT لأول مرة، أضافت شركة مايكروسوفت، المستثمر والشريك الرئيسي في OpenAI، روبوت دردشة مشابهًا، قادرًا على إجراء محادثات نصية مفتوحة حول أي موضوع تقريبًا، إلى محرك بحث Bing على الإنترنت. لكن ردود الروبوت المضللة والغريبة في بعض الأحيان هي التي جذبت الكثير من الاهتمام بعد إطلاقه.
خبراء ومختصون: الشركات الكبرى ستتنافس على مواهب وكفاءات الذكاء الاصطناعي التوليدي
وتساعد هذه الأدوات في تنشيط عمليات تزييف الأصوات على نطاق واسع، وهو ما أصبح ملحوظا على تطبيق تيك توك، الذي أصبح مكتظا بمقاطع الصوت والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
الأكثر خطورة أن العديد من هذه المقاطع تتضمن إساءة واضحة لسمعة الكثير من الشخصيات المستهدفة، فعلى سبيل المثال تم نشر مقطع فيديو مزيف لـ أوبرا وينفري يشير إلى أنها متورطة في تجارة الرقيق، والمؤسف أن هذه المقاطع تحقق نسبة مشاهدات مرتفعة للغاية.
من جانبها، قالت شركة "نيوزجارد" الأمريكية وفقا لصحيفة "نيويورك تايمز"، وهي شركة متخصصة في مراقبة المعلومات المضللة على مواقع التواصل الاجتماعي، إن استخدام الذكاء الاصطناعي في تزييف الأصوات يستهدف في الغالب إثارة القيل والقال والشائعات الفاضحة والتلاعب بالرأي العام ومشاركة الأكاذيب مع الجماهير عبر الإنترنت.
وذكر جاك بروستر المسئول بالشركة إنها طريقة لكسب متابعين من الجمهور الواسع لهذا المحتوى التآمري".
من جهتها، قالت TikTok إنها أزالت العديد من الحسابات ومقاطع الفيديو لانتهاكها السياسات المتعلقة بنشر المعلومات. كما أزالت الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يحاكي صوت باراك أوباما لانتهاكه سياسة المنصة.