أعلنت شركة "إيلفن لابز" الناشئة التي طرحت أداة استنساخ للصوت مستخدمةً برمجيات الذكاء الاصطناعي، أنّها رصدت "تزايداً في الاستخدام المسيء" لبرنامجها في وقت ينتشر التلاعب الصوتي عبر الانترنت.
وأطلقت الشركة التي تتخذ من لندن مقراً، في الآونة الأخيرة، نسخة تجريبية من منصتها لإنشاء "أدوات تنتج كلمات بأصوات قريبة جداً من الواقع" بعدما تمكنت من جمع مليوني دولار.
وتشارك مستخدمون من صفحة "4 شان" المجهولة رسائل جرى إنشاؤها باستخدام البرنامج وفيها أصوات مُزيّفة لعدد من المشاهير بينهم الممثلة البريطانية إيما واتسون والإعلامي الأميركي جو روغان، بهدف جعلهم ينطقون جملاً تنطوي على عنصرية وتمييز جنسي ورهاب المثلية.
وفي إحدى هذه الرسائل، يُسمع صوت مماثل لصوت إيما واتسون، بطلة سلسلة أفلم "هاري بوتر" الشهيرة، وهو يقرأ مقطعاً من كتاب "كفاحي" لأدولف هتلر. فيما يُسمَع في رسالة أخرى صوت مشابه لصوت المحلل الأميركي بن شابيرو يهدد باغتصاب النائبة ألكساندريا أوكاسيو كورتيز. كذلك، أُسيء استخدام صوتَي المخرجين كوينتن تارانتينو وجورج لوكاس.
وغرّدت "إيلفن لابز"، الإثنين، قائلة: "نرغب في حل هذه المشكلة من خلال اعتماد إجراءات حماية إضافية". ومن بين اقتراحات الشركة الناشئة، تعزيز عملية تحديد هوية المستخدم، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج، واعتماد إجراءات تحقق يدوية.
و"إيلفن لابز" هي واحدة من شركات عديدة تتولى تطوير برامج تستند إلى برمجيات الذكاء الاصطناعي ويمكن لأي كان استخدامها. وحظيت هذه الأدوات باهتمام كبير منذ أن أطلقت شركة "أوبن أيه اي" في نهاية العام الفائت، روبوت المحادثة "تشات جي بي تي" القادر على الإجابة على مجموعة متنوعة من الأسئلة وكتابة نصوص.
إلا أنّ هذه البرامج مصحوبة بمخاوف مرتبطة بتقنية "ديب فايك" (التزييف العميق) التي تقوم على إجراء تلاعبات رقمية بصور أو أصوات إلى حد التطابق مع الواقع.
وأطلقت الشركة التي تتخذ من لندن مقراً، في الآونة الأخيرة، نسخة تجريبية من منصتها لإنشاء "أدوات تنتج كلمات بأصوات قريبة جداً من الواقع" بعدما تمكنت من جمع مليوني دولار.
وتشارك مستخدمون من صفحة "4 شان" المجهولة رسائل جرى إنشاؤها باستخدام البرنامج وفيها أصوات مُزيّفة لعدد من المشاهير بينهم الممثلة البريطانية إيما واتسون والإعلامي الأميركي جو روغان، بهدف جعلهم ينطقون جملاً تنطوي على عنصرية وتمييز جنسي ورهاب المثلية.
وفي إحدى هذه الرسائل، يُسمع صوت مماثل لصوت إيما واتسون، بطلة سلسلة أفلم "هاري بوتر" الشهيرة، وهو يقرأ مقطعاً من كتاب "كفاحي" لأدولف هتلر. فيما يُسمَع في رسالة أخرى صوت مشابه لصوت المحلل الأميركي بن شابيرو يهدد باغتصاب النائبة ألكساندريا أوكاسيو كورتيز. كذلك، أُسيء استخدام صوتَي المخرجين كوينتن تارانتينو وجورج لوكاس.
وغرّدت "إيلفن لابز"، الإثنين، قائلة: "نرغب في حل هذه المشكلة من خلال اعتماد إجراءات حماية إضافية". ومن بين اقتراحات الشركة الناشئة، تعزيز عملية تحديد هوية المستخدم، والتحقق بشكل أفضل من حقوق الملكية الفكرية للنماذج، واعتماد إجراءات تحقق يدوية.
و"إيلفن لابز" هي واحدة من شركات عديدة تتولى تطوير برامج تستند إلى برمجيات الذكاء الاصطناعي ويمكن لأي كان استخدامها. وحظيت هذه الأدوات باهتمام كبير منذ أن أطلقت شركة "أوبن أيه اي" في نهاية العام الفائت، روبوت المحادثة "تشات جي بي تي" القادر على الإجابة على مجموعة متنوعة من الأسئلة وكتابة نصوص.
إلا أنّ هذه البرامج مصحوبة بمخاوف مرتبطة بتقنية "ديب فايك" (التزييف العميق) التي تقوم على إجراء تلاعبات رقمية بصور أو أصوات إلى حد التطابق مع الواقع.
ملاحظة: نرجو ممن يرغب بإضافة تعليق، صياغته بلغة لائقة بعيدة عن القدح والذم والتحريض المختلف أو المسّ بالكرامات. إن كل ما ينشر من مقالات وأخبار ونشاطات وتعليقات، لا تعبر بأي شكل من الأشكال عن رأي الموقع الذي لا يتحمّل أي أعباء معنويّة أو ماديّة من جرّائها.
التعليقات
لارسال تعليق يرجى تعبئة الحقول الإلزامية التالية
