دعت مؤسسة خيرية رائدة معنية بحقوق الأطفال، رئيس الوزراء البريطاني ريشي سوناك، إلى معالجة قضية صورالانتهاكات الجنسية للأطفال المنتجة بواسطة الذكاء الاصطناعي، عندما تستضيف المملكة المتحدة أول قمة عالمية حول أمان استخدام الذكاء الاصطناعي الخريف المقبل.
وتزيل مؤسسة مراقبة الإنترنت "IWF" المحتوى المسيء الموجود في الإنترنت وقالت أن صور الذكاء الاصطناعي آخذة في الازدياد منذ بدأت برصد تلك الصور في أيار/مايو الماضي، فيما تم الكشف عن أن منتهكين في جميع أنحاء العالم يشاركون صوراً واقعية في بعض الأحيان حسبما نقلت هيئة الإذاعة البريطانية "بي بي سي".وعلقت الرئيسة التنفيذية للمؤسسة سوزي هارغريفز: "لا نرى هذه الصور حالياً بأعداد كبيرة، لكن من الواضح أن هناك إمكانية متاحة للمجرمين لإنتاج كميات غير مسبوقة من الصور التي تمثل انتهاكات جنسية للأطفال".وعرضت المنظمة على "بي بي سي" نسخاً معدلة من بعض الصور أظهرت فتيات يبلغن من العمر خمس سنوات تقريباً وهن عاريات، ويتخذن وضعيات جنسية، علماً أن المؤسسة واحدة من ثلاث جمعيات خيرية في العالم مرخصة للبحث عن محتوى إساءة معاملة الأطفال عبر الإنترنت.وبدأت المنظمة في رصد وتسجيل صور الذكاء الاصطناعي في 24 أيار/مايو وأفادت أنه بحلول 30 حزيران/يونيو أجرى المحللون تحقيقات في 29 موقعاً، وأكدوا وجود سبع صفحات تشارك صوراً من هذا النوع. ولم تؤكد المؤسسة الخيرية العدد الدقيق للصور، لكنها تقول أن العشرات من صور الذكاء الاصطناعي كانت منشورة مع مواد فيها انتهاكات جنسية، تتم مشاركتها على المواقع غير القانونية.بعض تلك الصور كان ما يصنفه الخبراء على أنه صور من الفئة "أ"، وهي الصور التي تمثل أكبر انتهاك ممكن. وبطبيعة الحال يعد إنشاء صور تنطوي على انتهاكات جنسية للأطفال أمراً غير قانوني في كل بلدان العالم تقريباً. وقالت هارغريفز: "لدينا فرصة الآن لاستباق مخاطر هذه التكنولوجيا الناشئة، لكن التشريعات والقوانين ينبغي أن تأخذ الأمر في عين الاعتبار، ويجب أن تكون هذه التشريعات مناسبة وحاسمة في ضوء هذا التهديد الجديد".وفي حزيران/يونيو، أعلن سوناك عن خطط للمملكة المتحدة لاستضافة أول قمة عالمية حول أمن وسلامة استخدام الذكاء الاصطناعي. وتعهدت الحكومة البريطانية بجمع الخبراء والمشرعين للنظر في مخاطر الذكاء الاصطناعي ومناقشة كيفية التخفيف من حدتها من خلال إجراءات تُنسق دولياً. وكجزء من عملهم، يسجل محللو مؤسسة "IWF" التوجهات والنشاطات المشبوهة، مثل الارتفاع الأخير في ما يسمى بمحتوى "الإنشاء الذاتي"، حيث يحتال المنتهكون على الأطفال لإجبارهم على إرسال مقاطع فيديو أو صور لأنفسهم.وقالت المؤسسة أنها تشعر بالقلق من أن الصور المسيئة المنتَجة بواسطة الذكاء الاصطناعي باتت أمراً متزايد الحدوث، رغم أن عدد الصور المكتشفة يبقى صغيراً مقارنة بالأشكال الأخرى للمحتوى المسيء. وفي العام 2022، رصدت المرسسة أكثر من 250 ألف صفحة عبر الإنترنت تحتوي على صور انتهاكات جنسية بحق الأطفال.قام المحللون أيضاً بتسجيل المحادثات في المنتديات بين المنتهكين، الذين شاركوا نصائح حول كيفية إنتاج صور الأطفال بحيث تبدو واقعية. وتوصل المحللون إلى أدلة حول كيفية خداع الذكاء الاصطناعي للتمكن من رسم صور من هذا النوع، وكيفية تحميل نماذج للذكاء الاصطناعي ذات مصادر مفتوحة متاحة للجميع، وكيفية إزالة حواجز ووسائل الأمان التي تكون موجودة عادة في تلك المصادر.ورغم أن معظم منشئي صور الذكاء الاصطناعي لديهم قواعد صارمة لمنع المستخدمين من إنشاء محتوى بكلمات أو عبارات محظورة، إلا أنه يمكن تحميل النماذج والمواقع المفتوحة والمتاحة للجميع مجاناً، وتعديلها كما يريد المستخدم. والمصدر الأكثر شيوعا هو "Stable Diffusion"، حيث تم إصدار الرمز الخاص به عبر الإنترنت ليكون متاحاً للعامة في آب/أغسطس 2022 من قبل فريق من أكاديميي الذكاء الاصطناعي الألمان.وتحدثت "بي بي سي" إلى شخص يستخدم نسخة متخصصة من برنامج "Stable Diffusion" لإنتاج صور جنسية للفتيات في سن ما قبل المراهقة. وزعم الرجل الياباني أن صوره "اللطيفة" لها ما يبررها، وقال أنها "المرة الأولى في التاريخ التي يمكن فيها إنتاج صور للأطفال من دون استغلال أطفال حقيقيين". لكن الخبراء يؤكدون أن تلك الصور يمكن أن تسبب أضراراً جسيمة.وعلق الدكتور مايكل بورك، المتخصص في قضايا مرتكبي الجرائم الجنسية والاستغلال الجنسي للأطفال في الوكالة الفيدرالية لإنفاذ القانون في الولايات المتحدة: "ليس لدي أدنى شك في أن الصور التي أُنتجت بواسطة الذكاء الاصطناعي ستزيد من هذه الميول، وتعزز هذا الانحراف، وستؤدي إلى ضرر أكبر ومخاطر أكبر لإلحاق الأذى بالأطفال في جميع أنحاء العالم".لكن دافع البروفيسور بيورن أومر، أحد مطوري برنامج "Stable Diffusion" الرئيسيين، عن قراره بجعل البرنامج مصدراً مفتوحاً متاحاً للجميع. وقال أن المئات من مشاريع البحث الأكاديمي أُنجزت منذ ذلك الحين، بما في ذلك ما حققه العديد من الشركات المزدهرة. ورأى أومر أن ذلك تأكيد على صواب قراره وقرار فريقه، ويؤكد على أن وقف البحث أو التطوير ليس هو الحل المناسب.وأكمل أومر: "نحتاج بالفعل إلى مواجهة حقيقة أن تطور الذكاء الاصطناعي تطورعالمي، ولن يوقف منعه هنا تطوير هذه التكنولوجيا عالمياً في البلدان الأخرى التي ربما تكون مجتمعاتها غير ديموقراطية. نحتاج إلى تحديد خطوات وتدابير مناسبة لقوننة هذه التكنولوجيا التي نشهد تطورها بسرعة مذهلة".
وتزيل مؤسسة مراقبة الإنترنت "IWF" المحتوى المسيء الموجود في الإنترنت وقالت أن صور الذكاء الاصطناعي آخذة في الازدياد منذ بدأت برصد تلك الصور في أيار/مايو الماضي، فيما تم الكشف عن أن منتهكين في جميع أنحاء العالم يشاركون صوراً واقعية في بعض الأحيان حسبما نقلت هيئة الإذاعة البريطانية "بي بي سي".وعلقت الرئيسة التنفيذية للمؤسسة سوزي هارغريفز: "لا نرى هذه الصور حالياً بأعداد كبيرة، لكن من الواضح أن هناك إمكانية متاحة للمجرمين لإنتاج كميات غير مسبوقة من الصور التي تمثل انتهاكات جنسية للأطفال".وعرضت المنظمة على "بي بي سي" نسخاً معدلة من بعض الصور أظهرت فتيات يبلغن من العمر خمس سنوات تقريباً وهن عاريات، ويتخذن وضعيات جنسية، علماً أن المؤسسة واحدة من ثلاث جمعيات خيرية في العالم مرخصة للبحث عن محتوى إساءة معاملة الأطفال عبر الإنترنت.وبدأت المنظمة في رصد وتسجيل صور الذكاء الاصطناعي في 24 أيار/مايو وأفادت أنه بحلول 30 حزيران/يونيو أجرى المحللون تحقيقات في 29 موقعاً، وأكدوا وجود سبع صفحات تشارك صوراً من هذا النوع. ولم تؤكد المؤسسة الخيرية العدد الدقيق للصور، لكنها تقول أن العشرات من صور الذكاء الاصطناعي كانت منشورة مع مواد فيها انتهاكات جنسية، تتم مشاركتها على المواقع غير القانونية.بعض تلك الصور كان ما يصنفه الخبراء على أنه صور من الفئة "أ"، وهي الصور التي تمثل أكبر انتهاك ممكن. وبطبيعة الحال يعد إنشاء صور تنطوي على انتهاكات جنسية للأطفال أمراً غير قانوني في كل بلدان العالم تقريباً. وقالت هارغريفز: "لدينا فرصة الآن لاستباق مخاطر هذه التكنولوجيا الناشئة، لكن التشريعات والقوانين ينبغي أن تأخذ الأمر في عين الاعتبار، ويجب أن تكون هذه التشريعات مناسبة وحاسمة في ضوء هذا التهديد الجديد".وفي حزيران/يونيو، أعلن سوناك عن خطط للمملكة المتحدة لاستضافة أول قمة عالمية حول أمن وسلامة استخدام الذكاء الاصطناعي. وتعهدت الحكومة البريطانية بجمع الخبراء والمشرعين للنظر في مخاطر الذكاء الاصطناعي ومناقشة كيفية التخفيف من حدتها من خلال إجراءات تُنسق دولياً. وكجزء من عملهم، يسجل محللو مؤسسة "IWF" التوجهات والنشاطات المشبوهة، مثل الارتفاع الأخير في ما يسمى بمحتوى "الإنشاء الذاتي"، حيث يحتال المنتهكون على الأطفال لإجبارهم على إرسال مقاطع فيديو أو صور لأنفسهم.وقالت المؤسسة أنها تشعر بالقلق من أن الصور المسيئة المنتَجة بواسطة الذكاء الاصطناعي باتت أمراً متزايد الحدوث، رغم أن عدد الصور المكتشفة يبقى صغيراً مقارنة بالأشكال الأخرى للمحتوى المسيء. وفي العام 2022، رصدت المرسسة أكثر من 250 ألف صفحة عبر الإنترنت تحتوي على صور انتهاكات جنسية بحق الأطفال.قام المحللون أيضاً بتسجيل المحادثات في المنتديات بين المنتهكين، الذين شاركوا نصائح حول كيفية إنتاج صور الأطفال بحيث تبدو واقعية. وتوصل المحللون إلى أدلة حول كيفية خداع الذكاء الاصطناعي للتمكن من رسم صور من هذا النوع، وكيفية تحميل نماذج للذكاء الاصطناعي ذات مصادر مفتوحة متاحة للجميع، وكيفية إزالة حواجز ووسائل الأمان التي تكون موجودة عادة في تلك المصادر.ورغم أن معظم منشئي صور الذكاء الاصطناعي لديهم قواعد صارمة لمنع المستخدمين من إنشاء محتوى بكلمات أو عبارات محظورة، إلا أنه يمكن تحميل النماذج والمواقع المفتوحة والمتاحة للجميع مجاناً، وتعديلها كما يريد المستخدم. والمصدر الأكثر شيوعا هو "Stable Diffusion"، حيث تم إصدار الرمز الخاص به عبر الإنترنت ليكون متاحاً للعامة في آب/أغسطس 2022 من قبل فريق من أكاديميي الذكاء الاصطناعي الألمان.وتحدثت "بي بي سي" إلى شخص يستخدم نسخة متخصصة من برنامج "Stable Diffusion" لإنتاج صور جنسية للفتيات في سن ما قبل المراهقة. وزعم الرجل الياباني أن صوره "اللطيفة" لها ما يبررها، وقال أنها "المرة الأولى في التاريخ التي يمكن فيها إنتاج صور للأطفال من دون استغلال أطفال حقيقيين". لكن الخبراء يؤكدون أن تلك الصور يمكن أن تسبب أضراراً جسيمة.وعلق الدكتور مايكل بورك، المتخصص في قضايا مرتكبي الجرائم الجنسية والاستغلال الجنسي للأطفال في الوكالة الفيدرالية لإنفاذ القانون في الولايات المتحدة: "ليس لدي أدنى شك في أن الصور التي أُنتجت بواسطة الذكاء الاصطناعي ستزيد من هذه الميول، وتعزز هذا الانحراف، وستؤدي إلى ضرر أكبر ومخاطر أكبر لإلحاق الأذى بالأطفال في جميع أنحاء العالم".لكن دافع البروفيسور بيورن أومر، أحد مطوري برنامج "Stable Diffusion" الرئيسيين، عن قراره بجعل البرنامج مصدراً مفتوحاً متاحاً للجميع. وقال أن المئات من مشاريع البحث الأكاديمي أُنجزت منذ ذلك الحين، بما في ذلك ما حققه العديد من الشركات المزدهرة. ورأى أومر أن ذلك تأكيد على صواب قراره وقرار فريقه، ويؤكد على أن وقف البحث أو التطوير ليس هو الحل المناسب.وأكمل أومر: "نحتاج بالفعل إلى مواجهة حقيقة أن تطور الذكاء الاصطناعي تطورعالمي، ولن يوقف منعه هنا تطوير هذه التكنولوجيا عالمياً في البلدان الأخرى التي ربما تكون مجتمعاتها غير ديموقراطية. نحتاج إلى تحديد خطوات وتدابير مناسبة لقوننة هذه التكنولوجيا التي نشهد تطورها بسرعة مذهلة".
ملاحظة: نرجو ممن يرغب بإضافة تعليق، صياغته بلغة لائقة بعيدة عن القدح والذم والتحريض المختلف أو المسّ بالكرامات. إن كل ما ينشر من مقالات وأخبار ونشاطات وتعليقات، لا تعبر بأي شكل من الأشكال عن رأي الموقع الذي لا يتحمّل أي أعباء معنويّة أو ماديّة من جرّائها.
التعليقات
لارسال تعليق يرجى تعبئة الحقول الإلزامية التالية

