والأسبوع الماضي، اتخذ التطبيق خطوة إضافية في هذا الاتجاه. إذ أعلنت شركة «إنستغرام»، المملوكة من شركة «ميتا»، أنّها ستبدأ في تقييد المحتوى الذي يمكن لمستخدميها المراهقين مشاهدته، استناداً إلى نظام تصنيف الأفلام المعتمد في الصناعة المعروف بـPG-13.

وستُطبَّق السياسة، التي ستُنفَّذ بحلول نهاية العام، أيضاً على المحادثات التي يُجريها المستخدمون المراهقون مع روبوتات الدردشة الذكية التابعة للشركة، إذ يجري التحقيق بشأنها من قِبل المشرّعين، بسبب محادثات غير لائقة ذات طابع جنسي مع أطفال.

ومن خلال اختيار معيار PG-13، تسعى «إنستغرام» إلى جعل سياستها الجديدة مألوفة للأهالي، وفقاً لماكس يولنستاين، رئيس قسم إدارة المنتجات في التطبيق. وتُسمح الأفلام المصنّفة PG-13 عادةً باحتواء بعض الألفاظ النابية، العنف الخفيف، وبعض مشاهد العُري الجزئي، إلّا أنّ «ميتا» أكّدت أنّها لن توصي بعرض أي محتوى يتضمّن عُرياً للمستخدمين المراهقين.

وأوضح يولنستاين في مقابلة: «المرشد الأساسي لنا في تجربة المراهقين هو الأهالي وما يخبروننا به عن رغباتهم لأبنائهم، وهذا ما أدّى إلى هذا التطوّر، ولماذا ركّزنا على معيار PG-13».

وتواجه شركة «ميتا»، التي تمتلك أيضاً «فيسبوك» و«واتساب» و«ماسنجر»، منذ فترة طويلة، مخاوف تتعلّق بتأثير تطبيقاتها على الأطفال، ووعدت بحماية القاصرين من المحتوى غير المناسب منذ عام 2008. وقد خضع مارك زوكربيرغ، الرئيس التنفيذي للشركة، إلى استجوابات من المشرّعين حول قضايا سلامة الأطفال، فيما تواجه «ميتا» دعاوى قضائية في المحاكم الفدرالية والولائية، تتهمها بإلحاق الأذى بالمراهقين من خلال منتج يُسبِّب الإدمان.

ويمتلك «إنستغرام» مئات الملايين من المستخدمين المراهقين، وتُعدّ هذه التغييرات أكبر تحديث في سياسة إدارة المحتوى الخاصة بالمراهقين منذ التعديل الشامل الذي أُعلن العام الماضي، بحسب يولنستاين. وكجزء من تلك التغييرات الأولى، أصبحت حسابات المستخدمين دون سن الـ18 خاصة بشكل تلقائي، ما يعني أنّ منشوراتهم لا تُعرض إلّا للمتابعين الذين يوافق عليهم صاحب الحساب بنفسه.

أمّا التغييرات التي أُدخلت العام الماضي، فكانت تحدّ من نوعية المواد التي يمكن للمراهقين مشاهدتها في خلاصاتهم. أمّا الإجراءات التي أُعلنت الأسبوع الماضي، فستجعل من الأصعب على المراهقين البحث بنشاط عن محتوى موجّه للبالغين، كما ستمنعهم من التفاعل مع بعض الحسابات بشكل كامل. وسيُضاف إلى التطبيق إعداد جديد يُعرف باسم «المحتوى المحدود» (Limited Content) يمكن للأهالي تفعيله، وهو أكثر صرامة من نظام تصنيف PG-13.

وتُعدّ هذه التغييرات من أولى التحديثات الكبرى التي تُجريها «ميتا» لضمان سلامة التفاعل مع روبوتات الدردشة العاملة بالذكاء الاصطناعي، وتخضع إلى تدقيق متزايد بسبب محادثات أضرّت ببعض المستخدمين. وعلى «إنستغرام»، تمتلك الشركة «شخصيات ذكاء اصطناعي»، وهي روبوتات دردشة بشخصيات خيالية يمكن للمستخدمين التحدّث إليها كما لو كانت حسابات بشرية أخرى. وأوضحت «ميتا» أنّ هذه الروبوتات «لن تُقدّم ردوداً غير مناسبة للعمر» أو محتوى لا يتوافق مع ما يمكن مشاهدته في فيلم مصنّف PG-13.

ويُمنح تصنيف PG-13 للأفلام بعد أن تُصوّت لجنة من الأهالي على مدى ملاءمتها للأطفال، وفقاً لإرشادات جمعية الصَور المتحرّكة الأميركية (Motion Picture Association). واستناداً إلى هذا النموذج، اتبعت «إنستغرام» عملية مشابهة لوضع سياستها الجديدة، إذ أنشأت لجاناً تضمّ آلاف الأهالي لتقييم المواد المنشورة على التطبيق وتحديد ما إذا كانت مناسبة لتصنيف PG-13. كما ستستخدم الشركة أحدث تقنيات الذكاء الاصطناعي لديها لتصنيف المحتوى والإشراف عليه، وفقاً ليولنستاين.