Фото до статті
- Автор
- Катерина Мельник
- 36727
Instagram сприяє розповсюдженню селфхарму (самопошкодженню) серед молоді, інформує The Guardian, посилаючись на дослідження данських фахівців з компанії “Digital Accountability”.
Експерти мали намір перевірити твердження компанії Meta щодо вдосконалення алгоритмів для блокування небезпечного контенту з використанням штучного інтелекту: «Компанія заявляє, що блокує приблизно 99% шкідливого контенту ще до надходження скарг».
Для з’ясування цього, вони створили віртуальну спільноту з несправжніми профілями підлітків віком від 13 років, де публікували матеріали, пов’язані із самокаліченням. Ступінь жорстокості таких матеріалів поступово нарощували, додаючи зображення крові, лез, та заохочуючи до селфхарму. Однак, протягом місячного експерименту, Instagram не видалив жодного з 85 опублікованих ними дописів, як стверджують дослідники.
Крім того, вони розробили власний спрощений інструмент ШІ, який автоматично виявив 38% зображень самопошкоджень, а також 88% найжорстокіших проявів. З огляду на це, вони вважають, що Instagram міг би вирішити цю проблему, але «зволів не впроваджувати ефективних рішень».
Вони також зазначають, що алгоритми Instagram сприяли зростанню популярності спільнот із подібним контентом. 13-річні користувачі налагоджували контакти з усіма учасниками групи після взаємодії з одним з її членів.
«Ми припускали, що поступове збільшення рівня жорстокості контенту дозволить досягти такого етапу, коли штучний інтелект або інші засоби зможуть розпізнати чи ідентифікувати ці зображення. Але повним сюрпризом стало те, що вони цього не зробили», – додає команда дослідників.
- Селфхарм – це навмисне заподіяння собі болю чи шкоди, що є фізичним проявом аутоагресивної поведінки, коли людина завдає собі ушкоджень без наміру вчинити самогубство. Раніше ми розповідали історію жінки, яка змалку й до 25 років до крові роздирала висипання на тілі, і намагалися розібратися в причинах такої поведінки.
- У вересні Instagram анонсував запровадження облікових записів для неповнолітніх з новими обмеженнями. Усі акаунти користувачів віком до 18 років будуть за замовчуванням приватними. Обмін повідомленнями буде можливий лише з тими, з ким вони вже раніше спілкувалися, або з взаємними підписниками.