Instagram продвигал страницы, прославляющие расстройства пищевого поведения для подростковых аккаунтов

«Мы не разрешаем контент, который продвигает или поощряет расстройства пищевого поведения, и мы удалили учетные записи, которыми мы поделились за нарушение этих правил», — сказал CNN представитель Facebook, материнской компании Instagram. «Мы используем технологии и отчеты нашего сообщества, чтобы как можно быстрее найти и удалить этот контент, и всегда работаем над его улучшением. Мы продолжим следовать советам экспертов от ученых и психиатрических организаций, таких как Национальная ассоциация расстройств пищевого поведения, найти трудный баланс между тем, чтобы позволить людям делиться своим опытом психического здоровья и защитить их от потенциально опасного контента ».

В понедельник в интервью CNN Блюменталь сказал: «Этот эксперимент очень наглядно показывает, как это делается. [Facebook’s] Утверждения о защите детей или удалении учетных записей, которые могут быть опасны для них, — полная чушь ».

Опыт Блюменталя не является аномалией и может стать сюрпризом для обычных пользователей Instagram, которые знакомы с тем, как алгоритм платформы предлагает учетные записи, которые, по их мнению, могут быть интересны пользователю.

Опыт Блюменталя идет еще глубже, показывая, как быстро алгоритм Instagram может продвигать вредоносный контент среди молодых пользователей.

CNN создал аккаунт на прошлой неделе, используя ту же методологию, что и офис сенатора, а также следил за некоторыми сообщениями об экстремальных диетах и ​​расстройствах пищевого поведения. В воскресенье Instagram продвинул аккаунты с такими именами, как «Sweet Skinny», «Prettily Skinny» и «Wanna Be Skinny» на демо-счет CNN, который также был зарегистрирован как принадлежащий 13-летней девушке. CNN обратился к Instagram, чтобы спросить, не нарушают ли эти аккаунты и его политику.

Опасности контента о расстройстве пищевого поведения в Instagram

Эксперты говорят, что просмотр контента из этих аккаунтов о экстремальных диетах — который, например, включал фотографии ультратонких тел и информацию о «текущем весе» пользователя по сравнению с «целевым весом» — может служить проверкой для пользователей, которые уже склонны к нездоровому поведению. .

«Мы постоянно ищем подтверждения своей правоты, даже если эта проверка действительно вредна для нашего личного здоровья», — добавил Киль, повышая ставки для Instagram, чтобы избежать продвижения такого контента.

Instagram также отказался от утверждений о своей роли в сохранении вредного поведения, заявив, что социальное сравнение является широко распространенной проблемой и что потенциально проблемные изображения также доступны в других местах. Фактически, интернет-сообщества сторонников анорексии существовали годами, до появления Instagram. Однако, по словам Киля, широкий охват Instagram среди молодых женщин и девушек означает, что такой контент, размещенный на его платформе, может быть особенно опасным.

«Доминирование Instagram среди возрастной группы, которая уже подвергалась более высокому риску развития расстройства пищевого поведения, — это один [issue]- сказал Киль. У вас есть порочный круг: у вас есть группа, которая подвержена очень высокому риску возникновения этих проблем, чтобы доказать этому ИИ, что это то, что привлекает их внимание, а затем этот ИИ говорит: «Позвольте мне рассказать вам об этом подробнее. … Это просто идеальный шторм ».

Челси Кронинголд, руководитель отдела коммуникаций Национальной ассоциации расстройств пищевого поведения (NEDA), добавила, что, хотя Instagram и другие сайты социальных сетей могут не вызывать расстройства пищевого поведения и другие проблемы с изображением тела, «мы знаем, что это определенно является сильным фактором риска в таких ситуациях».

«Нет никакой долгосрочной выгоды в убийстве членов вашей самой большой пользовательской базы, потому что расстройства пищевого поведения настолько опасны, и нет никакого способа сделать это. [Instagram] хочет, — сказал Кейл. Моя единственная просьба — быть более прозрачным. Вы отслеживаете это, пытаетесь сделать что-то, чтобы снизить риск для своего сайта, и более прозрачно относитесь к тому, что вы пытаетесь сделать ».