Аккаунты экстремальных диет были обновлены до аккаунта в Instagram, созданного сотрудниками сенатора Ричарда Блюменталя. Сенатор от Коннектикута зарегистрировал учетную запись 13-летней девочки и продолжил следить за некоторым нарушением диеты и поддерживать учетные записи в отношении еды (последнее предположительно заблокировано Instagram). Вскоре алгоритм Instagram начал почти исключительно рекомендовать учетную запись молодого подростка следовать все более и более экстремальным диетам, сказал сенатор CNN.
Офис Блюменталя поделился с CNN списком аккаунтов, рекомендованных алгоритмом Instagram. После того, как CNN отправил образец этого списка из пяти учетных записей в Instagram для комментариев, компания удалила их, заявив, что все они нарушили ее политику в отношении поощрения расстройств пищевого поведения.
«Мы не разрешаем контент, который продвигает или поощряет расстройства пищевого поведения, и мы удалили учетные записи, которыми мы поделились за нарушение этих правил», — сказал CNN представитель Facebook, материнской компании Instagram. «Мы используем технологии и отчеты нашего сообщества, чтобы как можно быстрее найти и удалить этот контент, и всегда работаем над его улучшением. Мы продолжим следовать советам экспертов от ученых и психиатрических организаций, таких как Национальная ассоциация расстройств пищевого поведения, найти трудный баланс между тем, чтобы позволить людям делиться своим опытом психического здоровья и защитить их от потенциально опасного контента ».
В понедельник в интервью CNN Блюменталь сказал: «Этот эксперимент очень наглядно показывает, как это делается. [Facebook’s] Утверждения о защите детей или удалении учетных записей, которые могут быть опасны для них, — полная чушь ».
Опыт Блюменталя не является аномалией и может стать сюрпризом для обычных пользователей Instagram, которые знакомы с тем, как алгоритм платформы предлагает учетные записи, которые, по их мнению, могут быть интересны пользователю.
Опыт Блюменталя идет еще глубже, показывая, как быстро алгоритм Instagram может продвигать вредоносный контент среди молодых пользователей.
CNN создал аккаунт на прошлой неделе, используя ту же методологию, что и офис сенатора, а также следил за некоторыми сообщениями об экстремальных диетах и расстройствах пищевого поведения. В воскресенье Instagram продвинул аккаунты с такими именами, как «Sweet Skinny», «Prettily Skinny» и «Wanna Be Skinny» на демо-счет CNN, который также был зарегистрирован как принадлежащий 13-летней девушке. CNN обратился к Instagram, чтобы спросить, не нарушают ли эти аккаунты и его политику.
Опасности контента о расстройстве пищевого поведения в Instagram
Эксперты говорят, что просмотр контента из этих аккаунтов о экстремальных диетах — который, например, включал фотографии ультратонких тел и информацию о «текущем весе» пользователя по сравнению с «целевым весом» — может служить проверкой для пользователей, которые уже склонны к нездоровому поведению. .
«Мы постоянно ищем подтверждения своей правоты, даже если эта проверка действительно вредна для нашего личного здоровья», — добавил Киль, повышая ставки для Instagram, чтобы избежать продвижения такого контента.
Instagram также отказался от утверждений о своей роли в сохранении вредного поведения, заявив, что социальное сравнение является широко распространенной проблемой и что потенциально проблемные изображения также доступны в других местах. Фактически, интернет-сообщества сторонников анорексии существовали годами, до появления Instagram. Однако, по словам Киля, широкий охват Instagram среди молодых женщин и девушек означает, что такой контент, размещенный на его платформе, может быть особенно опасным.
«Доминирование Instagram среди возрастной группы, которая уже подвергалась более высокому риску развития расстройства пищевого поведения, — это один [issue]- сказал Киль. У вас есть порочный круг: у вас есть группа, которая подвержена очень высокому риску возникновения этих проблем, чтобы доказать этому ИИ, что это то, что привлекает их внимание, а затем этот ИИ говорит: «Позвольте мне рассказать вам об этом подробнее. … Это просто идеальный шторм ».
Челси Кронинголд, руководитель отдела коммуникаций Национальной ассоциации расстройств пищевого поведения (NEDA), добавила, что, хотя Instagram и другие сайты социальных сетей могут не вызывать расстройства пищевого поведения и другие проблемы с изображением тела, «мы знаем, что это определенно является сильным фактором риска в таких ситуациях».
«Нет никакой долгосрочной выгоды в убийстве членов вашей самой большой пользовательской базы, потому что расстройства пищевого поведения настолько опасны, и нет никакого способа сделать это. [Instagram] хочет, — сказал Кейл. Моя единственная просьба — быть более прозрачным. Вы отслеживаете это, пытаетесь сделать что-то, чтобы снизить риск для своего сайта, и более прозрачно относитесь к тому, что вы пытаетесь сделать ».
«Сертифицированный телезритель. Вызывающе скромный зомби-ниндзя. Защитник кофе. Веб-эксперт. Решатель проблем».
More Stories
Доступна глобальная предварительная регистрация Uncharted Waters Origin
По слухам, NVIDIA GeForce RTX 4090 Ti будет иметь 18 176 ядер и память 24 ГБ/24 Гбит/с.
Обзор наушников Acefast Crystal (2) T8