Иллюстрация: Unsplash.com
В прошлом году Нина Норгаард — кандидат наук в IT-университете Копенгагена — еженедельно исследовала сексизм и оскорбление женщин в социальных сетях. Норгаард и ее команда оплатили труд семерых людей, которые изучали тысячи постов в фейсбуке, на реддите и в твиттере. Их задачей было выявить количество записей, которые содержат в себе сексизм, домогательства или гендерные стереотипы. Раз в неделю на протяжении полугода группа Норгаард встречалась, чтобы обсудить проблему мизогинии, проще — женоненавистничества.
Согласно крупнейшему исследованию Plan International 2020, более 50% женщин из 22 стран мира заявили, что подвергались оскорблениям или домогательствам в интернете. А каждая пятая женщина, столкнувшаяся с жестоким обращением, сократила или вовсе прекратила пребывание в сети. По результатам опроса, наиболее часто сексизм встречается в фейсбуке, далее следуют инстаграм, WhatsApp и твиттер. Это исследование показало, что онлайн-атаки на женщин, как правило, строятся на ненормативной лексике, бодишейминге и угрозах сексуального насилия.
Социальные сети используют искусственный интеллект для выявления и удаления постов, которые унижают, оскорбляют или призывают к насилию в отношении женщин, однако мизогиния в интернете остается очень серьезной проблемой. Исследователи не могут определить стандарт сексистских записей. В одной из научных работ предлагались четыре категории проблемного контента, в другой же выделяли 23 категории. К тому же большинство исследований проводятся на английском языке, поэтому представители других культур часто не могут опираться на эти субъективные решения.
Датские ученые решили испробовать другой подход, наняв Норгаард и еще семерых человек для проверки и маркировки постов в социальных сетях. Они сознательно выбирали людей разных возрастов и национальностей, с разными политическими взглядами, чтобы уменьшить вероятность предвзятости. В команде были такие люди, как разработчик ПО, экоактивист, актриса и медицинский работник. Норгаард же должна была привести их к консенсусу.
И что же не отражена роль изменения климата в развитии мизогинии?
"Социальные сети используют искусственный интеллект для выявления и удаления постов, которые унижают, оскорбляют или призывают к насилию в отношении женщин, однако мизогиния в интернете остается очень серьезной проблемой. Исследователи не могут определить стандарт сексистских записей." — это и не удивительно. Язык является гибким, постоянно меняющимся инструментом, а интерпретация слов к тому же сильно зависит от контекста, который далеко не всегда присутствует в проверяемых текстах в полном объеме. Иногда он вообще может существовать только в головах субъектов коммуникации, не попадая в текст. Поэтому в полной мере данная задача принципиально неразрешима даже с помощью самого совершенного ИИ. Помимо проблемы контекста удаление постов — это борьба со следствиями, а не с причиной мизогинии. Такой подход также заведомо не в состоянии решить эту (или любую подобную) проблему. Но при этом удаление постов само по себе является актом цензуры, что противоречит принципам базовых свобод, во имя которых эта цензура осуществляется. И противоречие это неустранимо.
Поэтому трудно не согласиться с Мэри Грей. Такие системы ИИ можно использовать разве что для автоматической маркировки подозрительного текста, причем такая маркировка должна быть опциональной — с согласия пользователя информационной платформы, который этот текст собрался прочитать.
На мой взгляд, для эффективной борьбы с мизогинией заходить нужно совершенно с другой стороны — со стороны воспитания. Проблема тут в том, что этот путь чрезвычайно сложен. Он натыкается на вековые привычки и традиции, корнями уходящие в первобытные инстинкты, связь которых с мизогинией (и другими негативными социальными явлениями) на первый взгляд неочевидна. Объективация и сексуализация женщин во многих культурах начинается еще в детском возрасте, когда девочек отделяют от мальчиков в гетерогенную социальную группу, программируют на строго определенные (в т.ч. будущие) женские роли, приучают к определенной одежде и манере поведения. Для успешной борьбы с мизогинией все эти традиции необходимо демонтировать, постепенно отказаться от них. Процесс этот, конечно же, небыстрый. И по нему еще только предстоит достигнуть общественного консенсуса.
Помимо этого, существует и другая сторона проблемы: объективация и сексуализация женщины — часть естественного процесса работы репродуктивного механизма мужчины, которому для нормального функционирования необходимо воспринимать тело женщины как сексуальный объект. Бороться с этим механизмом, пытаясь его "отменить" (в значении cancel culture) — столь же бессмысленно, сколь бессмысленно пытаться "отменить" механизм питания (включая чувство голода, сигнализирующее о потребности организма в еде). Вместо этой бесплодной борьбы можно, например, популяризировать идею идеологического разделения человека на субъектную личность (с ее безусловными базовыми правами) и тело, которое даже по отношению к собственной личности является объектом, набором биологического материала, находящимся в эксклюзивной и пожизненной собственности этой личности. При таком разделении обективация тела женщины уже не будет являться объективацией самой женщины как личности с ее субъективными и эксклюзивными правами на это тело и, соответственно, сама по себе не будет посягательством на какие-либо из этих прав. То есть, рассматривать тело женщины как сексуальный объект будет вполне нормально при условии понимания, что у этого тела есть законный и бессменный владелец в виде личности этой женщины, и безусловного признания приоритета всех ее прав по отношению к этому телу.
Также подобное разделение позволит снять определенные табу с некоторых направлений развития сексуальной индустрии, ускорив его. Например, с направления так называемых sex dolls обоих полов (в т.ч. с различными степенями ИИ), используемых в качестве сексуальных объектов для удовлетворения соответствующих потребностей людей. Поскольку куклы не обладают личностью, они не обладают и субъектностью, а, следовательно, и правами, которые можно было бы нарушить. Конечно, если говорить про ИИ, то тут возникает вопрос, что делать, когда ИИ таких "кукол" достигнет человеческого уровня. Ответ тут очевиден — признавать их людьми со всеми субъектными правами личности. Ну или просто не делать кукол с таким высоким уровнем ИИ. Но человечеству до этого еще весьма далеко. Если следовать предлагаемому пути, то к тому времени, как это произойдет, мизогиния (и сопутствующие проблемы в виде насилия и т.д.) с большой вероятностью будет уже побеждена.
"... еще в детском возрасте, когда девочек отделяют от мальчиков в гетерогенную социальную группу...". Эммммм, а может в гомогенную? Это ж они с мальчиками были в гетерогенной группе.
Имелось в виду — гетерогенную по отношению к мальчикам. Сам факт этого разделения приводит к формированию социальной гетерогенности, которая выходит далеко за пределы биологических различий, порождая в том числе и мизогинию. За переделами биологии эта гетерогенность не предопределена, она конструируется социумом. То есть, мальчики и девочки не рождаются в разных (гомогенных) группах, гетерогенных друг другу — их туда помещают. Для родителей все их дети находятся в одной (вполне себе гомогенной) группе «наши любимые дети», последующее разделение происходит под давлением общества.
Получил истинное удовольствие, читая Ваш пост:)
Проблема лишь в том, что социальная психология не является аксиоматической наукой... Впрочем, возможно, это вовсе даже не проблема, а наоборот, достоинство - мне, например, не очень хотелось бы жить в мире, где никто никого не обижает и не оскорбляет (ввиду того, что все подобного рода проблемы уже решены). Ведь это же мир без эмоций - он тусклый и скучный:( (Кстати, хотя бы частично полноценный ИИ без эмоций тоже невозможен)
Спасибо, но не могу полностью с вами согласиться :) Социология как и психология, конечно, не относится к точным наукам, но всё же несколько основополагающих аксиом там имеется. Насчёт общества, где никто никого не оскорбляет – это дело вкуса, однако, если бы ваши права при этом нарушались, думаю, вряд ли вам это нравилось бы. Ну и, соответственно, поощрять общество, в котором оскорбление является индикатором систематического нарушения прав – сомнительное решение. Наверняка есть немало людей, которые получали бы удовольствие от гладиаторских (или петушиных) боев, к примеру. Но такие бои вряд ли можно считать этически допустимыми. Это просто как пример того, что соблюдение прав одних людей все-таки важнее получения удовольствия другими.
:))
Никто не говорит ни про каких гладиаторов, но вот каким образом петушиные бои нарушают права других людей? Это я положительно не понимаю, хотя сам и не являюсь любителем удовольствий подобного рода:)
Относительно прав... в том числе моих собственных...
Права могут быть выражены материально (право на жизнь, пропитание, образование, медицинское обслуживание, крышу над головой, а также право на труд и даже право на отдых). Но есть и права, касающиеся чисто духовной сферы (право на представительство в выборных органах, свобода вероисповедания, свобода слова, свобода мнений).
Как Вы знаете, в СССР большое внимание уделялось первой группе прав и существенно ущемлялись права духовные. Это в принципе и понятно: обеспечить ВСЕМ очень значительный объём материальных прав, не ущемляя никого в тех или иных свободах (эта дилемма хорошо проанализирована Достоевским в Легенде о Великом Инквизиторе). При этом, ограничив фундаментальные свободы, СССР весьма преуспел в обеспечении всеобщности прав материальных (над этим можно сколько угодно смеяться, однако если не принимать во внимание КАЧЕСТВО, то обеспечение населения элементарными материальными правами, за исключением отдельных кризисных моментов, было почти тотальным.
Западная традиция, напротив, ставит во главу угла чисто духовные права, что развилось в более или менее целостную концепцию Прав Человека. При этом из всей совокупности материальных прав там признаётся в основном право на личную безопасность.
Мне, как человеку, выросшему и сформировавшемуся в СССР, странно было бы отрицать всю совокупность материальных прав, однако вот здесь я Вас удивлю. Дело в том, что я как-то чисто бессознательно сделал достаточно необычный шаг, а именно, остался в Москве после окончания университета и прожил здесь 40 лет без прописки, лишив себя тем самым почти всей совокупности материальных прав, гарантированных системой. Ведь все они были привязаны именно к прописке, в значительной степени остаются таковыми и сейчас, хотя процесс эрозии идёт - например, пару лет тому назад по инициативе нынешней власти от прописки было отвязано избирательное право (предыдущие, более либеральные властители до этого как-то не догадались:).
Я думаю, Вы представляете, что жизнь моя в материальном плане была очень и очень непростой. Однако - и здесь я Вас удивлю во второй раз - в результате я обеспечил себе фактически всю совокупность ПРАВ ЧЕЛОВЕКА! (за исключением разве что избирательного права, но его мне и в постсоветский период приобрести не удалось, так что это несчетово:) Да-да, я свободно общался с кем вздумается, говорил, что хочу, читал всю официально запрещённую в СССР литературу и никогда не подвергался никаким репрессиям со стороны властей. Возможно, я просто такой заколдованный везунчик, однако сам я всё же склонен в этом усматривать всё же некий символизм. Типа того, что отказавшись от первой корзины прав, я взамен получил вторую (в то время как большинство знакомых вполне логично выбрали первую корзину).
Возможно, Вы спросите, для чего я всё это здесь написал? Я отвечу...
Западный мир очень неплохо обеспечен материальными благами, причём вовсе вовсе не благодаря соблюдения прав человека и прочих гуманитарных ценностей, а как раз-таки благодаря тому, что в СССР принято было называть "звериным оскалом капитализма" (это отдельная тема и я не настроен обсуждать её в этом посте). Обеспечен настолько хорошо, что может позволить себе миллионами принимать и "вскармливать" разнообразных мигрантов - великолепно, но это не наш кейс, МЫ НЕ МОЖЕМ! У нас в стране пока напряжёнка с материальной сферой. При этом государство последовательно старается обеспечить минимальным набором материальных прав как минимум ПОСЛУШНЫХ граждан. Более того, НЕПОСЛУШНЫЕ тоже в большинстве своём могут оставаться таковыми и преспокойно жить друг с другом в гей-парах (и даже ребёнка усыновить за взятку, я думаю, можно), печатать чуть ли всё, что угодно, налепив себе на лоб ярлык иностранного агента, и т.д. и т.п. Правда, в последнем случае вы будете отрезаны от совокупности благ, гарантий и мер защиты, обеспечиваемых государством, но если вы выбираете свободу (точно так же, как выбрал её я при СССР), то вы должны быть готовы к тому, чтобы "испить чашу сию". И я Вас уверяю, это вовсе не так страшно, как кажется - я пробовал, знаю:)
Если же всерьёз говорить о свободах, то Богом человеку дарована исключительно одна свобода - свобода воли, она же свобода выбора. И вот как раз эту свободу я и хотел бы сохранить за нашими соотечественниками в первую очередь. В первую голову я здесь имею в виду свободу выбора одной из двух корзин: или материальных прав (вкупе со всевозможными государственными мерами поддержки и гарантиями, а также при обязательном условии соблюдения тех обычаев, которые сложились в стране), или прав человека (вкупе со всеми перипетиями борьбы за эти права - тем ценнее они тогда для вас будут:).
В комментарии сложно упомянуть все нюансы — у животных тоже есть права, это имелось в виду.
.
Ваша мысль про права понятна, однако, я не согласен с вашим разделением на примере СССР и Запада. В СССР доступ ко всем правам (и к материальным, и к нематериальным) действительно был почти у всех социальных групп, но он был жестко ограничен идеологией и государством, которое тотально контролировало объём этих прав (исключение составляла одна группа — политическая элита). На Западе ситуация была сильно другой — там была настоящая свобода в реализации многих прав (включая материальные — пресловутое право частной собственности является одной из основ западного общества), но доступ к их реализации был не у всех социальных групп (классический аутсайдер — темнокожие в США). Сейчас ситуация примерно та же, с той лишь разницей, что Запад работает над своими ошибками, расширяя доступ к правам на все социальные группы, а Россия просто копирует тотальный контроль СССР, стагнирует, все сильнее отставая в развитии.
.
Ваша отсылка к тому, что лично вы в СССР умудрялись быть свободны, никак не характеризует систему в целом. В системе, которая действительно гарантирует базовые права и свободы, все граждане имеют равный доступ к ним вне зависимости от их везения, наличия у них денег на взятку или каких-то иных факторов. В СССР такой системы не было. В современной России она начала было формироваться в конце прошлого века, но сейчас все откатывается назад к существовавшим в СССР жёстким отграничениям и это весьма печально. Surviving isn’t living.
Права политической элиты в СССР были существенно более ограничены, чем права простых граждан: у этих людей вообще не было ни свободы слова, ни свободы вероисповедания, ни даже свободы мысли, а их доступ к материальным благам не мог демонстрироваться на публику, что в высокообеспеченных слоях воспринимается очень болезненно.
С другой стороны единственным материальным правом, которое гарантировано людям на Западе, является право частной собственности, в то время как доступ ко всем остальным материальным правам там жёстко ограничен объёмом этой самой частной собственности, находящейся в вашем распоряжении.
В настоящее же время Запад, вроде как пытается устранить системные перекосы в объёме прав, вытекающие главным образом (хотя и не исключительно) из перекосов в распределении частной собственности. Делается это посредством всевозможных компенсационных мер, структурированных по групповому признаку, но монетизация этих льгот не предусмотрена, так как "ущемлённые" слои просто вульгарно пропьют и "проторчат" эти деньги (и это все отлично понимают). В результате картина носит несколько сюрреалистический характер - впору вводить квоты на бесплатное обучение в университетах для проституток и наркоманов:):(
Да, и с лозунгом "surviving isn't living" я тоже никак не могу согласиться, ибо единственным продуктом жизни (living) является сформированная личность, при этом ничто не формирует её настолько же эффективно, как постоянное выживание (surviving).
"Ферсини и ее коллеги объявили конкурс на прошлой неделе, чтобы улучшить обнаружение искусственным интеллектом мемов с объективацией, призывами к насилию, бодишеймингом и другими видами женоненавистничества"
= = =
Товарищи! Никогда еще борьба с мемами не была такой актуальной! Все на борьбу с мемами!!!
На мой взгляд, весьма символичны и сама статья и комментарии к ней...
Статья достаточно ярко демонстрирует как сам предмет озабоченности "исследователей", так и уровень "научно-технической мысли":)
"Команда Норгаард проверила около 30 тысяч сообщений, 7,5 тысячи из которых были признаны оскорбительными." Другими словами, примерно 25% постов содержат в себе те или иные оскорбления (хотя, может быть, это из-за того, что у них в Дании оскорблением считается уже даже непризнание самой проблемы - насколько я понял, именно это и есть неосексизм:)). И тут вмешивается Мэри Грей, которая считает недопустимым фильтровать и маркировать эти оскорбительные посты при помощи какого-то примитивного ИИ - нет, это всё надо "передавать посреднику, а не автоматизировать принятие решений с помощью ИИ"!! То есть нужно нанять миллионы модераторов, чтобы они могли более тщательно анализировать все эти миллиарды потенциально оскорбительных постов:))
Чувствуете замах? Значит, мы тут будем качать нефть и выплавлять сталь, китайцы будут шить им кроссовки и собирать айфоны, индусы будут писать для них софт, а белые господа будут... модерировать наши посты в соцсетях:))
Это по поводу самой статьи...
А поводу комментариев могу сказать лишь то, что мне представляется крайне странным баланс лайков и дизлайков под данной статьёй - прямо такое впечатление, что почти все сплошь комментаторы - какие-то православные активисты:))
"это может привести, например, к случайному бану активистов Black Lives Matter на фейсбуке вместо сторонников превосходства белых".
Наверное, это самая смешная часть статьи. Спасибо автору за это!
"Антрополог и старший научный сотрудник Microsoft Мэри Грей считает, что сообщения, которые считаются потенциально женоненавистническими, следует помечать, а затем передавать посреднику, а не автоматизировать принятие решений с помощью ИИ. По словам Грей, это
!!!
может привести, например, к случайному бану активистов Black Lives Matter на фейсбуке вместо сторонников превосходства белых.
!!!
Для компаний, занимающихся социальными сетями, это большое препятствие, так как означает, что одни только технологии не смогут решить проблему."
.
Ребята вообще не палятся ни разу.
Прочитал аннотацию в рассылке и хочется сказать: "хоспади, да 100% мужчин подвергались оскорблениям и даже домогательствам в интернете". Коммент из разряда "не читал, но осуждаю", конечно, но уже надоели эти попытки бороться с проблемами, для решения которых в современном мире нет ни времени, ни возможностей, ни реальной необходимости. Интернет на западе и так уже цензурирован донельзя, а кто-то предлагает ещё больше алгоритмов добавить, чтобы "активистов Black Lives Matter от сторонников превосходства белых" отличать.
Зато™ активист BLM может безнаказанно оскорблять женщин в интернете (особенно белых), все что нужно вам знать об этих активист(к)ах.
Но особо волноваться не стоит, ИИ они не осилят, в силу отсутствия своего И.
Есть ли ссылка на упоминаемый конкурс? ( "Ферсини и ее коллеги объявили конкурс на прошлой неделе") Может быть имеется ввиду https://www.kaggle.com/c/jigsaw-toxic-comment-classification-challenge/overview/description?
≈ Дорогая, ты не права.
≈ Ах, я не права, значит, я вру. Значит, я брешу. Значит, я — собака. Мама, он меня сукой назвал!
Пусть посчитают, сколько процентов мужчин оскорбляют в интернете)))
Очередное grievance study не поддающееся воспроизведению или проверке — попытка объективно оценить то, что принципиально субъективно на выборке из 182 студентов (это при условии, что в каждой встрече участвовали разные респонденты) за 26 часов интервью. "Датские учёные" полгода получали зарплату за то, что, с точки зрения науки, занимались заведомой чепухой. Однако "исследования обид" — это золотая жила с точки зрения бюджетов. Все 100% женщин и 100% мужчин когда либо обижались (в интернете или вне его, в общем-то не важно). И так будет всегда. А значит можно исследовать обиды вечно. И бороться с ними можно до тех пор, пока они признаны проблемой. Кстати, почему они признаны проблемой? Или почему отсутствие женоненавистнических оскорблений признано маркером отсутствия сексизма? И как измерять сексизм если запретить оскорбления или выражение мнения на эту тему? И достижима ли в принципе эта цель — отсутствие сексизма? Я не уверен. Но если и достижима, то точно не через попытку просто заткнуть рот женоненавистникам. Есть способы получше. Например, сексизм очень сильно сдал с тех пор как женщины массово вышли на рынок труда. (И, кстати, вышли они туда не в результате борьбы пламенных борцов и запретов на обидные слова, а потому, что появились детские сады, памперсы и стиральные машины).
"а потому, что появились детские сады, памперсы и стиральные машины"
Которые придумали мужчины)))