Всемирный экономический форум в швейцарском Давосе, проходивший с 21 по 24 января, посетили около 5 тысяч чиновников, бизнесменов и общественных деятелей из 117 стран мира. Среди его участников — и президент США, и Грета Тунберг. Это не случайно: по словам основателя форума Клауса Шваба, именно экологическая тема превалирует в повестке ВЭФ. Эту же тему — хотя и с технологическим уклоном — поднял в своей блестящей и эмоциональной речи популярный израильский историк и футуролог Юваль Ной Харари.
По мере того, как мы вступаем в третье десятилетие XXI века, перед нами встает еще больше вопросов и проблем. Сложно даже осознать, на каких из них стоит сфокусироваться в первую очередь. Я бы предложил сосредоточиться на трех проблемах, которые представляют экзистенциальную угрозу для человечества. Это ядерная война, экологическая катастрофа и технологический крах. С первыми двумя мы более-менее знакомы, поэтому подробнее остановлюсь на третьей.
Здесь, в Давосе, мы часто говорим о многообещающих технологиях, но они также могут разрушить человеческое общество и подорвать существование жизни на планете — причем разными способами: от создания класса «бесполезных людей» до установления информационного колониализма и цифровых диктатур.
Бесполезные люди
Автоматизация скоро лишит миллионы людей работы, сделав их бесполезными. Пока что непонятно, насколько быстро они смогут получить новые навыки, чтобы быть востребованными на рынке труда. И людям придется переизобретать себя не единожды, а постоянно — чтобы оставаться на плаву. ИИ-революция будет не единичным крупным явлением, после которого рынок труда сможет восстановиться, — это будет целый каскад все более и более крупных проблем. Если раньше люди сражались против эксплуатации, то теперь им придется бороться со своей невостребованностью — а быть нерелевантным на рынке труда куда хуже, чем быть эксплуатируемым.
Те, кто в этой битве проиграет, и составят новый класс «бесполезных людей» — не с точки зрения их друзей и близких, а с точки зрения экономической и политической системы. Разрыв между этим классом и наращивающей мощь элитой будет увеличиваться. ИИ-революция создаст беспрецедентное неравенство не только между классами, но и между странами.
слабовато Юваль выступает,
надо было так: выживут крысы, построят свою цивилизацию, а потом над остатками выживших и деградировавших людей поставят опыт под названием "Вселенная-25".
«...Гонка ИИ-вооружений уже в полном разгаре, и впереди – США и Китай. Если мы не вмешаемся и не начнем равномерно распределять все преимущества ИИ, он обогатит высокотехнологичные компании – в то время как целые страны станут банкротами или информационными колониями...»
Интересно, кто такие эти «мы», которые должны вмешаться и перебороть и Китай и США? И как эти «мы» будут на практике «равномерно распределять все преимущества ИИ»???
А меня занимает сейчас вопрос: а почему человечество не стремится к единому всемирному государству с единым языком межчеловеческого общения (китайский, английский, эсперанто - о каком договорятся) при возможном факультативном использовании любых национальных языков. Неужели до человечества до сих пор не дошло, что Земля - очень небольшая и хрупкая планета, подверженная огромному количеству рисков, включая мировые войны, глобальное потепление и т.п. Национализм - губительное увлечение, не достойное современного мира.
Я не говорю, что все это можно быстро реализовать - на это может потребоваться не один десяток лет. Но двигаться туда необходимо, иначе все кончится плохо.....
С одной стороны раздробленность человека на государства, националистической и пр. провоцирует войны. Но с другой - конкуренция, благодаря которой создаются современные гаджеты, медицина, наука...
Объединившись будет монополия. К добру ли это?
"А меня занимает сейчас вопрос..."
наверное, потому что вариативность обеспечивает лучшую выживаемость. Единое человечество уязвимо к изменениям (меньшая вариативность поведенческих моделей), не созидательно (не конкурентно), непредсказуемо (не находится в равновесии между игроками).
"Национализм - губительное увлечение, не достойное современного мира."
Почему?
Что раздражает в "публичных интеллектуалах" (в т.ч. и Харари), так это регулярные попытки выдать давно существующие, "стандартные" идеи за откровение. Ну вот:
"Напротив, глобализм означает соблюдение некоторых глобальных правил, которые регулируют отношения между нациями".
Ну да, 100 лет назад под это, именно с таким посылом, сделали "Лигу Наций", как вершину периода глобализации конца XIX-начала XX в. Спасибо, кэп.
Но есть и заявления, от которых разводишь руки. Ну вот:
"В XX веке люди использовали промышленные технологии для создания различных обществ – от фашистской диктатуры до либеральной демократии".
Ну серьезно: "промышленные технологии" развиваются как часть общества, в котором есть много разных сил, проблем, и т.п. И их нельзя "использовать для создания общества", того или иного. Надеюсь, это косяк в переводе, и Харари мыслит менее дикими категориями.
я читал в оригинале часть его книг. он именно так дико и мыслит. харари вообще довольно прямолинеен в своих выводах, что наводит на мысль, что он не очень-то понимает то, как в действительности развивается общество
Очередная чушь
Когда людей освободят машины, опять станут востребованы гуманитарные науки.
Гуманитарии в первую очередь на смазку роботам пойдут! =)) Вместе с комбайнерами и сталеварами. Но перед таксистами и водителями фур.
В чем Харари прав точно - 99% людей (включая его самого) не понимают как работает современная государственная финансовая система, тк всех вводят в заблуждение, тем что это очень сложный процесс, простым людям лучше не лезть в него. А факт в том, что необеспеченное печатание фиатных денег, и является одним из главных дестабилизирующих факторов в мире. Политика заменяет экономику.
Покупайте и изучайте Биткоин!
Харари не первый. Мандельштам когда-то написал: "Были мы люди, а стали людье". Для сильных мира сего люди давно стали разменным материалом, для бизнеса - издержками на заработную плату и социальные налоги. Это особенно хорошо видно в России. Странно, что об этом говорит ученый из Израиля. Там, вроде бы пока люди представляют ценность. История с Наами Иссахар наглядно показала нам отношение к людям у нас и у них.
Реакция на Харари, сегодня как индикатор. Правый. Левый. Консерватор. Либерал.
В последнее время одно упоминание имени Юваля Харари (впрочем, как и Греты Тунберг) вызывает обостренную реакцию у российской общественности, включая (за редким исключением) ее либеральное крыло. Самые распространенные ярлыки - алармист и современный луддит. Между тем, редко кто взял на себя труд прочитать все его книги. Возможно, стоит посмотреть последние дискуссии в Давосе с его участием, если нет времени читать, например https://www.youtube.com/watch?v=eOsKFOrW5h8, в том числе с Тристаном Харрисом https://www.youtube.com/watch?v=FluIi30nzjE&t=51s, чтобы составить собственное мнение о его взглядах. Вот еще https://www.youtube.com/watch?v=UTchioiHM0U&t=202s, записанное в Королевском географическом обществе в 2015 https://www.youtube.com/watch?v=UTchioiHM0U&t=202s. Не обязательно соглашаться с ним во всем (самой часто хочется вступить с ним в дебаты), но можно бы постараться понять его аргументы хотя бы для того, чтобы спорить по существу. Порой кажется, что мы живем в глухой информационной провинции, в отрыве от глобальных трендов. У нас собственная гордость - подумаешь, Харари приглашают для дискуссий с Кристин Лагард или премьер-министром Австрии в качестве поп-звезды. В этом и проблема - на Западе политики прислушиваются к интеллектуалам и хотя бы частично учитывают общественное мнение при принятии решений, в то время как у нас за общественное мнение выдаются лакейские приседания услужливых представителей общества, от одиозных фигур до вполне себе интеллектуалов.
ну это здорово, что харари понимает как строится пиар и маркетинг в области желтых книжек, но люди мыслящие не обязаны его за это уважать
Я читал его книги. Из всех угроз для современной цивилизации он правильно отмечает только одну - угроза массового применения ядерного оружия. По сравнению с этим и экологические проблемы, и роботизация/цифровизация/алгоритмы - это проблемы и риски на порядок меньшие. Но он их раздувает до необъятных размеров.
Ну представьте, вышел бы чувак и сказал - "Ну да, есть некоторые проблемы, время как всегда ставит перед нами ставит вызовы, но мы не знаем точно насколько остро все это отразится на нас. А в целом, по крайней мере сейчас, человечество находится в наибольшей безопасности чем когда-либо". Ну кому это будет интересно, кто такого в пророки возьмет? А тут крысы, апокалипсис... Совсем другое дело. Неудобные вопросы? Эта игра нравится в том числе и тем кому эти "неудобные" вопросы задают, они прекрасно себя чувствуют. Как те дядьки в ООН на которых Грета ругалась - поаплодируют и все.
Я тоже не согласна с прогнозом, что выжившие крысы будут учиться на наших ошибках. Новая цивилизация будет считать себя совершенной и непревзойденной.
Александр, ваше мнение, конечно, гораздо более ценно, чем Харари. Вам нужно немедленно сообщить ему, что вы обо всем думаете.
Argumentum ad verecundiam - одна из старейших логических ошибок. И очень характерна для абсолютистского (читай - тоталитарного) типа сознания. Ценность мнения определяется только степенью его обоснованности и, следовательно, убедительности - а вовсе не тем, кто его произнес или в каком писании оно изложено.
Я полностью согласен с вашим утверждением, но не контекстом, в котором оно сделано. Обоснованность мнения в утверждении, о котором я высказался, ровно нулевая.
Ценность мнения определяется только степенью его обоснованности и, следовательно, убедительности /// ага, и в комментарии господина школьникова, как я понимаю, прозвучало более обоснованное и убедительное мнение, чем у харари?
Обоснованность и убедительность мнения о большей опасности накопленных ядерных боеприпасов по сравнению со всеми остальными рисками основывается на простом факте:
сопоставление людских смертей и разрушений в случае взрыва одного из тысяч ядерных боеприпасов и имеющейся статистики экологических катастроф или оценки издержек от безработицы, связанной с роботизацией.
ну и где сам факт? очередная аксиома на пустом месте. взрывов нет, а экологические проблемы мы получаем в нарастающем объеме. проблемы, вызываемые роботизацией, пока впереди, но они тоже точно будут, ибо роботизация, в отличие от взрывов, неизбежна. вопрос лишь в том, какими будут ее последствия. я, к слову, тоже полагаю, что страхи несколько преувеличены, какие-то встряски и кризисы будут, но довольно быстро все устаканится и человечество в итоге выиграет, как и от внедрения станков, которых тоже поначалу боялись.
Не прозвучало - и вопрос "обоснуйте Ваше" был бы справедлив. А предложенный как контраргумент ad verecundiam - нет.
Не стоит обобщать. Скажу за себя - я читал все его книги и смотрел выступление в Давосе. Другие, каюсь, не смотрел. Но давайте переведём разговор из сферы оценочной в сферу конкретики - какие конкретно аргументы Харари кажутся убедительными и почему? А аллергию - особенно у либеральной (в европейском, не в американском смысле) части - и на Грету, и на Харари вызывает именно их абсолютная безапелляционность и абсолютная уверенность в собственной правоте, претензия на истину, не требующую доказательств. А это стандартная черта именно тоталитарного мышления, в какой-бы идеологической обертке оно не являлось.
Кстати, вот хороший пример когда новоявленные пророки абсолютных истин проявляют абсолютно рациональную адаптивную гибкость.
Берем английское издание 21 Lessons for the 21 Century и читаем "The Russian government and President Putin personally denied several times that these were Russian troops and described them as spontaneous ‘self-defence units’ who acquired a uniform similar to the Russian [one] in local stores.... When they made such rather ridiculous statements, Putin and his associates knew perfectly well that they were lying.” А теперь берем русское издание того же, и с интересом замечаем, что этот пункт полностью заменен абзацем о том, сколько раз президент Трамп соврал (конечно по оценкам Вашингтон Пост). Замену одобрил сам Харари, и разумеется исключительно "to enable my ideas and messages to easily reach people from various countries", никакой это не компромисс и не прогиб. Безапеляцеонными претензиями на истину хорошо козырять там, где можно быть уверенным, что в ответ ничего неприятного не прилетит, а скорее даже в Давос позовут. Как в детском анекдоте о том, что СССР не был тоталитарной страной без свободы слова - ведь и в Вашингтоне, и на Красной площади можно кричать "долой президента США" - и ничего с тобой не случится :).
И еще интересный момент о Харари. Если читать его Сапиенс - то в видении Харари это история адаптации и выживаемости нашего вида практически любой ценой. Занятно, что в апокалиптической версии будущего нашего вида он особо не озаботился обоснованием тезиса о том, как и почему наш вид резко потеряет адаптивность.
Сергей, а откуда мнение, что позиция Харари (а можете и многих других популяризаторов истории и социологии добавить) подкреплена уверенностью в своей правоте. Человек имеет определённую точку зрения, умеет ее доносить до адресата, нашел для этого правильные каналы. Вас бесит, что научпоп так быстро и несправедливо завоевывает популярность? Ну так не читайте.
И да, Харари алармист. Что в этом плохого? На фоне общей эйфории, связанной с рывком технологий, наличие и такого голоса вполне имеет право на жизнь
Повторюсь: далеко не во всем согласна с оценками Харари. Согласна с его постановкой вопроса - кто, каким образом и с какой целью применяет новые технологии, в частности ИИ; в чьих руках окажутся инструменты тотального контроля. В случае, например, Китая - это social scoring, с помощью которого можно превращать в изгоев оппозиционеров, а не только повышать кредитоспособность законопослушных граждан.
Далее, разработчики ИИ - живые люди со своими пристрастиями, предпочтениями и предубеждениями. Уже сегодня первичный отбор кандидатов на работу в крупные компании производят компьютерные программы, но именно люди задают параметры поиска. В Amazon, например, выяснилось, что эти программы дискриминируют определенные группы соискателей.
Это ИИ направляет таргетированную рекламу, включая политическую, пользователям поисковиков и соцсетей. Не все юзеры способны фильтровать контент. Это означает, что появился еще один мощный инструмент манипулирования, которому трудно противостоять. В руках авторитарных режимов - это опасное оружие, в руках технологических монополистов - это один из видов эксплуатации человеческих ресурсов с точки зрения эффективной продажи их личной информации, слабостей и предпочтений рекламодателям.
Сама я в начале карьеры в бизнесе верила в силу свободного рынка и придерживалась вульгарного толкования теории эволюции - выживают сильнейшие. На самом деле выживают те, кто способен адаптироваться к постоянно меняющейся среде и новым технологиям. Сегодня я понимаю, что не все имеют равный доступ к образованию и переподготовке, а стало быть и возможности к адаптации, поэтому поддерживаю опасения Харари по поводу появления бесполезного, с точки зрения бизнеса, класса. Будут ли правительства поддерживать программы непрерывного образования взрослых, чтобы те могли в течение всей трудовой жизни получать новые знания и умения? Его пример - как можно ожидать, что 50-летний водитель грузовика за одну ночь овладеет, скажем, навыками программирования или приобретет квалификацию тренера йоги. Куда пойдут оставшиеся за бортом, не возьмутся ли они за дубину и направят ее в сторону того, кто окажется под рукой - чуть более успешных? Может, безопаснее и в итоге дешевле для общества предусмотреть финансирование программ их переквалификации?
Суммируя, мне не кажется, что Харари позиционирует себя как пророка - носителя истины в последней инстанции. Скорее, он умеет задавать неудобные для политиков и крупного бизнеса вопросы, реакция на которые и будет в какой-то степени формировать повестку будущего.
Уже интреснее. Я понимаю, что мы все читали 1984 и нам всем знаком образ Большого Брата. Но.
О "контроле над технологиями" - в вопросе "кто контролирует ИИ" есть что-то новационное и неудобное? он сильно отличается, скажем, от вопроса "кто контролирует ядерные технологии"? Разве о прессе Гуттенберга не задавался тот же вопрос - "кто контролирует что и для кого будет печататься"? Здесь для начала стоит задаться вопросом - а что мы, собственно, понимаем под "контролем" (тем более тотальным, если такой вообще возможен).
Об "инструменте манипулирования" - и в этом вопросе нет ничего инновацинного, этот же вопрос ставился даже о ксероксе, когда они (если кто помнит) все состояни на учете в конторе. Церковь задавала тот же вопрос и о том же самом прессе... Здесь стоит задаться вопросом почему "манипулирование" вообще так сильно привязано к тому, что мы называем human nature. Тут я еще раз порекомендую книжку Конниковой The Confidence Game - потому, что она легко читается, в ней хорошие ссылки на более фундаментальные исследования, и еще Мария успешно демонстрирует многие озвученные ей механизмы человеческой психики за покерным столом :).
Об "ИИ". И здесь с Харири можно спорить - пророчество о том, что ИИ заменит все, даже самые творческие, конгитивные функции и в конечном итоге станет способных эти функции контролировать основано на допущении о полной редуцируемости человеческого сознания - включая эмоции, интуицию, чувства - до уровня восроизводимого машиной алгоритма, до “biochemical mechanisms", вытекающих из "“billions of neurons calculating”. А это куда как спорное допущение он совершенно ничем не обосновывает. И с ним не согласятся прежде всего многие биологи и особенно нейробиологи. Damassio (кто интересуется ИИ не может его не знать и не читать как минимум Self Comes To Mind) в сврей последней книге прямо заявил, что допущения Харири "not scientifically sound", а его выводы "certainly wrong" (подробности - The Strange Order of Things, Pantheon 2018, 9 фунтов на амазоне.юк). Кстати, аналогичным подходом Харири грешит на протяжении и всего "Сапиенса" - позиционирует (выборочные) научные догадки как полноценные научные гипотезы, гипотезы - как общепринятые научные теории и т д.
Об эволюции. Так это всегда было об адаптации. "Survaval if the fittest" вообще никогда не было равнозначно survival of the strongest, поэтому и сам Дарвин не возражал против такой терминологии Спенсера для описания механизма естественного отбора. Термин не используется в современной биологии отчасти от того, что в современном английском fit чаще ассоциируется именно с physical fitness, отчасти от его недостаточной четкости (survival - не единственный параметр естественного отбора).
Можно дальше и больше.
Но помимо позиционирования себя как смелого либерального интеллектуала, задающиего "новые и неудобные" вопросы стандартным букам западных левых - бизнесу и демократическому государству (Сечину и Путину он таких вопросов не только не задает, от еще и абзацы неудобные подредактирует) - какие, собственно, новые, неудобные и обоснованные фактурой вопросы ставит Харири? Кроме тех, из которых следут, что упраление "повесткой будущего" должна срочно вернуться в руки либеральных (теперь уже в американском смысле) западных элит? А на чем, собственно, основаны претензии этих самых элит? На том, что у них есть единственно правильное, верное и исторически неизбежное учение только что не от Маркса (Христа, Заратустстры, кого угодно с претензией на окончательные истины), а от Харири? ИМХО, такой хариризм левых элит скорее связан с травмой внезапного осознания как далеко они отдрифтовали от внезапно обнаружевшегося демократического большинства. И от защитной реакции разъяснить этому неумным неэлитам, как они неправы.
Приводить оценки в виде certainly wrong - это, конечно, не безапелляционность
вот как сам Харари объясняет эти нестыковки в различных версиях книги https://republic.ru/posts/94275
Разумеется, оттуда и есть приведенная мною цитата про "to enable my ideas and messages to easily reach people from various countries". Точнее, из английского оригинала https://www.theguardian.com/books/2019/jul/26/yuval-noah-harari-admits-approving-censored-russian-translation-sapiens. Вы действительно находите более развернутое объяснение более убедительным? ИМХО, в таком случае тому же Пастернаку следовало бы немного переписать Доктора Живаго, чтобы он быстрее до читателя дошел. В несколько кастрированном виде, но быстрее...
ну уничтожим друг друга с помощью технологий, что ж теперь.
а раньше, конечно, все жили в мире и благоденствии, уничтожений не было...
Жупел «автоматизация сделает людей бесполезными» жуется минимум со времён появления ткацкого станка, может раньше. Как будто «автоматизация» началась вчера и как будто за это время рыночные экономики не создали миллионы рабочих мест для профессий, которые не снились ни догуттенберговским монахам, ни ткачам-луддитам, ни утесовским «водителям кобыл». Извините, но такая футурология просто паразитирует на нормальном человеческом опасении неопределенности «завтра», превращая его в тревожность. При этом ещё и создаёт новые рабочие места для таких вот футурологов. Хотя это совсем не новая профессия, разумеется. Возьмите знаменитую книжку римского клуба The Limits to Growth - в 1972 она много шуму сделала (и карьер с грантами тоже). И прочтите ее сегодня.
Вообще вся эта футурологическая пояска напоминает известную историю о том, как Ходжа Насреддин взялся учить эмирского ишака чтению писания. И тут уж надо выбирать кем быть - ишаком, который сильно тревожится от того, что вдруг не успеет приспособиться к этой новой технологии, эмиром, который щедро платит этакому вот футурологу - или же Ходжой, который прекрасно понимает, что через 20 лет умрет либо ишак, либо эмир, либо он сам. В плане монетизации наших страхов и неуверенности в будущем футурология - достойный конкурент более традиционных религий.
Дело в том, что во времена ткачей-луддитов технологии менялись в течении десятилетий, а сейчас мы можем наблюдать даже не революцию, а технологический взрыв, за которым многие не поспевают. Так что, на мой взгляд, проблема есть и на неё стоит обратить внимание пока она не переросла в большие проблемы описаные автром.
Льюис Пол и Джон Уайатт получают патент на то, что можно считать первым современным ткацким станком, в 1738 году. Первые фабрики с использованием этого станка: 1741 Бирмингем, 1742 Нортхэмптон, 1744 Леонминстер, 1744 снова Бирмингем. Ричард Аркрайт получает патент на свой станок в 1769 году. Первые фабрики на основе его технологии - Ноттингэм 1768, 1771 Кромфорд, к 1782 г - в Дарби, Лестере, еще в Ноттингэме, Вустере, Стаффорде, Йорке, Хартфорде и Ланкашире. А знаете как быстро железные дороги заменили каналы? То есть так чтоб полностью. И так далее, так что не стоит недооценивать скорость изменения (и что важнее - внедрения) новых технологий во времена английской промышленной революции. А также создание новыми технологиями новых профессий и рабочих месет.
Отсюда второй момент - не совсем ясно скорость внедрения и каких именно технологий и за какой период считать "технологическим взрывом", но статистики о том, каких профессий не существовало еще 10-15 лет назад и сколько в них занято сейчас - сколько угодно. В том числе и тех, что были созданы тем самым "технологическим взрывом" - ну вот хотя бы https://www.digitaldoughnut.com/articles/2019/april/10-jobs-that-didnt-exist-10-years-ago
Проблема в том, что на обыденном уровне мы думаем о рынке как о zero sum game. И на бытовом уровне это может и допустимо, но на космическом уровне обобщений Харари - никак нет.
То есть 100 лет назад технологического взрыва не было? Ну OK.
(По мне так нынешний до того близко не дотягивает)
Современные скорости развития технологий оцениваются слишком оптимистично. Да, за 30 лет скорость проникновения интернета выше, чем скорость электрификации в начале прошлого века (но если мы учтём необходимые инвестиции на одну точку в одном и другом случае, то этот фактор уже говорит не в пользу интернета).
Или сравните скорость, с которой распространялся бензиновый и дизельный двигатель, со скоростью, с которой электродвигатель распространяется на транспорте (а без перехода на аккумуляторы и электродвигатели невозможно движение к беспилотному транспорту - самому мощному "жупелу" техноалармистов).
Никто же не говорит, что все "пророчества" сбудется. Товарищ описывает несколько вариантов развития будущего, вероятность у них есть, везде разная. Но ценность именнт в обнажении рисков и в том, чтобы ими озаботиться, нет?
Он не просто обнажает риски - он утверждает, что они сбудутся с преобладающей вероятностью в ближайшие годы/десятилетия и принесут крайне опасные для цивилизации последствия. Вот в этом и сомнения.
Чуваку надо к психиатру, от повышенной тревожности полечиться, а не книжки писать и на давосе выступать.