Иллюстрация: pixabay.com
Пересказ книги австралийского философа Тоби Орда «Обрыв» (The Precipice: Existential Risk and the Future of Humanity).
40-летний автор числится в Оксфордском университете, консультирует ВОЗ, Всемирный банк, Всемирный экономический форум, а также считается ключевой фигурой для движения эффективного альтруизма.
Он уже не первый год изучает глобальные вопросы, стоящие перед человечеством. В своей предыдущей работе он затрагивал этические проблемы бедности во всем мире, итогом стало его личное обещание перечислять 10% своего дохода в наиболее эффективные благотворительные фонды, помогающие улучшать мир. С этой целью он создал организацию Giving What We Can, члены которой (а их более 4600) пожертвовали уже $126,7 млн и пообещали в течение жизни пожертвовать более $1,5 млрд.
Его новая работа крайне убедительно освещает важнейшую тему – как нашему виду удастся справиться с экзистенциальными рисками, которые мы сами же для себя и создаем, считает Стюарт Расселл, автор книги «Искусственный интеллект: современный подход». «Тоби Орд – сегодняшний Карл Саган. Его ясная и вдохновляющая книга оставляет надежду на процветание человечества», – утверждает Кристин Петерсон, одна из основателей НКО Foresight Institute.
«Многие люди недавно обнаружили, что хотят читать книги о том, что стоит перед человечеством. Такие как “Sapiens” Юваля Ноя Харари. Новая книга Тоби Орда вносит свой вклад в этот жанр и также заслуживает того, чтобы стать бестселлером», – считает рецензент Evening Standard.
Контекст
Впервые за всю свою историю мы имеем потенциал для самоуничтожения, уверен философ Тоби Орд. И с дальнейшим развитием человечества этот потенциал будет увеличиваться. В своей книге он рассматривает концепцию Обрыва – периода в человеческой истории, когда мы наиболее уязвимы перед глобальными катастрофами.
При этом Орд не сомневается в величии человека как вида. Но если мы не позаботимся о защите от экзистенциальных катастроф сейчас, говорит он, то наши потомки не проживут те миллионы и миллиарды лет, что они могут прожить как представители самого (по крайней мере, пока) умного и находчивого вида на планете, а возможно, и во всей Вселенной.
"Вероятность суперизвержения <...> примем ее за 1/200 для средних супервулканов и 1/600 для крупного."
В течение какого периода времени? День, год, столетие? Без нормального определения события значение вероятности НИЧЕГО не значит.
И так по всей статье, а читатель должен сидеть и гадать, налажал ли автор-алармист, некомпетентный переводчик, или студент, надёргавший из книжки реферат.
На "вскидку" исследование не кажется глубоким. Да, есть супервулканы. Но ядро Земли потихонечку остывает, значит будущие извержения будут не такими сильными. Измение климата - как следствие антропогенной деятельности возможно - да что в этом нового? Климат на планете меняется с завидной периодичностью, потепления сменяются ледниковыми периодами. Даже первобытный человек сумел приспособиться к предыдущему глобальному потеплению (11 тыс. лет назад), когда температура поднялось на какие-то несколько сот лет на 14 градусов. ИИ - это угроза более надуманная, есть с чем сравнивать -триста лет назад люди боялись (и разрушали) машины. ИИ существует в другой среде, цели и способ его существования настолько разнятся с нашим бытием, что можно говорить лишь о точках соприкосновения. Это только в кино робот появляется лтшь для того, чтобы взбунтоваться.
Я вижу опасности - пусть даже не катастрофические - в перенаселенности планеты, в деградации людей и т.п. - но это мое субъективное мнение...
То есть ядерная зима сгладит глобальное потепление. Выход найден.
А кто-нибудь вообще верит, что человечество покорит другие планеты, космос и тп и будет существовать тысячи лет?
https://www.youtube.com/watch?v=kmuX5_MoC38
вот к этому сейчас ученые склоняются, и я тоже
с космосом совсем плохо все обстоит, никуда мы не улетим с Земли похоже(
Честно попытался послушать этого товарища (Липунова), но не смог, увы. Так "тянуть резину" - ну это же просто невозможно слушать.
А что касается внеземных цивилизаций - то тут у меня давно вполне твердое мнение: мы никогда не узнаем, существуют они или нет.
Почему? Да потому что, довольно очевидным образом, для возникновения жизни требуется множество условий, от химического состава планеты до чрезвычайной (миллиарды лет) стабильности центральной звезды. Есть еще и такая гипотеза - что очень важную роль в возникновении жизни на Земле сыграл наш спутник (приливы и пр.). Вот, стало быть, еще и Луна непременно требуется... В общем, почти невероятное сочетание условий.
Это, конечно, вовсе не значит, что других цивилизаций однозначно нет - Вселенная очень большая (может быть, бесконечная?), и где-то еще такие условия могут быть. Но это однозначно говорит о том, что они (если есть) так далеко, что обнаружить там жизнь никакими средствами не удастся.
Ну, тут можно, конечно, удариться в научно-фантастическую романтику - что будут открыты какие-нибудь совершенно новые методы наблюдения и средства связи и т.д.
Но это - романтика, практически - невозможно.
Если все так, как вы говорите, то это совпадение невероятное, что сложились все факторы, шанс на триллион, и мы существуем, а других нет и никогда не было? Там утверждается, что если бы жизнь другая и существовала, то ее невозможно не заметить и она бы шумела, как и мы, радиоволнами на всю вселенную, но все молчат. Отсюда вывод, что они, возможно и были, но сами себя уничтожили, что и нам предстоит, либо мы единственные, и объяснить рационально невозможно, почему мы одни на всю вселенную. То что кто-то есть, но его невозможно обнаружить - отметается. Мы шумим и нас можно легко отовсюду найти.
вот как рационально объяснить, что мы есть, но больше никого нет?
Я бы не стал утверждать, что больше никого нет. Дело в том, что обнаружить другую цивилизацию можно - теоретически - прослушивая радиодиапазон (ясно, что всякая развитая цивилизация должна производить - из-за теле-радиовещания - достаточно сильный шум в диапазоне от сантиметровых волн до метровых, об этом писал ещё Шкловский). А теперь представьте себе, что эта цивилизация находится в ближайшей к нам галактике (туманности Андромеды). Сможем мы заметить ее радиошум? Нет, не сможем, он будет безнадёжно маскироваться всякими локальными шумами, изолировать которые невозможно в силу законов квантовой механики...
мы можем заметить шум, который испустили много световых лет назад, а что "сейчас" там мы никак знать не можем, так вот за миллиарды лет никто шум так и не испустил почему-то, вряд ли это можно объяснить помехами, но я фиг знает
точнее возможно кто-то шум и испускал, но недолго, а постоянно никто его за миллиарды лет "эволюции" не испускает
Да ну, что это Вы такое говорите... Мы можем заметить "шум", испущенный за много (сотен тысяч) световых лет от нас различными звёздными процессами, по сравнению с которыми "шум" от какой-нибудь развитой цивилизации - как комариный писк через океан от нас. Вы поверите, что кто-то может сделать какой-нибудь сверхчувствительный "микрофон", чтобы, находясь, допустим, в Москве, услышать голос человека, стоящего на другом берегу Атлантического океана?
Вот то-то и оно...
ошиблись, исправили
"Недружественный искусственный интеллект
Может показаться странным, но это для Тоби Орда главная угроза"
Согласен с Тоби Орда. И мне кажется странным, что это кому-то кажется странным :)
Мы настолько далеки от того, чтобы создать "дружественный" или "недружественный" ИИ, вообще, чтобы заложить в ИИ концепцию воли, что лично мне эта угроза пока кажется гипотетичной.
Когда люди научились использовать пар, многим стало казаться, что это конец человечества. потому что теперь машины могут заменить людей - они же стали сильнее людей.
Сейчас мы точно также боимся машин, потому что они стали или могут стать умнее нас.
Я думаю, в конечном итоге окажется, что в человеке есть что-то более важное, чем такого рода "ум", точно также, как оказалось, что есть что-то важнее, чем физическая сила (а это выглядело столь же парадоксально для наших предков, как для нас сейчас).
Совсем недавно всем разумным людям было очевидно, что машина никогда не научится играть в шахматы.
Разница с луддитами есть - тогда ситуация казалась опасной самым бедным и неграмотным членам общества, а сейчас ситуация кажется опасной наоборот, наиболее образованным. Так что луддиты - не очень хороший аргумент
> Совсем недавно всем разумным людям было очевидно, что машина никогда не научится играть в шахматы.
.
Не уточните, когда именно? Желательно, с подтверждениями.
В 18-19 веках механические автоматы, которые якобы играли в шахматы, не казались чем-то абсолютно невозможным вполне образованным людям той эпохи.
В середине 60-х Джон Маккарти (автор языка Lisp) предлагал ARPA создать ИИ для полетов в космос в течении десятилетия.
Примерно тогда же Марвин Мински поручил одному из аспирантов заниматься проблемой машинного зрения, полагая, что ее можно решить в ходе летней практики.
Довольно сложно проводить социологические исследования по настроениям минувших эпох :). За исключением совсем уж однозначных случаев. Хотя насчет "всем разумным людям было очевидно" я, наверное, погорячился :).
.
"В человеке есть что-то более важное" - этот аргумент замечательно подходит для обоснования, почему компьютер никогда не научится играть в шахматы, почему компьютер никогда не научится играть в го, и почему компьютер никогда не научится видеть. Тем не менее, делать все это компьютеры научились, и произошло это достаточно быстро. Да, машинное зрение в самоуправляемых автомобилях еще далеко от совершенства, но оно уже работает.
.
"машины могут заменить людей - они же стали сильнее людей" - слон всегда был сильнее человека, так что машины не были в этом смысле чем-то новым.
.
"Мы настолько далеки от того, чтобы создать ... ИИ". Вы очень далеки от того, чтобы создать ИИ. Я очень далек от того, чтобы создать ИИ. А вот человечеству осталось ждать совсем недолго :). В WaitButWhy была интересная статья на эту тему:
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html и https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
так вот, из второй части, опрос экспертов:
> A separate study, conducted recently by author James Barrat at Ben Goertzel’s annual AGI Conference, did away with percentages and simply asked when participants thought AGI would be achieved—by 2030, by 2050, by 2100, after 2100, or never. The results:3
> By 2030: 42% of respondents
> By 2050: 25%
> By 2100: 20%
> After 2100: 10%
> Never: 2%
То есть Ваше мнение про не реалистичность угрозы расходится с мнением экспертов.
Абсолютно верно!
Не поддавайтесь спокойствию, не нарушайте панику!
Статья: "Динозавров убила, предположительно, 10-килограммовая глыба"
Гугл: "По расчётам учёных, Тунгусский метеорит имел диаметр 30 м и весил примерно 5 млн тонн"
Мне кажется, кто-то что-то путает. Либо автор книги, либо переводчик, либо гугл
Вообще-то плотность объекта радиусом 30 м и весом 5 млн тонн сильно больше плотности известных стабильных элементов. Уж не знаю, что имеет в виду Гугл...
Википедия пишет, что, весьма предположительно, Тунгусский метеорит имел массу порядка пяти миллионов тонн (исходя из картины разрушений). Про размер же его не пишет ничего (понятно почему - не из чего исходить). А где и что говорит про этому поводу Гугл - я не нашел. Вы не ошиблись?
P.S. Ой. Миль пардон. Это, оказывается, вопрос вовсе не столько к Вам, сколько к предыдущему комментирующему, виноват...
Я набрал в Гугле поисковую фразу про Тунгусский метеорит. Гугл иногда на очевидные вопросы, типа "сколько весит фунт" ответ выдает сразу в рамочке, без ссылки на статью. Вот и здесь так выдал. Точную фразу поисковую я не запомнил, и сейчас тот ответ Гугла у меня не получилось воспроизвести. 30 м и 5 млн тонн - это прямая копия того ответа.
При этом да, 4/3 пи р квадрат из 30 метров диаметра получить 5 млн тонн веса затруднительно :)
http://mirkosmosa.ru/vselennaya/meteority/tungusskiy-meteorit-teorii-ekspedicii
Ну, степень серьезности этого "источника информации" видна, что называется, с первых строк...
ошибку исправили, спасибо за внимательность!
Наверное, килограммы с километрами перепутали.
Килограммы с километрами спутали, или с детства не различали, бывает...