Стивен Хокинг умер 14 марта этого года, но смерть не помешала знаменитому физику спровоцировать дискуссию в СМИ своим предсказанием о расе генетически модифицированных «сверхлюдей», которые могут уничтожить человечество. Прогноз содержится в последней книге профессора Хокинга «Короткие ответы на серьезные вопросы» (Brief Answers to the Big Questions), которая только что поступила в продажу.
Близкий друг Хокинга, королевский астроном Мартин Рис из Кембриджа, не согласился с видением физика. По его данным, один банк спермы в Калифорнии, предлагавший «элитный продукт» (донорами, к примеру, выступали нобелевские лауреаты), закрылся из-за недостатка спроса. Существует четкое разделение между хирургическим вмешательством с целью убрать что-то вредное из организма и использованием тех же технологий для расширения своих возможностей. Модификация генома — рискованный и весьма сомнительный процесс, написал Рис в книге «О будущем человечества», которая вышла в сентябре.
Хокинг также предупредил, что в настоящее время образование и наука находятся в большей опасности, чем когда бы то ни было. По его мнению, избрание Дональда Трампа и Брекзит стали частью «мирового протеста против экспертов во всех сферах, включая ученых». При этом именно науке предстоит справиться с проблемами планетарного масштаба: изменением климата, перенаселением, уничтожением отдельных видов животных и так далее.
Другие ученые приветствовали прогнозы Хокинга, увидев в них надежду на спасение Земли от разрушения. По мнению Криса Рапли, профессора климатологии из Университетского колледжа Лондона, для человечества настал переломный момент — оно вмешалось в сам «метаболизм» планеты, и «наши ограниченные мозги» не могут справиться с этой проблемой. С этой позиции будущее человечества выглядит «отчаянно мрачным».
Впрочем, сам Хокинг старался не терять оптимизма. «С помощью воображения и законов физики мне удалось посетить самые отдаленные уголки Вселенной, нырнуть в черную дыру и побывать в начале времен. Мне чрезвычайно повезло, что с помощью моей работы мне удалось внести вклад в понимание Вселенной. Хочу поделиться с читателями энтузиазмом относительно существования всех этих загадок. Надеюсь, когда-нибудь мы узнаем ответы на все эти вопросы», — пишет во вступлении физик.
Отрывки из книги опубликовала газета Sunday Times.
Все так возбудились по поводу генной модификации человека и, почему то никого не взволновал вопрос полного уничтожения человечества ИИ? Ну, эволюционируют люди с помощью генетического редактирования в "суперменов", так это просто замечательно. В чем проблема то? Может быть, "супермены" хоть как-то смогут конкурировать с ИИ.
Страхи про сверхмогучий ИИ, который выйдет из под контроля людей (по-научному это называется "технологическая сингулярность")-- тема уже задолбанная всякими персональными пиарщиками типа Илона Маска и Стивена Хокинга.
Но будет ли создан такой ИИ в обозримом будущем? Лично я не вижу, как такое можно сделать на доступных нам технологиях. Супер ИИ должен уметь создавать суперинформацию: супер-дизайны супер-устройств. Но откуда он возьмёт эту информацию? Компьютеры -- всё что у нас есть на тему ИИ -- новой информации не создают. Они только преобразуют её из одной форму в другую. Источником информации для компьютеров всегда являются либо люди либо внешний мир. Но информация из внешнего мира, что это такое? В основном это хаотичный шум, говоря языком физики "энтропия". Её можно так запросто трансформировать во что-то полезное, в дизайны каких-то устройств? Природа вроде как занималась этим под названием "эволюция". Но на это ушли миллиарды лет! Тут есть проблема интенсивности всего этого процесса. Насколько быстро можно поток внешней энтропии трансформировать в какие-то полезные дизайны? Какая для этого нужна энергия? Люди по всей видимости преодолевают этот барьер, и создают информацию (эти самые дизайны, решения проблем и т.д.), черпают её откуда-то извне. Но каким образом? Может быть тут задействован квантовый мир? Что такое сознание? Может оно каким-то образом переплетается с самой тканью квантовой реальности и воздействует на неё? Что такое свобода воли? Может быть мы нашим сознанием каким-то образом воздействуем на реальность и создаём её (предопределяем выбор среди бесчисленных параллельных квантовых состояний)? Таким образом, мы знаем об этой реальности кое-что особенное, чего неживому миру недоступно. Но каким образом? Где конкретная теория всего этого, конкретная физика? Как мы можем построить искусственное устройство, функционирующее на таких принципах? Ответы на эти все вопросы лежат за пределами современного научного горизонта, как и идея супер-ИИ...
Дождитесь для начала введение в широкую эксплуатацию автономных автомобилей! У меня сомнение, что даже это будет реально достигнуто в обозримом будущем. (Не смотря на то, что они уже так бодренько ездят во всяческих тестах.)
Ну, так и генномодифицированные суперлюди это дело очень отдаленного будущего. Лет 50 как минимум. Хотя большинство ученых считают, что и ИИ будет создан в ближайшие 50 лет. Надеюсь (с помощью генной инженерии) дожить и посмотреть, как терминаторы будут уживаться с мутантами.))
> Ну, так и генномодифицированные суперлюди это дело очень отдаленного будущего. Лет 50 как минимум.
Я думаю, технология доставки генетического материала в отдельные клетки организма может появиться весьма скоро. (Вот на это 50 лет я бы и дал). Это позволит лечить все генетические болезни (типа того, что было у Стивена Хокинга) и возможно останавливать старение.
Но это всё не есть создание супер-людей. Чтобы создавать что-то, чего не было раньше, нужно подсаживать в клетки такую ДНК, которой там никогда раньше не было. Поскольку создание по-настоящему новых дизайнов ДНК - это дело отдалённого будущего (я написал об этом ниже), то чего можно будет делать - это только пробовать методом тыка. Например попытаться удвоить, утроить... удесятерить какие-то гены и посмотреть, что будет (говорят, что именно так получились по 5 пальцев у нас на руках и ногах). Можно ещё попробывать подсаживать ДНК чужих организмов. Опять же, что с этого будет неизвестно. Но я сомневаюсь, что с этого всего быстро получится что-то "супер". Встраивать какие-то структуры туда, где они не предусмотрены и не адаптированы типично означает внедрение в организм какого-то ненужного ему балласта, на который только уходит энергия и мало какого толку. Например, я читал, что все генетически модифицированные растения, хотя и обладают какими-то отдельными полезными для людей свойствами, в целом оказываются очень ослабленными и без помощи человека не способны конкурировать в дикой природе. Надо учитывать ещё этическую сторону всех этих тыков на людях. Кто-нибудь захочет экспериментировать над эмбрином человека, чтобы в результат получить потом урода, который будет с сознанием, но мучиться всю свою жизнь?
> Хотя большинство ученых считают, что и ИИ будет создан в ближайшие 50 лет.
Такими оценками больше занимаются журналисты, чем учёные, ну а если и учёные, то в основном всякие нацеленные на бизнес пиарщики типа Курцвейля. Они к этому приходят путём тупой численной экстраполяции. Замечается с какой скоростью увеличивается количество транзистеров на чипе (пресловутый закон Мура). Далее берётся оценка количества нейронов в мозге человека и экстраполируется, когда до такого же порядка дорастёт число транзистеров. Если считать, что интеллект только сводится к числу базовых элементов мозга, то можно ожидать, что значит тогда-то мы и будем иметь ИИ -- очень скоро!
На самом деле, это примитивное построение, потому что оно не учитывает сложности связей между элементами. Кроме того, насчёт нейронов, то берётся некоторая простецкая их модель. Как устроены настоящие нейроны, мы знаем очень немного. Нейроны сами могут состоять из каких-то базовых компонет, которых может быть очень много (точно также миллиарды), не говоря даже о том, что некоторые такие компонеты могут и работать на принципах, о которых у нас сейчас нет ни малейшего представления.
Что Вы скажете по поводу слияния самостоятельно обучающихся алгоритмов, сверхкомпьютеров и сети Интернет. Это направление довольно перспективное и именно оно вызывает тревогу у интеллектуалов. Вот одна из последних книг на эту тему (и не только, но в общем-то о деградации человечества на фоне развития ИИ):
https://ross-kramer.livejournal.com/?fbclid=IwAR34TgqhkCJA9Ydt6bwaZCMxfjpeZFTUGoyqDp4FDkXBCuQMA4VnxbsD63I
> Что Вы скажете по поводу слияния самостоятельно обучающихся алгоритмов, сверхкомпьютеров и сети Интернет.
Мы уже обсуждали тут всю эту тему весьма массивно в комментах к этой статье: https://republic.ru/posts/89010
Я там описал несколько более строгих аргументов, почему общий ИИ недостижим на современных компьютерных технология, что бы с ними не делали, в какие сети бы не объединяли, и какое софтваре не писали. Почитайте мой коммент, который начинается с "Я знаю. Я тоже об этом думаю... где-то с начала 1990-х" и далее.
Там, к сожалению, сейчас все комменты плохо читабельны (потому что в какой-то момент из текстов пропали все <new line>). Я сохранил копию статьи и комментов в PDF ещё тогда, и можете загрузить его отсюда: http://mode711.byethost12.com/transhumanism.pdf
Скорее, будет слияние ИИ с генетически модифицированными людьми
Его болезнь оказала определяющее влияние на его взгляды
Ну, вообще, и Харари примерно о том же пишет. Только с меньшим объемом плача по поводу возможного ухода с авансцены людей нынешнего исполнения. Тоже вариант эволюционных механизмов и путей развития самоорганизующихся систем (слово "жизни" уже как-то и язык не поворачивается произносить...).
Ошибается.
Термоядерный синтез безусловно лучше углеводородов, но его безудержное развитие может привести к тепловому загрязнению планеты - и недостатку воды.
Вы думаете, всю воду переведут на извлечение водорода для термоядерного синтеза, который обратится потом в гелий? Ха-ха. Можете об этом не думать. Для термоядерного синтеза годится только тяжёлый водород (изотоп водорода с доп. протоном). Ему соотвтствует "тяжёлая вода", которой мизерный процент от всей остальной. Но даже этой тяжёлой воды в океанах какое-то немыслимое кол-во тон. А выход энергии от слияния водорода такой огромный, что такой источник можно считать неисчерпаемым.
Вопрос о перегреве планеты имеет смысл. Но тот уровень потребления энергии, который имеется у человечества сейчас никакого перегрева не вызовет. Конечно, можно представить себе, что дешёвая энергия приведёт к технологическому скачку, в следствии чего рассеиваемая мощность возрастёт на порядки. Но тогда это именно и будет технологический скачёк. На тему чего? Наиболее вероятное приложение энергоёмких технологий -- это освоение космоса. Но это и значит, что энергия будет рассеиваться именно там, в космосе. Кроме того я читал, что на поверхности Луны должно быть немеренное количество лития (который там должен был образоваться в следствии миллиардов лет бомбардирования солнечной радиацией). Ну а литий тоже хороший исходный элемент для термоядерного синтеза. Собственно таких и есть только два: тяжелый водород и литий.
Единственно, в чём тут во всём может быть сомнение, это удастся ли освоить управляемый термоядерный синтез вообще. Темп прогресса там кажется такой черепаший. И каждый новый виток (поколение) в этом движении требует финансирования на порядки больше, чем предыдущий...
И до чего же дошлый народ у нас. Вот ведь...
Понятное дело, куда там ему. Серьезные у Вас аргументы! Расскажите, пожалуйста, что с водой станет при распространении синтеза?
Ну продукты термоядерного синтеза из водорода и лития какие? Изотопы гелия, элементарные частицы всякие. Всё это распадётся за считанные минуты и останется только обычный гелий и всё -- крайне инертный химический элемент (который кстати особенно долго не задерживается на Земле и уносится в космос). Более существенной будет наведённая радиация, то есть возникшая в материале реактора от его облучения нейтронами из реакции ядерного синтеза. Но то же самое происходит и во всех современных ядерных реакторах. Однако, главная проблема там не с радиоактивными частями реактора, а с "отработанным топливом", то есть то, что осталось от самого урана -- масса долгоживущих радиоактивных изотопов. При термоядерном синтезе ничего такого оставаться не будет! Слишком простой (с точки зрения физики атомного ядра) исходный материал. Долгоживущей радиации там образоваться не из чего.
"Согласно теории вероятности, перелет до ближайшей звезды и обратно займет как минимум 8 лет" - это при использовании двигателя на невероятностной тяге, надо полагать?
Надо думать речь о теории относительности, а это просто ошибка перевода
именно так, заменили, приносим извинения
Отказался бы сам великий учёный от генной модификации, которая смогла бы его излечить?
Я думаю, тут нужно различать две совершенно разные вещи:
1). Исправление генетических ошибок. Это нужно для лечения всяких болезней и скорее всего для борьбы со старением. Ничего ужасного тут быть не может. Всё, что тут нужно, просто сводится к доставки известного (правильного) генетического материала на уровень каждой клетки (клеточного ядра). Технология доставки сейчас на самых ранних этапах. Тут много есть пока нерешённых проблем. Хотя звучит оно вроде просто. В целом, технология доставки фрагментов ДНК (корректная и гарантированная) может быть такой же воздушной мечтой, как и термоядерный синтез. Пока не сделано, значит оно не сделано, и когда будет не известно.
2). Совсем другая тема -- это придание новых свойств, то есть доставка такой ДНК, которой у природы просто не было вообще. Вопрос доставки тут предполагается быть уже пройденным этапом. Совсем новый вопрос -- откуда возьмётся эта самая новая ДНК? И вот тут мы попадаем в область по сложности сопоставимую с межзвёздыми перелётами. Для того чтобы придавать организму новые свойства, нужно одновременно понимать две совсем разные и невероятно сложные вещи: I). что это за свойство которое мы хотим добавить (усилить)? Хотим усилить интеллект? А что такое интеллект? Что это такое на материальном уровне мозга, его структур? Что собственно тут нужно улучшать, чтобы усилился интеллект? II). Ну допустим мы знаем какие именно структуры (и биохимию) нужно менять, чтобы добиться тех конечных эффектов, которые хотим. Ну а как это всё транслируется в молекулярную структуру ДНК? Как именно из конкретных цепочек аминокислот ДНК раскручивается весь организм, его конкретные структуры и процессы? От понимания этого всего мы сейчас настолько далеки, что сравнение с межзвёздными перелётами тут кажется самым уместным.
Ваш вопрос показывает что Вы просто не полностью понимаете о чем он говорил. Это примитивная дилемма на уровне "вы за всё хорошее или против".
Вот ответ на вопрос: стоит ли ограничивать развитие генной инженерии из-за рисков, которые Хокинг назвал (т.е. потенциально возникновение нового вида, сверхлюдей, чьи интересы, как в случае в ИИ могут идти вразрез с большинством населения), учитывая, что генная инженерия может потенциально вылечить все болезни и кардинально улучшить жизнь людей (но, вероятно, не всех 7-10 млрд)? уже не так однозначен
Ну прямо научная заочная конференция ,Ребята я восхищен вами
>учитывая, что генная инженерия может потенциально вылечить все болезни и кардинально улучшить жизнь людей
Откуда это безудержный слепой оптимизм? Почему-то никто не хочет учитывать что генная инженерия так же может создать болезни которые человечеству пока не снились и кардинально ухудшить жизнь людей. Как вам например родиться в виде генетически запрограммированного раба или контейнера для выращивания донорских органов?
для генной инженерии пока нужны "живые" участки другой ДНК, если не ошибаюсь.
Но природа (не фраер) наверняка позаботилась. И есть защита от дурака.
А что вообще плохого в генетической модификации людей? По-моему, это наш единственный шанс избежать деградации вследствие отсутствия отбора по уровню здоровья и отрицательного отбора по уровню интеллекта.
Кто вам сказал что ваша деградация кого-то волнует? Или даже не является сферой чьих-то интересов?
Мне определенно эмпонирует ваш неиссякаемый оптимизм в отношении человеческих открытий, но все что вы упомянули в черном свете (донорские органы, запрограмированные рабы, сфера интересов), не выходит за рамки эволюционного развития и человеческой истории. Рабы? Кажется до недавнего времени на них опирались многие общества. Донорские органы? Это практика существует и ныне, включая преступное извлечение органов из живых людей. Сфера чьих-то интересов? Ужасно, оказывается есть люди, которые манипулируют другими людьми в собственных меркантильных интересах! Я уже не говорю о мыле и лампах сделанных из людей, искусственном заражении во время экспериментов и атомной бомбежке.
Суть человеческой природы всегда была творить великое и использовать это для самых ужасных вещей. И применение новейших технологий для продолжения подобной практики, не открывает ничего нового.
Лично я надеюсь на то, что возникнут более продвинутые, в интеллектуальном смысле, расы чем наша обреченная и совершенно тупиковая (в долгосрочной переспективе) человеческая цивилизация.
Нельзя с какой-то уверенностью рассчитывать на этические и моральные стороны новых рас (да и какое право мы имеем претендовать на их сострадание, после всего, что натворили и творим?) и думаю,что такая дискуссия вообще неинтересна. С точки зрения эволюции, люди в новой технологической гонке, обречены на угасание и, ей-богу, я не вижу в этом ничего плохого. Как говорится, наша эволюционная песенка скоро будет спета, а те кто выйдут из всех потрясений, уже не будут людьми с нашей точки зрения.
Думаю, однозначно не отказался бы.