В данном случае важно то, что если человек не считает себя свободным, то он обычно стремится эту свободу получить. Тут конечно тоже можно фантазировать, что кто-то хочет получить свободу от алкогольной зависимости, и поэтому говорит, что он несвободен. Но, большинство людей всё-таки более менее адекватны, и понимают что под свободой имеются в виду примерно те вещи, которые перечислил автор.

Автор говорит про рациональное зерно в поведении россиян. Оно действительно есть. Большинство людей не хотят думать о вещах, которые несущественны для их повседневной жизни. Понятно, что они недооценивают потенциальные проблемы, которые страна может получить из-за отсутствия у нас всяких полезных вещей, вроде реального разделения ветвей власти. Но, что тут причитать? Так уж устроен мир. Таковы люди.

А Гоббс и Чубайс нет?

Прочитал: "...но они предполагают совершенно другую логику «обеления и очищения», которая пока в действиях ФЕОДАЛОВ не прослеживается."

По слухам, в подразделении было порядка 500 человек. Там были не только Вагнеровцы, но и сирийцы. Полегло 180 человек только Вагнеровцев. Если амеры применили C-130, то такие потери не удивительны, ПМСМ. Но, я не специалист, конечно.

В теории независимы. Так написано в конституции. Но, в реальности это не так.

"Ну да! Натюрлих." Как говорится: Спасибо кэп! :) "Если там хоть каким-то боком задействованы квантовые процессы, то квантовые состояния не копируемы. Они уникальны во всей вселенной!" Квантовые процессы задействованы во всём, что происходит во вселенной. Почему же некопируем именно мозг человека?

Я так и не понял, как это всё относится к "моей" идее обучать один ИИ с помощью другого. Я правильно понял, что вы мне сейчас объясняете, что результаты обучения можно копировать? :)

"Любые базы данных можно сливать, то есть быстро объединить в единое целое." Можно привести много примеров того, что эта операция, не просто нетривиальна, но и не всегда возможна... Ну вот простейший: две базы данных содержат набор записей в таблице с уникальным ключом, но кроме ключа в ней присутствует столбец с зашифрованными данными, ключа для расшифровки которых у вас нет (допустим он есть только у конечного пользователя). Что вы будете делать с записями, у которых ключ одинаков, но зашифрованные данные отличаются?

"...ибо, скорее всего, решение отсутствует." Почитайте статью. Решение есть.

"ИИ обучающая другие ИИ?? Вам про операции слияния баз данных конечно ничего не известно? Но хоть про то, что файлы можно копировать с одного носителя на другой то Вы знаете. "Обучение" одного компьютера другим типично сводится именно к чему-то подобному. Опять таки это не люди." Ну, откуда мне до таких высот ;). Зато я немного знаком с тем, как обучают ИИ, и я не понимаю, при чём тут копирование файлов и слияние баз. А что за операции, кстати? Вдруг и правда есть какая-то операция слияния баз данных? А мужики то и не знают :)

"Постойте, а при чём тут ИИ. Они даже и не пытаются изображать себя ИИ. Это просто набор софта базированного на стандартных алгоритмах шифрования и распределённых сетей. Вы считаете блокчейн - это ИИ? Тогда всё программирование для Вас должно быть ИИ!" Вы сказали, что будете использовать тему ИИ для хайпа. Поэтому я предлагаю не забыть ещё и про блокчейн :).

Ещё про биткоин и блокчейн не забудьте ;) На самом деле, не важно что в чёрном ящике, важно, что он умеет делать. Не знаю, что нужно чтобы поразить ваше воображение, а меня эти достижения поражают. Следующий шаг, это сделать спец. ИИ, который будет уметь обучать другие ИИ решать новые задачи. Потом научить автоматически выбирать задачи для решения... Наверное это непросто, но это явно решаемая задача.

Я тут по ходу наткнулся: https://gizmodo.com/artificial-intelligence-may-have-cracked-freaky-600-yea-1822519232 Люди 100 лет не могли разгадать эту тайну :)

...информирование людей о потенциальных опасностях, что очень немаловажно.

Я не завидую Илону. Он взял на себя очень много, и я ему не завидую, но очень сочувствую и поддерживаю. Сделать можно многое: регулирование, продумывание более оптимальных путей (Нейролинк). В частности, возможно создание специального ИИ, который будет стараться вычислить разработки, которые потенциально могут уйти в разнос. Наверное много ещё чего можно придумать.

Гляну, спасибо!

Всё примерно так и делается. Пришла идея - попробовал. Если получилось, то записываем в актив, если нет, то следующая идея... :)

Мы в ней оказываемся случайно. Иначе мы бы давно заметили подобные, тоже вполне себе мистические, способности. В Хрониках Эмбера, кстати, хорошо описаны (шутка).

А они не будут никуда заглядывать. Просто сделают и всё :) А вот во что это выльется, не известно.

"AGI нам нужен, чтобы улучшить жизнь именно нашу (а не этого AGI), делать для нас то, что мы физически не можем, где мы слабы." Я с вами согласен. Но, я уверен, что найдётся немало людей, которые думают по-другому. Дело в том, что на вопрос о смысле жизни нет единого ответа.

"И мы не хотим умирать. Какое нам дело, как будут жить потом какие-то железяки после нас?" А какое нам дело до того, как после нас будут жить наши дети? Тоже никакого?

"Поймите, это есть аксиома! И нам не нужен никакой супер AGI, который радикально менял бы это всё (всю наше человеческую суть) просто фактом своего появления." Вам не нужен, но найдутся те, кому нужен... Уже нашлись в немалом количестве.

"Мы хотим жить и оставаться таким как есть, по крайне мере если и эволюционировать, то очень медленно, так чтобы это не выглядело, не воспринималось как фактическое наше разрушение." Именно поэтому, недооценка того, что сейчас происходит в области ИИ, это фатальная глупость. Лучше переоценить, чем недооценить.

"Машины Тюринга - это наука, реальный инструмент анализа всей этой темы вокруг ИИ (а не одно только брызганье слюной от восторгов или страхов)." Он не применим к анализу работы мозга. В данном случае всё гораздо проще. Конечная система, конечные задачи. Машина Тьюринга тут не нужна.

"Если же в функционировании человеческого интеллекта в реальности задействован некий особый источник энтропии (или знаний, или "откровений"), не сводимый к одним только взаимодействиям с окружающей средой" Это какой-то мистицизм? Божественный источник? Душа? :)

Большинству людей очень тяжело расстаться с мыслью о нереальной крутизне и "непостижимости" человеческого разума :) Думаю, что дело не в машинах Тьюринга, а именно в этом. Нам психологически сложно признать, что мы всего лишь не слишком то и умные приматы. Чуть поумнее обезьяны, но, видимо, не достаточно умные, чтобы понять, как работает наш собственный мозг. Это не говорит о том, что этот мозг невообразимо крут. Как раз наоборот. Вполне возможно, что можно создать гораздо более простое устройство, которое при этом будет понимать и то, как устроено оно само, и то как устроен наш мозг. Это не будет AGI. Просто ещё один специальный ИИ, который опередил наш мозг в ещё одной области :)

"Просто инкрементальный тех-прогресс, который наблюдается уже по меньшей мере три столетия." Только прогресс не инкрементальный. За любой фиксированный промежуток времени, скажем год, прогресс продвигается на фиксированное количество процентов. В результате получается геометрическая прогрессия, а не арифметическая, как было бы в случае инкрементального прогресса.

"superintelligence (которая подразумевается просто из того факта, что любая электроника работает на порядки быстрее чем биологические нейроны)" Это неправда. Ничего такого не подразумевается. Подразумевается, что для достижения AGI требуется вычислительная мощность, сравнимая с мощностью мозга человека. Скорость работы электроники входит в формулу как один из множителей. Это да.

Что плохого в том, чтобы обсуждать что-то, что не напрямую относится к теме статьи? :) "Некоторые считают, что он появится через 50 лет, некоторые через 100." По-моему, тут вы выдаёте свой прогноз за прогноз экспертов :). Вот более честная статистика: https://medium.com/ai-revolution/when-will-the-first-machine-become-superintelligent-ae5a6f128503 По одному из опросов ИИ-экспертов, медианный эксперт спрогнозировал AGI к 2040 году. По другому 42% респондентов (тоже эксперты) спрогнозировали достижение AGI к 2030 году. Лично я склоняюсь ко второй цифре, так как не вижу принципиальных проблем. Раньше основной проблемой было отсутствие нужных вычислительных мощностей. Как только мощности, необходимые для создания специального ИИ стали широко доступны, появился и недостающий математический аппарат. Сейчас уже доступны вычислительные мощности сравнимые с мощностью человеческого мозга, но пока они слишком дороги. Лет через десять такой проблемы уже не будет...