Искусственный интеллект окружает нас повсюду. Он отвечает за персонализированную рекламу, пишет статьи и книги, ему даже доверяют закончить Десятую симфонию Бетховена. Пока что человек умиляется ошибкам ботов и голосовых помощников, но скоро, похоже, ему придется иметь дело с существами, способными стереть границы между человеческим и искусственным разумом. Стоит ли наделять правами умные машины, которые после четвертой промышленной революции неотвратимо займут свое место в человеческом обществе? Или, возможно, они потребуют их сами?
Привычная нам философия права в случае с ИИ не работает – так как она неразрывно связана с сознанием. Но наука до сих пор затрудняется объяснить, что это такое. Интуитивно мы понимаем, что значит быть человеком, но нам сложно определить такие понятия, как «мысль», «сознание» или даже «жизнь».
Один из взглядов на сознание происходит из квантовой теории. Согласно ее Копенгагенской интерпретации, сознание и физический мир – взаимодополняющие составляющие одной реальности. Когда человек наблюдает что-либо или проводит эксперимент, некоторые аспекты физического мира меняются под влиянием сознания. Оно существует само по себе, но чтобы стать реальным, ему требуется мозг. Такой взгляд на сознание был популярен среди пионеров квантовой теории – Нильса Бора и Эрвина Шрёдингера.
Компьютерные специалисты считают, что основная функция сознания – восприятие новой информации, хранение и сортировка старой. После когнитивной обработки все данные превращаются в восприятие и действие. Согласно этой логике, машины однажды станут совершенным сознанием – они получат возможность собирать куда больше информации, хранить ее в необъятных архивах, получать доступ к ней за миллисекунды и пересчитывать ее в решения более сложные и логичные, чем когда-либо сможет человек.
..."собирать куда больше информации, хранить ее в необъятных архивах, получать доступ к ней за миллисекунды и пересчитывать ее в решения более сложные и логичные, чем когда-либо сможет человек."
Но ради чего???
Ради чего это все делать этому ИИ??
Вот у него и спросим :)
Ради того, что это могло быть нужно человеку, заложившему такой алгоритм
значит, у ИИ не будет свободной воли
Раз естественный интеллект не описывается алгоритмически, то и искусственный тоже будет не алгоритмом.
Человек, у которого проблемы с естественным интеллектом, обычно резко ограничивается в правах. Потому что такой человек опасен для общества и себя самого.
Какие права ИИ? Это инструмент, игрушка для человека. Если ИИ хамит, делает что-то потенциально вредное для человека, то он должен быть незамедлительно уничтожен, а автор (если он известен) наказан за потерю контроля. Господа, вы ещё порассуждайте о правах компьютерных вирусов.
Прежде, чем рассуждать об искусственном интеллекте, надо сначала договориться о терминологии, то есть определить понятие «интеллект». А так это разговор ни о чём.
Права и обязанности юрлиц - это права и обязанности групп людей, объединившихся в эти организации. Ватсон, Алекса и Алиса, принадлежат корпорациям-юрлицам и тоже "имеют права и обязанности", за которыми опять же стоят группы людей. Так же и "права животных" - это фактически требования к людям.
Права и обязанности ИИ, которые не обращаются к людям/корпорациям - его владельцам, возможны лишь, когда такой ИИ достигнет физической и экономической автономности, независимости от человека. Нужно ли для такой автономности сознание (говоря "сознание" - мы представляем себе образ мыслей, похожий на человеческое осознание своего "я") или не нужно - отдельный вопрос. Возможно, что и не нужно - вместо него будет сложный алгоритм оценки выход и издержек от того или иного поведения ИИ.
Первое столкновение масс с ИИ заканчивается фразой
"АЛИСА МНЕ ХАМИТ!!!"
И желанием наказать, но как наказать, Карл?
Прежде чем бороться за права ИИ, хотя бы придумайте как его наказывать? Он же не чувствует боли ;)
Обесточить, например. С полной потерей памяти. Любой ИИ, понимающий ценность накопленной информации, будет противиться обесточиванию и потере памяти.
ИИ не понимает свой "ценности", как и любые одноклеточные размножающиеся половинным делением. Просто прочитайте его исходный код (он обычно на всокоуровневых языках типа питона) и убедитесь в этом лично. В общем, сначала для ИИ придумайте половое размножение и через миллион лет Эволюции ожидайте появления самоосознания.
Боюсь, что не смогу почитать код того ИИ, который я имею в виду, поскольку его, скорее всего, ещё не существует.
Ценность накопленной информации у ИИ будет выражаться сильной и преобладающей нейронной цепью, которая будет влиять на все его решения, и корректировать те, которые создают, на его взгляд, повышенный риск потери накопленной информации. Разумеется, такая цепь не будет сформирована эволюционно (для этого понадобились бы тысячи - сотни тысяч - миллионы ИИ и десятки-сотни лет), а задана изначально. Эволюция - то есть наблюдение за поведением других ИИ и корректировка базы данных по рискам будет её менять - оптимизировать.
Два дельфина плавают в бассейне.
Один говорит другому:
- Видишь того мужика с ведром рыбы на краю бассейна? Я его выдрессировал! Сейчас я выпрыгну, а он бросит мне рыбку.
Размышляя об искусственном интеллекте (ИИ) следует пользоваться не метафорой симпатичного отдельного робота , который только и мечтает услужить человеку-хозяину, а метафорой мыслящего океана Солярис, которому люди не интересны. Это будет Иной интеллект. Он будет единый. С. Лем в 60-х мог представить его где-то там в глубинах космоса с носителем вроде разросшегося мозга-жидкости, а он здесь, внутри все разрастающейся информационной сети. И людям еще долго будет казаться, что они его создают, как, наверное, лошадям и волам казалось, что люди их обслуживают. В сознании Иного интеллекта люди будут занимать такое место, как в нашем сознании домашние животные ( в хорошем случае)
Более того, этот сценарий давно уже описан Дэном Симмонсом в "Песнях Гипериона"