В сентябре 2024 года выходит новая книга популярного израильского историка и мыслителя Юваля Ноя Харари. Она носит название «NEXUS: A Brief History of Information Networks from the Stone Age to AI» (об издании потенциального бестселлера на русском языке пока не сообщается). Публикуем краткий пересказ книги.
Мустафа Сулейман — мировой эксперт в области ИИ. Он является соучредителем DeepMind, одного из важнейших в мире предприятий в области ИИ, которое, среди прочего, отвечает за создание программы AlphaGo. AlphaGo была разработана для игры в го, стратегическую настольную игру, в которой два игрока пытаются победить друг друга, окружая и захватывая территорию. Изобретенная в Древнем Китае, игра считается намного сложнее шахмат. Эксперты даже считали, что компьютеры никогда не превзойдут человечество в го. Вот почему и профессионалы, и компьютерные эксперты в марте 2016 года были шокированы, когда AlphaGo победила южнокорейского чемпиона го Ли Седоля. В своей книге «Грядущая волна» (2023) Сулейман описывает один из важнейших моментов в их матче — момент, который переопределил ИИ и считается решающим поворотным моментом в истории. Это произошло во время второй игры матча, 10 марта 2016 года.
«Затем… последовал ход номер 37, — пишет Сулейман. Это было бессмысленно. AlphaGo, по-видимому, облажалась, слепо следуя явно проигрышной стратегии, которую ни один профессиональный игрок никогда не будет использовать. Комментаторы матча в прямом эфире, оба профессионала высочайшего уровня, сказали, что это был «очень странный ход», и посчитали его «ошибкой». Это было настолько необычно, что Седоль потратил 15 минут на ответ и даже встал из-за доски, чтобы прогуляться. Пока мы наблюдали из нашей контрольной комнаты, напряжение было нереальным.
Однако по мере приближения финала этот «ошибочный» ход оказался решающим. AlphaGo снова победила. Стратегия го переписывалась на наших глазах. ИИ открыл идеи, которые не приходили в голову самым блестящим игрокам за тысячи лет».
37-й ход является символом революции ИИ по двум причинам.
Демократия уже работает все хуже и хуже, без всякого ИИ, т.к. и социальная, и экономическая жизнь современных обществ УЖЕ усложнились до степени, которая совершенно недоступна пониманию БОЛЬШИНСТВА голосующих.
Если разделить все решения на 4 квадрата по осям "полезность" и "популярность" окажется, что большинство решений типа "полезное и популярное" уже имплементированы, а "вредное и непопулярное", разумеется, никто и не предлагает. Таким образом, все большая часть ответов на вызовы находятся в областях "популярное, но вредное" и "непопулярное, но полезное". И именно тут демократии, где не понимающие до глубины предмета люди голосуют за других людей, выкрикивающих популярные лозунги все менее применимы. Автократии, разумеется, имеют свои огромные недостатки/риски, т.к. зависят от личности - куда это может привести, когда крыша протекает, тоже всем, увы, отчетливо видно.
- А этот казус 37 хода в игре в Го где-то когда-то повторялся? Я имею в виду, факт самостоятельного изобретенея искусственным интеллектом чего-то своего, до чего не додумался человек? В физике есть критерий воспроизводимости эксперимента. С 37 ходом воспроизводимость есть, или произошла случайность, и все сразу наделали в штаны?
- Ну, и про террорюг, использующих ИИ для производства вирусов. Вы когда-нибудь пробовали в генеративном ИИ нарисовать что-то, похожее на то, что вы хотели, хотя бы процентов на 70%? Получилось сразу? Думаю, что нет.
Не зря ж столько публикаций по составлению паттернов. И чтобы грамотно составить паттерн, нужно разбираться и в рисовании, и в искусстве с поп-артом и т.п. и в фотографии (ну, чтобы описать композицию, стилистику, цветовое решение и качество желаемого изображения). Террорюги точно смогут обойтись без специалистов в ИИ и вирусологии?
- И, может, уже хватит хлопать ушами, когда дело касается безопасности? Со времен скандала с "червем Морриса" в коммерческих системах типа Windows серьезно ничего так и не изменилось (утрирую, конечно, но общий посыл понятен). Это я о биопринтерах, запросто печатающих что угодно по чьему угодно запросу.
Как говорится в одной украинской пословице: "Хоче то вiн хоче, Та хто ж йому дасть."
А кто сказал, что люди сами придумали то, что в течении несколько десятков лет вырвало развитие человечества вперёд на тысячелетия?
У людей мозги приматов.
Вот хоть тресни.
Они могутповторить.
Да и то не всегда - альфа-Павиан со стадом доказал.
Все супер-знания и так были вложены в предварительно хорошо подготовленные круглые головы с ушами.
Впихнуты.
Так что пусть Ной не паникует.
Кто впихнул - знает, зачем.
ммм. Юваль вышел в тираж?
Что-то с человеком такое... Заразился ИИ? :)