Издательство «Альпина PRO» любезно поделилось с журналом «Будущее» отрывком из новой книги «Как учится машина. Революция в области нейронных сетей и глубокого обучения» Яна Лекуна. Книга выходит в серии «Библиотека Сбера: Искусственный интеллект».
Автор книги — известный французский ученый, один из создателей технологии сжатия изображений DjVu, лауреат премии Тьюринга (2018). В декабре 2013 года возглавил лабораторию искусственного интеллекта Facebook в Нью-Йорке (FAIR). В настоящий момент занимает в компании должность вице-президента и ведущего исследователя искусственного интеллекта.
Публикуем фрагмент из 9-й главы, которая называется «Что ждет нас завтра? Перспективы и проблемы искусственного интеллекта».
На сегодняшний день даже самые лучшие системы ИИ все еще очень ограничены. По уму они уступают кошке, мозг которой содержит 760 млн нейронов и 10 000 млрд синапсов. Не говоря уже о ее «двоюродной сестре» собаке, в мозге которой 2,2 млрд нейронов. Мы не можем проектировать и строить машины, которые по мощности даже приближались бы к человеческому мозгу, с его 86 млрд нейронов и потребляемой мощностью около 25 Вт. Нам известно, что даже если мы понимаем принципы обучения в мозгу, даже если мы понимаем его структуру, вычислительная мощность, необходимая для воспроизведения его функционирования, оказывается гигантской — порядка 1,5×1018 операций в секунду. Сегодняшняя видеокарта способна выполнять лишь 1013 операций в секунду и потребляет около 250 Вт. Чтобы получить мощность человеческого мозга, вам придется подключить сотню тысяч таких процессоров к гигантскому компьютеру, потребляющему не менее 25 мегаватт; это в миллион раз превышает потребности человеческого мозга. Исследователи ИИ в Google и Facebook имеют доступ к вычислительным мощностям такого порядка, однако сложно заставить несколько тысяч процессоров работать одновременно над одной задачей.
Научная проблема здесь велика. Технологическая проблема тоже
Мы неустанно работаем над расширением границ существующих систем. Какие возможности наиболее перспективны? Чего нам ожидать от будущих исследований?
так называемый "здравый смысл" - не более, чем судорожные попытки человеческого мозга упорядочить имеющиеся скудные знания для поддержания иллюзии устойчивости взаимодействия с воспринимаемой реальностью
Ого, снимаю шляпу, очень оперативно перевели книгу мэтра на русский язык, она даже на английском ещё не опубликовна.
"Сегодняшняя видеокарта способна выполнять лишь 1013 операций в секунду..."
Наверное, имелось ввиду 10^13
Адер - французский аналог Можайского - ни при каких условиях не мог претендовать на роль "первопроходца". Он - в отличие от Райтов - не догадался, что крылу нужно придать специальный аэродинамический профиль.
Ученые потихоньку, очень потихоньку начинают готовить мир к осознанию факта, что распиаренный ИИ, ИНС, ГНС, СГНС и прочие красивые фантики вокруг задачи восстановления зависимостей начинают буксовать. И то хорошо. Лекун молодец, признать, что то за что получил премию Тьюринга оказалось по гамбургскому счету так себе - нужно иметь смелость.
Да, смелый мужик...
ИИ пиарят журналисты, люди, работающие в этой области предпочитают говорить об алгоритмах машинного обучения. Сверточные нейросети произвели революцию в машинном распознавании образов, ничего себе "так себе". В целом отрасль находится сейчас, если сравнивать с развитием интернета, в периоде краха доткомов, только не единовременном, а растянутом. Стало ясно, что многие ожидания были сильно завышены, что для дальнейшего прогресса надо искать новые подходы и т. д. Но как после краха доткомов интернет никуда не делся и сегодня его роль в жизни и экономике далеко превосходит все, о чем мечтали в конце 90-х, так и с машинным обучением - не сомневаюсь, что будет новый подъем на новой основе, никуда от этого не деться.
Ну вы сравнили интернет в 99 и ИИ в 2020. В 99 году в полный рост действовал закон Мура, который позволил через 10 лет после того краха наклепать недорогих UMTS/LTE коммутаторов и поставить их в каждой дыре, так что интернет есть почти везде, где есть сотовая связь. Пропускная способность сетей выросла за те же 10 лет на несколько порядков, за счет все того же закона Мура. А сейчас фсе, этого роста нет и на обозримом горизонте не предвидится. Алгоритмы обучения ничто, а аппаратные мощности все. Вынос вычислений на GPU дал последний скачок, а дальше тупая физика - либо пропускная способность шины при вертикальном, либо скорость света при горизонтальном масштабировании вычислений. Такшта запросто нынешний уровень в ИТ застынет на текущем технологическом уровне лет на 50 или на все сто, как это произошло с авиацией и полетами в космос.
Всё обстоит очень неплохо с задачами распознавания:))
Но только это ни разу не интеллект:):(
Вообще ошибкой был сам термин ИИ, провоцирующий людей на то, чтобы мечтать о невозможном, и придуман он был, конечно же, журналистами:))
Для меня разница в том, что про интернет вроде не говорили, что он станет убийцей рабочих мест с последующей отправкой всех на ББД. А вот про ИИ постоянно в этом контексте говорят.
Конечно, ожидания от ИИ завышены, но уже совершенно точно и коммерчески успешно работают разного рода рекомендательные системы, улучшеные прогнозные модели (расчет дебита скважин, расчет остаточного ресурса нагруженной детали, количество пользователей в момент X и т.д.), оптимизационные модели (оптимизация профиля лопаток турбин, расход металла в конструкциях). В наших руках уже есть "рабочая синица", но мы продолжаем мечтать о "журавлях".
Согласен - распознавание лиц с высокой точностью, в движении с видеокамер - это далеко не «так себе». А распознавание любых других объектов, деталей, когда оно реально проникнет в массовую промышленность, торговлю, сельское хозяйство - это потенциальная революция.
Интересно, что у собаки почти в 3 раза больше нейронов, чем у кошки - ведь в житейском понимании, кошка намного "умнее" собаки (кошка с хитрецой и "себе на уме", собака же простовата и бескорыстна).
Возможно, количество нейронов собаки - результат предыдущей жизни в стае, где требуются социальные навыки, т.е. отношения "многие ко многим", что чисто вычислительно в разы сложнее...
Кошка именно что глупее, столько видосов в интернете, где они "зависают" когда на голове что-то есть или перед зеркалом
Многие путают бытовую хитрость и интеллект...
Очень точное замечание:)
Я бы даже рискнул экстраполировать в том смысле, что простоватое и бескорыстное поведение на самом деле умнее вот этого самого "себе на уме":))
Не знаю, в каком это понимании кошка умнее собаки. Вообще, вопрос сравнения интеллекта разных видов очень сложный.
Именно в житейском. Когда человек говорит «умнее», сравнивая животных, это значит, что поведение более «умного» представляется более сложным, многофакторным...