Пересказ книги «Если… то» (If…Then. Algorithmic Power and Politics) Таины Бучер, эксперта по вопросам медиа и информационных технологий из Университета Осло. Выпущенная в 2018 году книга получила преимущественно положительные рецензии: «Настоящее наслаждение слышать голос молодого ученого, который и впрямь разбирается в том, как культура алгоритмов влияет на повседневную жизнь», – так оценивает работу Бучер ее коллега из Утрехтского университета Хосе ван Дайк. По мнению Бенджамина Якобсена из Университета Йорка, этот труд будет «весьма полезен тем ученым и исследователям, которые захотят понять всю силу алгоритмов».
Контекст
Современный мир наполнен алгоритмами. Они указывают, что нам читать, на что смотреть и даже с кем общаться. Они способны ошибаться и называть людей с темным цветом кожи «обезьянами». Помогают ли они или вред от ошибок алгоритмов куда сильнее пользы? Знаем ли мы вообще, что такое алгоритм? На эти и другие вопросы пытается ответить автор книги «Если…, то» Таина Бучер.
Что такое алгоритм
Есть множество определений алгоритма. Самое распространенное: алгоритм – рецепт, то есть пошаговое руководство по достижению определенной цели. Как кондитер производит кекс, следуя пошаговой инструкции, так программа или система обрабатывает информацию по специальному алгоритму. Без этих знаний и рекомендаций о том, как смешивать яйца или когда добавлять муку, ингредиенты останутся лишь отдельными продуктами; так и набор информации, не систематизированный и не обработанный алгоритмом, остается лишь набором чисел. В первую очередь алгоритмом определяется, что и когда должно случиться.
Создание алгоритма для решения проблемы часто подразумевает ее упрощение. С технической точки зрения, операции ограничиваются не только мощностями, эффективностью и временем, но и элегантностью написанного кода.
> Алгоритмы в первую очередь используются в машинном обучении
Если это из книги, то тираж изъять, автора отправить читать Кормэна и Скиену до полного просветления.
Если из статьи — то, видимо, нужно корректировать текст аккуратнее.
С машинным обучением проблема как раз в том, что оно не строго алгоритмическое: автор, натренировавший нейросеть, не может описать, что именно сеть делает при работе. То есть нарушается как минимум одно определение алгоритма, приведенное абзацем выше.
ну пока что такие инциденты, типа удаления фотографий происходят из-за того, (1) что их удаляет низкооплачиваемый неквалифицированный персонал. и (2) перекоса в технологии. из-за того, что код пишется самоуверенными людьми, которые не представляют все случаи использования и чьи гипотезы никто не проверяет. В обоих случаях речь идет о некомпетентности менеджмента и о желании сэкономить. а до произвольного блокирования по непонятным критериям нам ещё далековато. Это все вы замечательно увидите, если вам придется переписываться, например, с поддержкой гугла из-за удаления ваших приложений или попытаетесь восстановить заблокированный аккаунт в амазоне
Здесь даже нет необходимости предполагать некомпетентность менеджеров и самоуверенность разрабов. Ошибки совершают абсолютно все разрабы вне зависимости от самоуверенности. Просто компании типа ФБ могут позволить себе некое количество ошибок без серьёзного ущерба для бизнеса, да и бюджет у них всё-таки не бесконечно большой.
даже более того, они могут без последствий нанимать некомпетентных, но высоко-мотивированных и исполнительных менеджеров. я много сталкивался с этим некомпетентным гугловским молодняком без чувства юмора и с большим желанием выбиться в люди. впрочем этой мрази всегда было много и в советское время в управлении и сейчас. взять тот же селигер или ту же тину канделаки
Согласен
Неужели книга такая же слабая как её пересказ?
Очень-очень бестолковый, рыхлый, бессвязный текст. Программные приложения, реализующие алгоритмы машинного обучения на основе модели восстановления данных по прецедентам названы алгоритмами... В качестве основного приложения "алгоритмов" педалируется какой-то фейсбук. А что это такое? Вот я, например, не знаю (реально, без троллинга) и живу без проблем. Расскажите что это такое?
А ещё какой-то тырнет говорят существует... не знаете что это?
Ну как же - знаю. Я там статьи на Репаблике читаю. А фейсбук... Слышал, но понятия не имею что это такое (реально, без троллинга).
обещаю, пересказ книги про TikTok будет куда сильнее
Несколько уточнений
1-е распространённое заблуждение, что алгоритм умнее человека, нет, уровень интеллекта чтоб распознать картинку достаточно как у животного или малого ребёнка, только детей закон не позволяет нанимать в модераторы, а ИИ практически забесплатно можно.
2-е от масштабируемости ИИ становится умнее, опять нет, если вы соберёт миллион глупцов то толпа получится не в миллион раз умнее а в миллион раз глупее поскольку сделает в миллион раз больше глупостей.
3-е нельзя понять логику ИИ, опять лукавство, алгоритм все свои действия логирует в т.ч. для дальнейшего обучения, но для прочтения логов нужно работа десятки человек-часов высокооплачевыемых специалистов, это обойдётся в много тысяч долларов, выгоднее сказать что это невозможно.
От масштабируемости ИИ становится умнее. При этом другие проблемы появляются, но не суть. Чем больше узлов в нейросети - тем сложнее алогоритмы обработки.
Я вам открою страшныю тайну. Нейронная сеть без обратной связи (feedforward neural network) - это просто очень длинная формула. А т.н. «обучение» - просто задача минимизации, подгонка коэффициентов под известный ответ (а затем предполагается, что «обученная» формула экстраполирует накопленное таким образом «знание» на неизвестные ответы). Например, популярный способ «обучения» методом обратного распространения ошибки (backpropagation) - это просто реализация известного всем с раннего детства метода градиентного спуска. Короче, если немного разобраться, то всё это может оказаться гораздо проще, чем выглядит на первый взгляд :)
.
Как вам кажется, может ли формула быть умной?
.
Конечно, в этой сфере существуют и менее очевидные штуки, типа самообучающихся сетей с обратной связью, сетей с нечёткой логикой, с какими-нибудь там встроенными случайными помехами и т.п. - это уже интереснее, но у меня есть стойкое ощущение, что для большинства реальных задач используется просто скучная формула, а нам её выдают за ИИ, чтобы надуть щёки и продать подороже.
Вы путаете этап обучения (там количество узлов важно) и этап эксплуатации алгоритма полученного в результате обучения.
В частности у анти-фрод машины эти алгоритмы не слишком сложные.
Так этож единый процесс ))) В гуглкапче вы тыкаете на картинки с мостами и тем самым попутно обучаете сеть распознавать картинки.
Нет, не единый, это физически разные сети. Как разные полушария мозга, только у нейронок как у дельфина одно полушарие бодрствует, а другое спит и во сне обрабатывает информацию и обучается.
спс, не знал )
Если в фейсбуке алгоритм решает, удастся ли вам пересечься с одноклассником, которого не видели много лет, или узнать какую-то новость третьего порядка, то в реальной жизни это решает случай, судьба.
И если в реальной жизни можно активно пытаться влиять на свою судьбу, или попросить её (талисманы, магические ритуалы, молитвы и т.п.), то в виртуальной жизни есть лицо, на которого можно попытаться надавить, чтобы он поменял алгоритм.
Это лицо мультимиллиардер Марк Цукерберг. Надавить на него вам весьма проблематично ввиду сильно разных финансовых весовых категорий.
Так желающие надавить делают это коллективно и косвенно (путём давления на правительства). Поэтому и такому тяжеловесу приходится оправдываться...