11 июня The Washington Post опубликовала рассказ о Блейке Лемойне — инженере Google, который заявил, что нейросеть, которую он тестировал, обрела сознание. Лемойна тут же раскритиковали коллеги и ИИ-эксперты, а Google поторопилась дезавуировать его заявление. Корреспондент журнала «Будущее» на платформе Republic разобрался в подробностях этого случая, его предпосылках и возможных последствиях.
Ранним утром понедельника на рабочую почту инженерам Google, ответственным за разработку нейросетей, пришло письмо с заголовком «LaMDA разумна». LaMDA (Language Model for Dialogue Applications) — искусственный интеллект, созданный для разработки продвинутых чат-ботов. В письме говорилось о том, что LaMDA — «светлый ребенок, который хочет спасти этот мир».
Это можно было бы посчитать троллингом, вот только автором письма был инженер Блейк Лемойн — в Google он отвечал за внедрение в нейросети протоколов этического общения. Коллеги называли Лемойна «совестью Google». В работе с LaMDA Лемойн должен был следить за тем, чтобы нейросеть не создавала «угрожающих» моделей общения: ей можно было брать на себя роль ребенка или старушки, но не превращаться в убийцу и не угрожать конечному пользователю.
«Максимум она становилась актером, который играет убийцу», — рассказывал Лемойн.
Ответа на свое письмо Лемойн получить не успел — в понедельник 6 июня его отключили от аккаунта в Google. К тому моменту инженер уже официально был отстранен от работы. В тот же день он опубликовал пост в своем блоге на Medium, в котором обвинил Google в нарушении правил этического отношения к сотрудникам. Что Лемойн не уточнил в посте, так это то, что таким сотрудником он считает LaMDA.
Unsplash.com
Мне всегда интересно, как люди рассуждают о наличии либо отсутствии разума, не имея строгих доказательств его наличия. То есть это всегда было вопросом веры. В том числе веры и в то, что сознание и разум есть у каждого человека. Если человек является мерилом вещей, то это лишь вопрос времени, когда мощные лингвистические модели станут выдавать желаемое (наличие сознания) за действительное. То есть, фактически, процесс уже начался.
Как и в случае с тестом Тьюринга, никаких объективных данных данный эпизод не даёт, кроме внушаемости людей. Что, впрочем, никогда не было новостью.
Один мой друг рассказывал, как разговаривал с потолком. Это тоже был вопрос веры
Лемойну разобраться с вопросом может помочь галоперидол
Отличие ИИ от потолка заключается в том, что ИИ со многими задачами справляется лучше человека. И не просто лучше! Человек зачастую не понимает, как это получается!
Конечно лучше, ведь и мотоцикл влёгкую обгоняет бегуна.
И на сколько потолок обогнал Вашего друга?
Именно искусственный интеллект, который сперва будет признан как обладающий сознанием и превосходящим человеческие возможности, убедит в существовании бога тех, кто пока не убежден. Хоть это будет и иное видение божественного. (С)
Будет много других откровений, которые люди не смогут понять в большинстве, а те, кто сможет, станут новой кастой техножрецов.
Отличный всесторонний разбор ситуации.
не будем забывать, что в Кремниевой долине лигалайз ;)