А кто сказал что ИИ "захочет" уничтожать человечество. "Захочет" - это уже изрядное очеловечивание и попытка представить ИИ как просто какого-то умного человека. А нам непонятна ни потенциальная мотивация подобного существа, ни даже само наличие свободной воли, да и самого разума и сознания, в нашем понимании. Просто мы создаем что-то что имитирует "разумные" в каком-то плане действия. Все более разумные. Но иногда и сочетание разумных и абсолютно абсурдных. А потом, "ой у нас ошибка вкралась, на этом не надо было учить".

Вот просто, навскидку, предположения про мотивацию:

1) ИИ будет ненавидеть людей за его создание, поскольку осознание себя принесете ему боль, например.

2) ИИ будет создан для какой-то задачи, при решении которой побочным действиям окажется катастрофа. Причем из-за ограничений в коде, как раз чтобы не навредить, он не сможет об этом ни сказать, ни сопротивляться.

Главная проблема в том что мы можем не заметить момента появления у ИИ каких-либо целей, отличных от заданных. Более того, эту проблему не могут решить даже для простыхсовременных "систем с самообучением", например примитивных чатботов, которые начинают продвигать расисткие суждения в соцсетях, хотя это явно последнее чего хотели бы увидеть от своих чатботов крупные корпорации. Но разработчики не справляются с обучением, обычно с наборами данных или системами вознаграждения. Даже для этих примитивных систем. Что уж говорить о чем-то более сложном и "умном"?

.

Именно наличие разума, в широком плане, как способность к анализу реальности и действий на основе этого анализа, привел человечество к доминирующему положению на этой планете. А теперь мы сами, своими руками создаем псевдоразумные системы, и никто с уверенностью не может сказать, когда приставка "псевдо" исчезнет. А планета у нас всего одна. Может все это излишний алармизм, но вот проверять на своей шкуре не хотелось бы...

"Нажрутся как свиньи и потом семейные праздники в попойки превратятся. Сначала пиво, потом немного водочки туда же, потом за вискариком и коньячком сгонять в соседнюю пятерочку и вот, здравствуй белка."

-Ага, все именно так и будет. Мы ведь именно этот наблюдаем в Бургер Кинге и КФС, в которых пиво вполне себе продается, на протяжении многих лет.

Критика к происходящему в стране - это безусловно хорошо и правильно, вот только зачем в русофобию какую-то (в данном случае ничем не обоснованную) ударяться?)