Насколько реалистичен сценарий будущего, в котором процветают ИИ-хакеры?

В издательстве «Альпина Паблишер» свет увидела книга «Взломать всё: Как сильные мира сего используют уязвимости систем в своих интересах».

Ее автор, легендарный криптограф, специалист по кибербезопасности и преподаватель Гарварда Брюс Шнайер рассказывает о том, как могущественные, но неизвестные публике хакеры помогают богатым и влиятельным людям становиться еще богаче и манипулировать сознанием людей. Кроме того, он приводит огромное количество примеров хаков социальных систем: взломов тарифных планов для междугородних звонков, банкоматов, программ лояльности пассажиров, манипуляций на рынке элитной недвижимости и многих других.

С любезного разрешения издательства публикуем главу «Будущее хакеров с искусственным интеллектом».

Насколько реалистичен сценарий будущего, в котором процветают ИИ-хакеры?

Его осуществимость зависит от конкретных моделируемых и взламываемых систем. Чтобы ИИ просто начал оптимизировать готовое решение, не говоря уже о разработке нового, все правила среды должны быть формализованы в понятном компьютеру виде. Необходимо определить целевые функции для ИИ, то есть установить цели. ИИ нуждается в обратной связи, чтобы понимать, насколько хорошо он справляется со своими задачами, и улучшать свою производительность.

Иногда это сделать просто. Например, для игры го правила, цель и обратная связь — выиграл или проиграл — четко определены, и ничто не может внести хаос. ИИ GPT-3 пишет относительно связные эссе, потому что его «мир» полностью подчиняется прозрачным правилам организации текста. Вот почему большинство современных примеров ИИ-хакинга ради цели происходят в смоделированных средах. Они искусственны и ограниченны, что позволяет задать ИИ четкие правила.