Искусственный интеллект игры вышел из-под контроля (но никто этого не заметил)

Нас пугают научно-фантастическими фильмами с непобедимыми терминаторами, а корпорации отказываются работать над правительственными проектами по созданию оружия с искусственным интеллектом.

Но ИИ продолжает развиваться и делает большие успехи. Иногда люди этого просто не замечают. Так произошло в онлайн-игре EVE Online, разработанной исландской компанией CCP Games. В ней пользователи бороздят просторы космоса.

В 2017 году разработчики выпустили обновление, которое научило неигровых персонажей (NPC) вести себя более обдуманно. Они стали вызывать подкрепления и лучше адаптироваться к политической ситуации во вселенной игры. Со всеми этими навыками NPC устроили настоящую войну, но никто из живых людей этого не видел.

Разработчики узнали об этом событии совершенно случайно, просматривая файлы со смертями кораблей NPC. Вот как было дело.

Неигровые шахтёры поселились в безопасных землях и добывали ресурсы на астероидах. Ими заинтересовались неигровые пираты и решили на них напасть. Шахтёры погибать не хотели и вызвали на подмогу неигровой флот одной из империй. Помощь пришла скудная. Пираты бы уже могли победить, но тут появилась ещё одна неигровая фракция, претендующая на земли шахтёров. Дальше искусственный интеллект провернул коварную схему: пираты объединились с имперским флотом и победили корабли последних претендентов на земли шахтёров. Потом пираты, разумеется, союзников предали, и земли достались им. Это же пираты, в конце-то концов.

Сейчас разработчики изучают ситуацию и пытаются выяснить, какие опасности может таить в себе искусственный интеллект, за которым никто не приглядывает. Если он уже проворачивает такие фокусы в играх, то, может, не стоит всё-таки использовать его в реальном вооружении?