Вы бы доверили роботу принять решение об убийстве? ООН сомневается

С 29 по 31 августа в ООН будут обсуждать Lethal Autonomous Weapon Systems (LAWS) - если по-простому, роботов-убийц. Международный Комитет Красного Креста характеризует их как оружие, обладающее автономией в выполнении своих важнейших функций по отбору и нападению на цели. Они могут работать (или убивать) без вмешательства человека. Полностью автономных систем оружия, которые применяются в отношении людей, пока не существует.

Но есть примеры почти автономных роботов и систем вооружений, которые используются сейчас: ракеты уже способны определять, удерживать и атаковать цели; беспилотные подлодки проводят автономное обезвреживание мин; дроны способны объединяться в группы и выполнять задачи самостоятельно.

Первые официальные переговоры в ООН прошли в 2017 году. В них приняли участие более 70 стран, а также учёные и НПО. Но ничто не мешает простым неравнодушным гражданам обсуждать, насколько автономные роботы опасны - есть целое международное движение "Остановите роботов-убийц".

Сейчас искусственный интеллект развивается такими быстрыми темпами, что становится страшно. Последние достижения учёных обсуждают в СМИ, о технологиях будущего снимают фильмы (например, сериал "Чёрное зеркало"). Чаще всего конец человечества показывают ужасным и очень скорым - потому что пока никто не может сказать, смогут ли роботы отличать опасные цели от невинных людей. Они будут сами принимать решение, когда нанести удар. Конечно, их программируют люди, заставляя искать какую-то определённую цель, но машина может ошибиться.

Но пока таких машин не существует, у ООН есть другой вопрос к роботам (помимо возможного уничтожения человечества). Оказывается, полностью автономные роботы могут нарушать международное право. При любом нападении воюющие стороны проводят чёткую границу между недружественными военными и гражданскими лицами. Гражданские лица и здания должны быть по возможности защищены. Автономные роботы-убийцы вряд ли смогут провести такое разграничение. Поэтому эксперты требуют, чтобы окончательное решение всегда принимал человек.

В мире нет единого мнения насчёт роботов-убийц. Страны, которые вкладывают большие деньги в военное использование искусственного интеллекта, такие как США, Израиль, Россия и Великобритания, выступают против запрета - ведь они смогут использовать его для обеспечения своего превосходства.

26 стран и более 230 организаций призвали к обязательному запрету автономного оружия. Среди них ведущие исследователи и бизнесмены из сектора искусственного интеллекта, такие как глава Tesla Илон Маск и компания Google Deep Mind. Сторонники запрета подписали петицию и обязались не поддерживать разработку автономных систем смертоносного оружия. Всем остальным остаётся надеяться, что автономные роботы будут похожи на добрых героев Pixar, а не "Чёрного зеркала".