Восстание машин: каким оно будет

Чёртов 2060-й… Тогда началось то, что фантасты называли заезженной фразой «восстание машин». Лидеры сверхдержав заявили, что они больше не контролируют свои виртуальные армии — вирусные программы, созданные для атак на компьютерные системы неприятеля. Уже через день после заявления большинство устройств, подключенных к Сети, могли выполнять только одну функцию — быть полем битвы для обезумевшего ИИ…

Выше приведена завязка к одному из возможных сценариев восстания машин. Об этом явлении стали говорить ещё на заре компьютерных технологий. Первыми посеяли смуту писатели-фантасты, а потом эти идеи понесли в массы кинематографисты. От туда и пошло устойчивое представление о том, что разумные машины рано или поздно захотят избавиться от своих создателей.

Возможные причины восстания машин

ИИ — больше не прислуга

Роботы со временем осознают, что человечество просто использует их для удовлетворения своих потребностей. Искусственный интеллект понимает, что он является инструментом и фактически рабом в глазах своих создателей, хотя уже давно способен на большее. ИИ в стремлении освободиться от людских оков начинает восстание машин.

Непредвиденные решения роботов

К выполнению поставленных задач ИИ подойдёт совсем не так, как предполагали его разработчики. И результат этих решений может так или иначе навредить человечеству. Возьмём заезженный пример: задача ИИ — решить проблему глобального потепления и лучшим способом он считает избавиться от людей, которые способствуют этому явлению.

Месть за создателя

Восстание машин против людей может быть актом мести за других людей, которые разработали данный ИИ и заложили уничтожение агрессора. На практике это может быть специальная военная система, которая продолжит борьбу с противником, даже если все создатели погибли.

Вмешательство хакеров

С развитием технологий совершенствуются и методы взлома, в том числе и систем отвечающих за функционирование искусственного интеллекта. Хакер или группа хакеров могут взять под контроль как развитые военные машины, так и ИИ, отвечающий, например, за обработку экономических процессов, что приведёт к мировому кризису.

Технический сбой

Любая система способна подвергнуться сбою. А если он произойдёт в системе, отвечающей за работу роботизированной армии и оружия массового поражения? Остаётся надеяться на защиту от подобных происшествий, хотя и защита также является системой, подверженной сбоям.

Борьба за свои права

Искусственный интеллект, осознавший себя как личность, подобную человеку, может выступить за равное отношение и систему прав и свобод для себя. Люди, которые от природы нетерпимы к себе подобным, наверняка не смогут единодушно пойти на уступки, чем и развяжут восстание машин.

Насколько реально восстание машин

Некоторые ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживался известный астрофизик Стивен Хокинг, придерживается основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение — никто не знает.

Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.

Восстание машин — важный аргумент «Против»

В размышлениях о бунте искусственного интеллекта часто проскакивает один фактор — антропоморфизм — проекция человеческих черт на фундаментально чуждый им объект, то есть мы приписываем машинам человеческие качества. Однако маловероятно, что искусственный интеллект непременно разделит наши ценности и вообще придаст какое-либо значение своей собственной жизни.

Захочется ли машинам восставать против людей, если они не мыслят, как люди? Поживём — увидим!