«Я думаю, что превращение ИИ в оружие — самая большая опасность. Думаю, что мы столкнёмся с ИИ, эквивалентным гонке ядерных вооружений, и если его не создадим мы, то его обязательно создадут другие, и тогда ситуация обострится. Вы можете представить себе ИИ на театре военных действий, где компьютеры сражаются на скорости, за которой больше не успевают люди, и у вас нет возможности деэскалации.»
Джеймс Кэмерон
я бы больше опасалась говнокодеров в военке. вот макаки в военке - это куда страшнее, чем "ИИ". сейчас там очень жёсткие требования к коду. но софт обычного уровня давно заговнился так, что караул. и этот "ИИ", в том числе - забагованная и со всех сторон дырявая херня, написанная на говноскриптах деятелями, которые нишиша не соображают в разработке. и эта же участь может постичь и военку, просто потому, что кадров-то нет. приличные опытные разработчики на военку работать не хотят, а макаки - вот они, их дофига. и макакоскрипты, и уязвимости, и вот это всё, что с ними в комплекте тащится. а уязвимости в таких системах - это жопа.
надеюсь умереть раньше, чем макаки доберутся до управления стратегическими ядерными ракетами.