Размышления об этом помимо прочего оттолкнули меня от мыслей вида "ооо люди агрессивные придурки, развязывают войны, убивают и ненавидят друг-друга и говорят тупые вещи. Вот мы сделаем AGI и он будет нами всеми манипулировать, и все будет харашо"

Дерьмовый паттерн. "Сильная рука" машины хоть и отличается от "сильной руки" вождя тем что прикреплена к значительно менее тупой вычислительной субстанции, но тем не менее, машина будет делать то на что ты ее запрограммируешь, а программируют ее люди. Если AGI будет манипулировать мной не для того чтоб я стала менее агрессивной, а чтоб я уверовала в коммунизм или шариат, я расстроюсь.