@sergey_m > а каких-то гарантий что генератор мистических текстов работает строго в наших а не в чьих-то ещё интересах

А это в принципе может стать невозможно при определенной сложности. Наверняка такие системы будут в будущем и самообучаться, а чему они научились для конкретного случая и точно ли сами или им помог кто - это даже по конечному результату может быть неясно.

И ладно ещё программирование, я вот вполне могу представить как таким образом будут какие-нибудь процессоры разрабатывать или лекарства. Возможно, даже под конкретный случай. Придёшь такой к кибердоктору, он замерит твои показатели и скажет - нейросеть постановила пить вот эту формулу три раза в день, только что её составил, сейчас наварю и налью :)