@sergey_m > а каких-то гарантий что генератор мистических текстов работает строго в наших а не в чьих-то ещё интересах

А это в принципе может стать невозможно при определенной сложности. Наверняка такие системы будут в будущем и самообучаться, а чему они научились для конкретного случая и точно ли сами или им помог кто - это даже по конечному результату может быть неясно.

И ладно ещё программирование, я вот вполне могу представить как таким образом будут какие-нибудь процессоры разрабатывать или лекарства. Возможно, даже под конкретный случай. Придёшь такой к кибердоктору, он замерит твои показатели и скажет - нейросеть постановила пить вот эту формулу три раза в день, только что её составил, сейчас наварю и налью :)

@sergey_m @shuro
> а каких-то гарантий что генератор мистических текстов работает строго в наших а не в чьих-то ещё интересах

Генератор мистических текстов работает настолько объективно, насколько полными были данные для обучения. Чаще всего эти данные органик, т.е. взятые из дикой природы, собранные с живых людей со всеми их недостатками и предрассудками. Поэтому все эти генераторы часто получаются расистами, матершинниками, и вообще полными отморозками. Вообще это очень большая проблема, которую ученые по ИИ все пытаются решить. Но как говорится, garbage in - garbage out, чем нейронку накормишь, то она и будет производить. И соблюсти хоть чьи-то интересы тут, не то чтобы даже сложно, а как бы не является еще даже сколько-нибудь приоритетной задачей, пока что.