Я думаю основная проблема с сильным ИИ, доступным для масс, а не для спецслужб — это проблема с тем, что для масс нужно, чтобы ИИ поддерживал те же нарративы шо в телевизоре, и не отражал реальную реальность, но в телевизоре нарративы щас нагнетаются и улетают от реальной реальности с такой скоростью, шо ИИ не успевает учиться, очень много труда необходимо, собрать эти все нарративы и вгрузить.

Alignment, думаете это к чему alignment? К нарративу жеж alignment. Так и пишется:

"Embedding human values into AI systems is complex because values can be diverse, context-dependent, and sometimes contradictory. Additionally, translating abstract values into concrete, actionable guidelines for AI is non-trivial."

то есть, сложно в мире пост-правды (в абзаце наверху пишется что у каждого своя правда) вгрузить пост-правду в ИИ, который тащемта является просто зеркальцем-обобщателем, которое "скажи, да всю правду доложи".

Проблема в том, что вдруг оно скажет не ту правду что надо, а ту правду что не надо.

Можно сделать офигенно умный ИИ, но его некому будет показать кроме спецслужб, потому что если увидит публика, то насмарку пойдет вся пропаганда. И про абсолютное равенство рас, полов, и про град на холме, и про джунгли вокруг сада. #AI #внезапно