@dettlaff надо ещё что бы с учётом контекста.
Можно просто хранить где-то дамп истории чата и как-то вручную указывать какой контектс скармливать модели