Хотя, я вот на оффлайн-модели на 33b попробовал и она попадает где-то в треть слов, т.е. что-то предсказать может. У ChatGPT 3.5 размер гораздо больше, вероятно, этого достаточно, чтобы попадать точно.