#llama.cpp #llm #? @rf @ru
Мне кажется или CLI llama.cpp разучился вытирать реверс-промпт из ChatML-ответов?

$ llama-cli -m ./models/openhermes-2.5-neural-chat-7b-v3-1-7b/ggml-model-q5_k_m.gguf -n -1 -t 4 --color -f prompts/chat-with-chatml.txt --prompt-cache ./models/openhermes-2.5-neural-chat-7b-v3-1-7b/ggml-model-q5_k_m_chat-with-chatml.txt.prompt --ctx-size 2048 -cnv --in-prefix '<|im_start|>user\n' --in-suffix '<|im_end|>\n<|im_start|>assistant\n' --reverse-prompt '<|im_end|>' --chat-template chatml
...

== Running in interactive mode. ==
- Press Ctrl+C to interject at any time.
- Press Return to return control to the AI.
- To return control without starting a new line, end your input with '/'.
- If you want to submit another line, end your input with '\'.

<|im_start|>system
You are a helpful assistant<|im_end|>
<|im_start|>user
Hello<|im_end|>
<|im_start|>assistant
Hi there<|im_end|>
<|im_start|>user
Who are you<|im_end|>
<|im_start|>assistant
I am an assistant<|im_end|>
> Howdy?
Hello again<|im_end|>
>

Вот чего он этот "<|im_end|>" мне показывает?!

Длиннопост, если шарите за #lisp языки разметки и #zettelkasten, прошу вашего совета )
@rf@mastodon.ml

Есть много разных стандартов и форматов текстовой разметки, но... так как меня не устраивает полностью ни один не нравится я решил написать свой ​:blobcatgun:​ хыхы https://xkcd.com/927/.

Вот примеры синтаксиса:
LaTeX: \{ текст }
html: <СПЕЦ-СЛОВО> текст </СПЕЦ-СЛОВО>
BBCode: [СПЕЦ-СЛОВО] текст [/СПЕЦ-СЛОВО]
Textile: КОМБИНАЦИЯ-СИМВОЛОВ текст КОМБИНАЦИЯ-СИМВОЛОВ
даже misskey: $[СПЕЦ-СЛОВО текст ]

но суть одна, функция воспринимаемая текстовым движком и сам текст.

Везде в том или ином виде есть скобочки:
обычные () квадратные [] фигурные {} такие <> или даже такие " " и ' ' т.к. выполняют ту же функцию.

Есть спец символ особое свойство применяется от него него и до конца строки или пробела:
# ` ! ? \ * + - и пр.

Писать я планировал на #scheme #lisp исходя из концепции что весь мой текст это просто список: из собственно слов, других списков и вычислимых функций (отобразить заголовок, жирный/курсив/моноширный, ссылку и пр - ну т.е. провести операцию над списком слов).

Чтож если лисп то хотелось бы использовать https://ru.wikipedia.org/wiki/Гомоиконичность на полную и чтоб заметки можно было писать рядом с кодом программы.

И тут возникает пара проблем (да я наконец-то перехожу к сути вопроса):
- символ ; используется для комментариев и всё что идёт после него - не учитывается. А в обычных текстах он встречается довольно часто, так что приходится его экранировать с помощью кавычек "текст" или 'текст'. Но кавычки тоже используются часто и если одни поставить внутри других то получится что:
"нормально закавычено"вне кавычек"в кавычках".
Ладно, можно закавычивать одни кавычки другими, и... это ещё сильнее усложнит синтаксис...
Кто знает как проще?

Я не хочу городить что-то мегапереусложнённое как HTML, а материалистичности markdown мне мало.
Склоняюсь к лисп адаптированному latex, но тут тоже свои заморочки.

ВСЕ КТО ШАРИТ, ПРОШУ СОВЕТОВ И ИДЕЙ!

Феди, я в этом году столкнулся с суровой проблемой - я не знаю что дарить своим крестникам на Новый год. У меня 5 парней(6-12 лет) и 1 девочка (12 лет). С девочкой всегда были проблемы, но жена помогала во всяких летуалях девьчией косметики выбрать и в этом планирую так же, но вариант что-то другое интересное приветствуется. Парням я дарил квадрокоптеры размером с ладонь, лего, радио-машинки, в том году всем дарил по игровой приставке Анберник. В общем все то, чего мне хотелось в детстве. Что я могу подарить хорошего и достойного парням от 6 до 12 лет? Ценник до 6к на одно лицо. Подсказывайте и выручайте, пожалуйста. @rf @Russia

Меня периодически спрашивают, когда @mastogram станет OpenSource. И когда собеседник получает ответ "никогда", реакция бывает весьма забавной. Сначала — "почему?", а потом, бывает, даже возмущение: мол, как же так, нехорошо! Обычно добиваю "шуткой" про введение Premium-функционала.

Самое интересное, что за open-source чаще всего топят software-разработчики — те самые, кто ходят на работу и получают вполне приличную зарплату за свой труд. И каждый раз у меня в голове громко звучит вопрос: почему это я должен писать свой код бесплатно или стоять с протянутым криптокошельком, выпрашивая подачки у прохожих?

Легко быть офисным Че Геварой, когда кормушка гарантирована! Таким "революционерам" я всегда желаю одного: уволиться с работы и попробовать себя в чистом, неподдельном альтруизме. Без лицемерия.

#notg
@rf