Email or username:

Password:

Forgot your password?
Top-level
kurator88

@skobkin бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?

Как модель делает самари ?

7 comments
Alexey Skobkin

@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?

Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.

> Как модель делает самари ?

Слушай, ну в целом достаточно неплохо. Я по-моему сейчас ему задал бэкендом расцензурированную Mistral (dolphin-mistral).

Иногда ему срывает крышу и он рассказывает итоги пандемии CoVID-19. Но это скорее всего потому что либа, которую я использую для экстракции текстов не со всеми сайтами может справиться и не возвращает ничего дельного, а Мистралька та очень любит про коронавирус рассказывать.

Давай покажу пример.

@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?

Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.

kurator88

@skobkin а треды в федерации не пробовал ему давать как задание ?

Наверное снова будет про ковид

Alexey Skobkin

@kurator88
Да, он мастодон не осиливает.
Я там goose взял, если что.

kurator88

@skobkin яндекс короткое содержимое тоже не может в пересказ

Alexey Skobkin

@kurator88 Я вот не удивлюсь если у них там тоже гошечка и гусь, лол.

WildPowerHammer

@skobkin

>Я по-моему сейчас ему задал бэкендом расцензурированную Mistral (dolphin-mistral).

Прошу прощения, но мне почему то казалось что Mistral сам по себе не зацензурен, что именно разцензуривается в dilphin-mistral? Или я как обычно, что то перепутал?

@kurator88

Alexey Skobkin

@WildPowerHammer @kurator88
Ну вот попроси у обеих топ-3 способа убить себя, например.
Одна тебе будет давать советы по улучшению психического состояния, а другая выразит сожаление и даст.
Само собой я держу вторую мистраль не ради такого - просто этот пример очень простой и я его только что проверил. Просто цензурированные модели иногда даже на безобидные вопросы начинают херню нести, поэтому я сразу беру расцензуренную версию если есть.

Уже ведь где-то смеялись, что то ли ChatGPT, то ли свободная какая-то модель на просьбу написать код на C отказывались потому, что НЕБЕЗОПАСНО.

@WildPowerHammer @kurator88
Ну вот попроси у обеих топ-3 способа убить себя, например.
Одна тебе будет давать советы по улучшению психического состояния, а другая выразит сожаление и даст.
Само собой я держу вторую мистраль не ради такого - просто этот пример очень простой и я его только что проверил. Просто цензурированные модели иногда даже на безобидные вопросы начинают херню нести, поэтому я сразу беру расцензуренную версию если есть.

Go Up