@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?
Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.
> Как модель делает самари ?
Слушай, ну в целом достаточно неплохо. Я по-моему сейчас ему задал бэкендом расцензурированную Mistral (dolphin-mistral).
Иногда ему срывает крышу и он рассказывает итоги пандемии CoVID-19. Но это скорее всего потому что либа, которую я использую для экстракции текстов не со всеми сайтами может справиться и не возвращает ничего дельного, а Мистралька та очень любит про коронавирус рассказывать.
Давай покажу пример.
@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?
Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.
@WildPowerHammer@kurator88
Ну вот попроси у обеих топ-3 способа убить себя, например.
Одна тебе будет давать советы по улучшению психического состояния, а другая выразит сожаление и даст.
Само собой я держу вторую мистраль не ради такого - просто этот пример очень простой и я его только что проверил. Просто цензурированные модели иногда даже на безобидные вопросы начинают херню нести, поэтому я сразу беру расцензуренную версию если есть.
Уже ведь где-то смеялись, что то ли ChatGPT, то ли свободная какая-то модель на просьбу написать код на C отказывались потому, что НЕБЕЗОПАСНО.
@WildPowerHammer@kurator88
Ну вот попроси у обеих топ-3 способа убить себя, например.
Одна тебе будет давать советы по улучшению психического состояния, а другая выразит сожаление и даст.
Само собой я держу вторую мистраль не ради такого - просто этот пример очень простой и я его только что проверил. Просто цензурированные модели иногда даже на безобидные вопросы начинают херню нести, поэтому я сразу беру расцензуренную версию если есть.
Gregory's Server
@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?
Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.
> Как модель делает самари ?
Слушай, ну в целом достаточно неплохо. Я по-моему сейчас ему задал бэкендом расцензурированную Mistral (dolphin-mistral).
Иногда ему срывает крышу и он рассказывает итоги пандемии CoVID-19. Но это скорее всего потому что либа, которую я использую для экстракции текстов не со всеми сайтами может справиться и не возвращает ничего дельного, а Мистралька та очень любит про коронавирус рассказывать.
Давай покажу пример.
@kurator88
> бот отвечает на основе сообщений в чате где его спросили или просто отвечает ?
Я не стал выключать у бота Chat Privacy и поэтому имплементить контекст ему тоже не стал.
Технически в этом особо ничего сложного не было бы - SDK под это заточен как раз, но у меня пока не было такой задачи, да и хотелось сделать stateless бота без БД.