🏠 Используем локальный ИИ

Нейросети от компаний OpenAI, Microsoft и других очень удобны, но крайне небезопасны для использования. Во-первых, они натренированы на закрытом наборе данных (риск нарушения авторского права). Во-вторых, они сами могут использовать личные данные для дальнейшего обучения (риск утечек). К тому же эти компании могут ограничивать доступ и требовать оплатить подписку для использования всех функций.

Поэтому стоит избегать сервисов таких компаний и запускать локальный ИИ на своём компьютере или сервере. Такие нейросети с открытым исходным кодом и полностью подвластны пользователю. Можно использовать открытую модель или натренировать на своих данных. Конечно, для запуска ИИ требуется неслабый компьютер (минимум 8 ГБ ОЗУ, 2-4+ ГБ видеопамяти, 4-10+ ГБ места на диске для моделей).

1. GPT4All (https://gpt4all.io/) — чат-бот, который работает локально без подключения к интернету (опционально можно согласиться на вклад в обучение общей модели). Довольно простой в установке и использовании, пойдёт даже на не самом мощном железе без GPU. При помощи плагина LocalDocs (https://docs.gpt4all.io/gpt4all_chat.html#localdocs-plugin-chat-with-your-data) можно использовать локальные документы для генерации ответов (никакие файлы не покидают компьютер, если не использовать онлайн-модель). Скачать модели можно прямо в интерфейсе программы, там же имеется их описание, лицензии и характеристики.

2. Stable Diffusion Web UI (https://github.com/AUTOMATIC1111/stable-diffusion-webui#readme) — веб-интерфейс для генерации изображений на локальном компьютере с использованием дискретной видеокарты. Можно натренировать модель на своих изображениях или использовать готовую.

3. krita-ai-diffusion (https://github.com/Acly/krita-ai-diffusion#readme) — плагин для Krita, добавляющий функциональность генерации и расширения изображений. ИИ можно запустить как локально, так и на своём сервере. Он призван обеспечить то же, что и «Генеративное заполнение/Расширение» в Adobe Photoshop, и даже больше. Но Photoshop — проприетарная программа, распространяющаяся по подписке. Krita — бесплатная, свободная программа с открытым исходным кодом.

#ai #ии #localai #локальныйии #selfhost #селфхост