ИИ Лучшие сайты/приложения для чата с ИИ

  • Автор темы Автор темы JoaoPeg
  • Дата начала Дата начала
Это больше похоже на фото/видео сервис, чем на текстовый чат, или я не прав?
 
SillyTavern, как уже упоминали другие в этой теме. Опенсорсный фронтенд, который подключаешь к любой LLM на выбор. Можно сделать хоть дёшево, хоть дорого (или вообще бесплатно), качество и скорость ответа зависят от того, сколько готов потратить. Можно тянуть и импортировать карточки персонажей с разных сайтов. Но раз это опенсорс, придётся разбираться с ошибками и понимать, как всё работает, чтобы оно завелось, зато это дешевле любого из этих сайтов, и можно масштабировать и подстроить под себя как угодно. Это не единственный фронтенд, но один из самых популярных.
 
Развлекаюсь с OpenMind

Он на OpenMind.design
 
У меня нет железа, чтобы гонять что-то локально, я пользуюсь этими сервисами на планшете, так что должно быть лёгким, как сайт типа kindroid. Ещё хочу, чтобы всё было максимально без гемора, это я делаю ради фана время от времени, а не как работу или даже хобби
 
Чаты очень хорошие, кастомизация тоже приятная фишка.
Голосовые реплики довольно годные.
Но генерация изображений вообще не учитывает главную картинку персонажа. Сгенерированные картинки выглядят совершенно по-другому, и это, к сожалению, большой минус
 
SillyTavern тоже поддерживает генерацию NSFW-картинок? :peepoSad:

Я ещё сижу на Kindroid (после того как Darlink скатился в говно), но там чего-то не хватает, не могу точно сказать чего. Kindroid надо немного подкручивать, чтобы всё работало нормально, и даже тогда это может бесить, так что я тоже ищу альтернативу. Я не против платить, если оно того стоит.
 
Может, но это просто фронтенд-сервис, который запускается на твоём компе. Его можно запускать и на андроиде, я видел, как люди писали, что гоняют его на телефонах для corinthianultra. Генерацию картинок нужно привязывать к бэкенд-сервису или API. Я с генерацией картинок там никогда не парился, потому что это довольно дорого по сравнению с чат-комплитионом, и надо подстраивать настройки и промпты, чтобы приблизиться к идеальной картинке. Уверен, гайды для этого есть. Настройка SillyTavern требует довольно много усилий/ресёрча от юзера, но если ты хоть немного шаришь в технике, умеешь следовать гайдам и гуглить/спрашивать ИИ, то справишься.

Сайтовые чат-сервисы я пробовал только на бесплатных триалах, но там у всех подписка, иногда подписки поверх базовой и оплата по факту за доп. услуги, и после того как я увидел ограничения чатов/картинок/видео (не по-настоящему новые картинки, а просто достаются из библиотеки уже отрендеренных, достаточно близких к твоему промпту, например), я сказал: не, мне и так норм. Я потратил меньше 20 USD за два года использования. Сам SillyTavern бесплатный, всё зависит только от того, насколько дорогой за токен API-сервис ты хочешь использовать. Загляни в реддит SillyTavern или гайды на ютубе, чтобы понять, твоё это или нет.

Я не могу тут кинуть ссылку, но загугли perchance text to image generation. Бесплатно и разрешает NSFW, можно поиграться. Правда, как API для SillyTavern его использовать нельзя.
 
Ну я к тому, что можно использовать koboldcpp как лаунчер моделей вместо ollama, там уже встроена генерация картинок и аудио. Ещё можно запустить A1111 или comfy ui и подключить свои локальные серверы к silly tavern. Работает, но это не как онлайн-сервисы с доступом к дата-центрам, всё упирается в скорость VRAM твоей видюхи. НО ЭТО БЕСПЛАТНО и работает локально, так что приватнее/безопаснее. Плюс, подключив comfy ui, можно добавлять в воркфлоу самодельные Lora или самодельные чекпоинты, гораздо больше возни, но гораздо больше кастомизации и бесплатно (если железа хватит, чтобы всё это тянуть).
 
Я начинал с erogen.ai, и он до сих пор вполне ничего, но ощущение, что со временем они сильно урезали контент и закрыли пейволлом многие свои лучшие фичи.
 
Локальные модели — это идеал, но по соотношению качества и цены они пока не дотягивают, особенно с этими конскими ценами на видеокарты и 5090, которые сейчас уходят больше чем втрое дороже рекомендованной цены. Не говоря уже о том, что люди до сих пор не нашли решения проблеме с плавящимися разъёмами питания у 5090. Я сам хочу запускать локально, но жду, пока модели станут лучше, цены на GPU упадут или выйдет 6000-я серия с большим VRAM во всей линейке по адекватной цене (лол), а всё это ждать ещё очень долго. По цене и качеству чата то, что я получаю через openrouter или nanogpt, намного доступнее. Хотя если игры на ПК тоже хобби, навороченная видеокарта подойдёт для обоих дел. Но да, если приватность — главный приоритет, то локально — лучший вариант.
 
Что посоветуете для IMG в видео: A2E или Venice studio?
 
Не представляю, как сейчас собирать под это машину. Мне повезло, я собрал новый ПК в 2022-2023: 4070 ti super 16gb примерно за £700, m.2 диски по £30-50. Всего, кажется, потратил £1 220; если бы я пытался собрать то же самое сейчас, по моей сборке в pc part picker выходит £3350.

Я ещё гонял некоторые мелкие LLM и даже генерацию картинок на своей старой gtx 1080 на 8gb. Я лучше отложу эти деньги и накоплю на нормальные комплектующие, чем буду платить за ИИ, но это чисто моё мнение. Большую часть того, с чем хотел поиграться, я уже сделал, так что про оплату даже не думал. Делал inpainting на фото, обучил модель на человеке и сделал модель, которая генерит только картинки этого человека, клонировал голос, делал text to speech, потом image to video, потом text to video, потом добавил клонированный голос в генерацию видео, потом сделал чат-модель с tts на клонированном голосе и подключил к ней генерацию картинок, так что она и картинки мне могла генерить.

Ещё сейчас делаю персонажей и листы лора мира в silly tavern, это сильно помогает направлять всё, думаю, не нужна супер сложная модель, только хорошая проработка персонажей.
 
Для тех, кто хочет генерить эротику, чат-ботов, joi и т.д... у spicywriter сейчас в бесплатном тарифе есть Muse Spark 1.3.

Единственный минус — он может использовать ваши запросы для обучения ИИ Meta.

Для продвинутой модели он довольно способный, но требует более чёткой структуры промпта, чем Sonnet/Opus от Claude. Ещё он склонен воспринимать инструкции буквальнее, чем другие модели.
 
Да, на видеокартах с 8GB VRAM всё ещё можно неплохо поездить. Насколько я понимаю, чтобы тягаться с GLM 5.3 или Kimi K3 (по-моему, качественные, но всё ещё бюджетные) мне нужно в сумме 128 GB VRAM для эквивалентной локальной модели из ollama. И даже тогда будет заметная разница в нюансах, долгосрочной памяти и отслеживании нескольких персонажей. Моя текущая карта тянет некоторые модели, но не думаю, что я смогу запустить что-то, что мне понравится, после того как меня избаловали Opus, Sonnet, GLM и Kimi. Думал обновиться до 5090, чтобы поковыряться с локальными моделями и заодно для игр, но не по таким ценам. Надеюсь, локальные модели станут лучше, а цены на видеокарты упадут, но знаю, что это займёт время. К счастью, у меня есть пара довольно дешёвых вариантов API routing, чтобы продержаться.
 
Любопытство взяло верх, и я попробовал подписку Ultra на FictionLab (25 блядских долларов в месяц. До этого почти год сидел на Plus за $9).

Тем, кто может себе позволить и в основном интересуется генерацией текста для ролеплея, смело советую Arcanum на GLM 5.2 – он просто сносит мои фантазии нахуй. Правда, иногда отказывается генерить инцест-тематику, приходится реролить несколько раз, это немного бесит. Но в целом это охуеть как креативно и весело.

В этом плане Paragon на DeepSeek v4 pro гораздо более всеядный по темам и разрешает почти всё, включая очень жёсткие темы. Так что он хорош, если Arcanum по какой-то причине надоест или захочется чего-то мрачного. Минус в том, что он не такой креативный и иногда думает 30–40 секунд. Arcanum для сравнения отвечает секунды за 2–3.

Но я вряд ли оставлю Ultra ещё на месяц, слишком дорого платить регулярно просто чтобы дрочить, хоть Arcanum и офигенный. И самое смешное: назад на Plus тоже, кажется, не захочу, теперь, когда я понял, насколько хорош Arcanum по сравнению с младшими моделями Plus.
 
Не уверен, что это лучшее место для вопроса, так что перекиньте меня в другую тему, если есть подходящая.
У кого-нибудь есть хорошие промпты для minimax h3 max turbo на Venice? Либо для фейшелов, либо просто годные промпты вообще.
 
https:// vixal. to/i2v/7470095904
Неплохо получилось
 
Есть ли хороший чат-бот, где можно загрузить референс-картинку, вести NSFW-чат и генерировать фото в одном интерфейсе? TBIO норм, но надо держать открытыми два разных чата одновременно, и после загрузки картинки нельзя вернуться к текстовой модели.
 
Локально или онлайн? Онлайн всё спрятано на бэкенде, сервисы и серверы там сами связаны друг с другом, а локально обычно приходится запускать всё самому.

Генерация картинок — это отдельная тема. Можно сделать чатботов, которые "видят изображения": запускаешь в фоне comfy ui или A1111 и связываешь с ollama, koboldcpp или просто через open webui. Я так делал: поднимал сервер A1111 или comfy ui и просто добавлял адрес в open webui. Ollama у меня уже хостил модели чатбота, так что технически у меня работало 4 сервера: ollama для моделей, A1111 для генерации картинок, TTS-сервер для голоса и open webui как интерфейс, чтобы всё собрать в одном месте. Я сделал BAT-файл, который при запуске открывал и запускал всё, включая firefox и адрес open webui, так что мне оставалось только запустить BAT, выбрать модель и начать болтать, занимало около 1 мин.

Следующий шаг, который я сейчас изучаю, — локально запущенный на ПК агент, который по сути делает всё то же самое, но, надеюсь, с более лёгким добавлением штук и настройкой. (пока посмотри KoboldCPP, он умеет сам генерить и редактировать картинки без запуска A1111 или comfyui, там встроены функции агента, где можно чатиться, кидать картинки и просить его отредактировать / сгенерить)
 
Назад
Верх