Гайд ИИ-апскейл/улучшение

FernBox11

Лёркер
Регистрация
10.11.2022
Сообщения
6
Реакции
0
- Это будет небольшое введение в апскейл/улучшение изображений с помощью ИИ. Постараюсь обновлять пост по мере того, как узнаю больше, чтобы он оставался полезным и становился лучше (а также перепишу некоторые части, чтобы было понятнее, грамотнее и аккуратнее оформлено). Обсуждение техник апскейла, опыта, софта, оценок этого софта и т.д. приветствуется.

- Уверен, все знают, что такое апскейл, но не все хорошо понимают, что такое апскейл через ИИ и как им пользоваться. Я говорю про глубокую искусственную нейросеть (Deep Learning), то есть по сути ИИ, который обучили на огромном датасете (в нашем случае — куча изображений), чтобы он «научился». В итоге получается ИИ, который точнее увеличивает картинку и добавляет детали, которых обычный апскейл не даёт.

- Апскейл — это не магия. Например, если на книге в кадре совершенно нечитаемый текст, апскейл его не исправит. Это просто способ повысить разрешение картинок так, чтобы выглядело приятно, с большей резкостью, чёткостью и реализмом, чем при обычном апскейле. Но это не значит, что апскейл с ИИ не стоит использовать вместо обычного апскейла/ресемплинга — ещё как стоит. Результат не всегда хороший, но и не всегда плохой, а со временем будет только лучше. Иногда картинка апскейлится так хорошо, что получается практически идеально. Кроме того, апскейл с ИИ можно использовать просто чтобы убрать с картинки шум и артефакты сжатия, так что даже если разрешение вам не нужно, польза всё равно будет.

- Дам короткий список вариантов апскейла с ценой, платформой и лимитами. Качество апскейла я оценивать не буду: во-первых, это субъективно, а во-вторых, я не тестировал всё это. Кто знает, может, когда-нибудь протестирую и выложу картинки для сравнения, а может и нет — как решу.

- Часть вариантов работает через веб, что удобно: апскейлить можно практически с любого устройства с нормальным браузером и интернетом. Минусы: либо ограниченные возможности, либо платная подписка, и нужен интернет. Для тех, у кого медленный, нестабильный интернет или лимит трафика, это может быть не лучший вариант. Плюс никогда не знаешь, что они на самом деле делают с твоими картинками, так что если хочешь апскейлить что-то личное, лучше выбрать не веб-вариант.

- Другие можно скачать как программу — обычно плюс в том, что не нужен интернет и меньше ограничений (или вообще нет). Минусы: программа должна быть под твою платформу, и нужно устройство, которое её потянет, потому что в отличие от веба, где нагрузку берут на себя чужие серверы, тут всё считает твоё железо.

Gigapixel AILets EnhanceWaifu2xVertexshare Image Upscaler
Цена$99.99Первые 5 изображений бесплатно, подписка от $12 в месяц на 100 изображений в месяцБесплатноБесплатно
Лимит апскейла32,000 x 32,00064 мегапикселя для 5 бесплатных изображений; 256 мегапикселей с обычной подпиской; 500 мегапикселей с бизнес-подпиской (от $72 в месяц)Нельзя загружать изображения больше 1,500 x 1,500 или 5 MB. Варианты апскейла 1.6x или 2xНельзя загружать ничего кроме JPG или PNG и ничего больше 1,200 x 1,200 или 5 MB. Из вариантов апскейла только 2x и 4x
ВебNYYY
WindowsYNY*N
MacYNY*N
LinuxY**NY*N
Мобильное приложениеNNY*N

*Исходный код доступен на GitHub
**Через WINE

- Это не единственные варианты, их полно, так что если ничего не зашло — погугли что-нибудь вроде "AI Image Upscaling Software". Ещё можно глянуть этот link, где есть список других вариантов с плюсами и минусами. Лично я пользуюсь Gigapixel AI, потому что он работает на моём компе и у него нет серьёзных лимитов, кроме того, что нельзя апскейлить выше 32,000 x 32,000, а для меня это не проблема. Если вдруг понадобится апскейлить картинку больше гигапикселя, можно порезать её на куски поменьше, проапскейлить их, а потом смешать и склеить обратно.

- Когда выбрал, чем апскейлить, есть пара вещей, которые стоит сделать для лучшего результата. Во-первых, используешь ли ты лучшую версию картинки? Потому что почти у каждого фото в сети есть несколько копий, и они разного качества. Так что если ты взял картинку из интернета, и это не уникальное фото или скриншот конкретного кадра из видео, который ты сам сделал, стоит попробовать обратный поиск по картинке. Есть несколько вариантов, например Google, Bing, TinEye и т.д. (имеет смысл искать в нескольких сразу, они не всегда выдают одно и то же). Ещё можно использовать расширение для браузера, например Search by Image. Помни: если картинка старше, с большим разрешением или тяжелее по размеру файла, это не значит, что она лучшего качества. Чтобы повысить шансы найти оригинал, выясни, кто/что на картинке, когда/где она была снята/выложена и т.д., и по этим данным можно найти версию получше, а то и сам источник. Например, картинка может быть из определённой фотосессии или с какого-то мероприятия. Эта инфа может помочь.

- Когда у тебя есть лучшая копия картинки для апскейла (или хотя бы лучшая из найденных), можно заняться данными и архивацией. Я имею в виду, что чтобы фото было в порядке и осталось доступным для всех, я рекомендую пару вещей. Сначала используй VirusTotal, чтобы просканировать не только URL страницы, где лежит картинка, но и прямую ссылку на картинку и сам файл после скачивания. Это не обязательно, но я так делаю. Также рекомендую заархивировать URL страницы с картинкой и прямую ссылку через Wayback Machine и Archive.Today. Потом переименуй скачанный файл во что-то осмысленное и понятное (если у него уже нет такого имени). Дальше я часто использую FileOptimizer, чтобы максимально уменьшить размер файла (только lossless-оптимизация, чтобы не терять данные (качество)), чтобы он занимал меньше места, быстрее заливался и быстрее скачивался.

- Ладно, пора апскейлить! Ну, может быть. Видишь ли, иногда картинке нужна хотя бы небольшая подготовка перед апскейлом. Если на изображении много шума (будь то хроматический шум, световой шум и т.д.), апскейлер может (а может и нет, в каждом случае по-разному) с трудом отличать шум от деталей, и получится странный апскейл. Поэтому можно попробовать денойз перед апскейлом. Иногда денойз ухудшает результат, так что сравнивай сам. В других случаях картинка уже была растянута обычным апскейлом. Тогда попробуй смотреть её в разном масштабе ниже 100%, пока не найдёшь «золотую середину», где уже не видно артефактов обычного апскейла, вроде квадратиков или алиасинга. Хорошая отправная точка — зум 50%. Найдя эту «золотую середину», уменьши картинку до этого же размера (иногда лучше просто сменить размер, а иногда результат лучше при уменьшении с ресемплингом, типа lanczos или bicubic и т.д.). Как и с денойзом перед апскейлом, не всегда получается лучше, так что сравнивай. Ещё могут помочь немного размыть картинку, или наоборот добавить резкости, а иногда даже апскейл/ресемплинг.

- Когда загрузил картинку в апскейлер, выбрал идеальные настройки и вот-вот запустишь, тебя могут спросить, в каком формате и качестве экспортировать. Рекомендую экспортировать в lossless-формат вроде PNG, чтобы последующая правка давала лучший эффект. Ладно, ты проапскейлил картинку и получил приличный результат, что дальше? Можно выложить как есть, без доработки, это нормально, но небольшая доводка может сделать результат приятнее. Иногда в апскейле появляется шум, даже если в исходнике его вроде не было. Тогда лучше убрать его как можно лучше, чтобы выглядело чуть лучше. Картинка (целиком или только некоторые места) также может выглядеть немного, как бы сказать, гладкой? Пластиковой? Что-то в этом духе. Тогда простой способ улучшить её — добавить зерна. Лично я предпочитаю мелкое зерно крупному, но можешь выбирать что хочешь. Зерно добавляет своего рода «фейковую детализацию», и, по-моему, картинка выглядит чуть более фактурной. Ещё может быть полезно уменьшить картинку, так как в апскейле бывают странные детали, а даунскейл снижает их заметность, сохраняя визуальные улучшения. Если хочешь совместить денойз, даунскейл и зерно, порядок такой: Денойз → Даунскейл → Зерно.

- Картинке также могут понадобиться (или хотя бы пойдут на пользу) ручные правки в Photoshop или GIMP. Однако у меня пока нет опыта в этом, но это может измениться, и тогда я напишу небольшой раздел о ручной доводке апскейла. Так что идём дальше: твой апскейл теперь готов. Перед заливкой подумай, не уменьшить ли картинку или не сжать ли её с потерями, потому что апскейлы иногда получаются очень тяжёлыми (может быть сотни мегабайт на одну картинку). Я предпочитаю заливать исходник (без изменений и в оригинальном формате, но с lossless-оптимизацией), lossless WEBP-версию апскейла (она обычно жмётся лучше PNG), lossy JPG и lossless PNG (из-за совместимости). Так люди получают исходник и могут выбрать версию апскейла: lossy JPG с самым маленьким размером, lossless WEBP, который легче PNG, или lossless PNG с лучшей поддержкой и совместимостью, чем у WEBP.
 
Ускоренный курс по апскейлу видео:

Достань копию Topaz Video AI 3.1.6 (edit: с тех пор как этот пост был написан, вышел Topaz 5, можешь взять его). Artemis по-прежнему основная модель; для конвертации в 60fps можно использовать Apollo с отключённой опцией дублирования кадров.

Делать это стоит только на мощной видеокарте. Я использую 3080. Может, на процессоре threadripper или быстром многоядерном Intel и получится, но мне было лень пробовать.

Проверь настройки, чтобы обработка шла на твоей GPU, если она есть, с высокой загрузкой VRAM.

Закинь файл в программу.

Если он ниже 720p, не апскейль выше 1280x720p. Используй Artemis LQ или Iris. Нормальный 720p в 60 FPS будет смотреться лучше, чем паршивый апскейл до 1080p в 30 fps.

Если файл приличного качества, примерно 720 или выше, можно идти до 1920x1080 (он же 1080p) или до любого процента прямого апскейла, который близок к этому (например, если у тебя старый квадратный файл). Используй Artemis High Quality.

4k будет идти целую вечность, так что для обычного порно не парься с апскейлом, радуйся, если файл уже 1080p, если только у тебя нет кучи времени и тебе не нужно ничего делать на ПК какое-то время. Апскейл часового файла до 4k может занять буквально дни.

Если собираешься делать и улучшение фреймрейта, и апскейл, я бы советовал СНАЧАЛА апскейл, потом Apollo для повышения FPS (просто выбери 60fps, больше — пустая трата и может плохо воспроизводиться).

Можно обрезать начало и конец. Я обычно делаю это в handbrake, а не в topaz, потому что у topaz раньше были проблемы с обрезкой. Если сделать это сначала в handbrake, то остаётся только выставить настройки апскейла и оставить работать.

Если оставляешь звук, убедись, что выбрана опция сохранения звука.

Больше особо ничего делать не надо, только выставить начало и конец и нажать go.

После этого рекомендуется прогнать через handbrake: файлы часто получаются очень большими, и проще оставить качество по умолчанию, а потом ужать, например, GPU-кодированием NVENC на CQ 27.

Ещё совет: отключи ВСЕ ФИЛЬТРЫ в handbrake. Ни один не нужен, а если используешь кодирование NVENC (оно сделано для более быстрого кодирования на мощности видеокарты Nvidia), некоторые из этих фильтров работают только на CPU, из-за чего процессор будет сильно греться, а кодирование ещё и замедлится.

edit - Я предпочитаю h264 для видеофайлов 1080p и ниже. Если ты стример или работаешь с 4k, то h.265, скорее всего, лучше. У меня были проблемы с файлами в 265 на некоторых устройствах, так что я перестраховываюсь, тем более что дополнительная экономия места от 265 для меня не так важна.

Сводка по Handbrake:
Summary: Format MP4. Web Optimized.
Dimensions: Anamorphic None, Modulus 2, Cropping Automatic.
Filters: All OFF.
Video: H.264 Nvidia NVENC (если у тебя свежая видеокарта Nvidia, а она тебе всё равно нужна для апскейла). Constant framerate. Constant Quality 27 (28 занимает меньше места, но качество ниже, 26 — качество выше, но места больше. Выше 28 в итоге пойдут артефакты, ниже 26 качество сохранится, но размер файла вырастет). Slow encoder preset. Profile auto, encoder level auto. Без расширенных опций.
Audio: Я использую AAC (AVOCODEC) с Bitrate: 160, Stereo.

Примеры — чтобы увидеть картинки в полном размере, нужно открыть файл напрямую.

Исходник 720:

HS-Source.png


Апскейл до 1080:

HS-Upscaled.png


Это вариант «худшего случая»: исходник — очень старый клип 400x300, вероятно, не оригинал, и довольно зернистый, а увеличен он в 3,5 раза, сравни с переходом с 1280x720 на 1080p, который всего 1,5x

Source.png


Апскейл 1438x1080:

Upscale.png


Я обнаружил, что 720p до 1080p нормально для просмотра на больших экранах (телики, мониторы ПК и т.д.).

Для всего ниже 720p я бы остановился на 2x, больше, по моему опыту, не даёт хороших результатов и только тратит время/энергию. На больших экранах результат не очень, но для телефонов/айпадов вполне приемлемо.
 
Есть новости по RAISR или SR3, доступно ли это широкой публике?
 
Да, к сожалению, этот контент недоступен широкой публике
 
братан, какая лучшая настройка зерна для этого? я накосячил с настройками и забыл исходные размеры
 
Я просто оставляю выключенным.

По умолчанию вроде Amount 1.7, Size 0.92.

Сделал короткий тест и вообще не увидел разницы. Так что да, просто оставь выключенным.
 
«Serena 18», очень старый файл с апскейлом. Яркость немного завышена, но это проблема исходника, и её исправление особо не помогло. Честно, больше некуда это выложить.

https://gofile.io/d/TpxwpE
 
Чтобы апскейлить и ремастерить видео, нужна видеокарта минимум 1660 super, а лучше вообще 2080 super

Старая видеокарта: 36–48 часов, новая видеокарта: 12–16 часов
 
Вот пример того, как должно выглядеть видео после хорошего Remaster Upscale; лица людей в сцене выглядят немного странно



Guage Gangbang Girl 32
Guage Gangbang Girl 32
 
Вопрос (надеюсь, ответишь до того, как увидят модеры, потому что они удаляют все мои комменты): если апскейлить с 480 до 720, а потом ещё раз с 720 до 1080, это сработает / получится нормально?

И если можешь, объясни разные варианты качества входного видео, тип и тип артефактов? Мне кажется, нет по-настоящему сбалансированного типа артефактов, так что интересно, какой лучше подойдёт, скажем, для видео 5-7-летней давности....
 
Сам я такого не делал, но другие, кто пользовался этой программой, говорят, что это может быть оправданно. Я редко делаю 480 в 1080p, так что не пробовал, я просто иду напрямую с 480 на 1080 и особых проблем с результатом не было. Если бы файл был действительно важным и качество надо было сохранить, то, может, и сделал бы.

Тип качества входного файла определяется скорее на глаз. Может быть видео в разрешении 480, которое всё равно довольно чёткое, а может быть 480 с реально паршивым битрейтом. Старые видео из 90-х или 2000-х часто сильно сжаты из-за медленного интернета в то время. Это даёт артефакты, то есть блочность или плохую цветопередачу. Другие проблемы с качеством — экспозиция или контраст, или классическая мыльность софткора 80-х.

Я бы сказал, если качество картинки файла тебе кажется нормальным, используй Artemis High quality. Если есть артефакты или низкий битрейт, используй Artemis Low Quality. И это не только для видео 480p, потому что я видел и совершенно ужасные по качеству 720p.
 
Можешь написать мне в ЛС?
 
Если не хочешь покупать или иначе добывать Topaz, есть бесплатные опенсорсные варианты, я ковырялся с VRT

https://paperswithcode.com/task/video-super-resolution
Рекомендую miniconda для управления зависимостями python
 
Если нужен простой ИИ-апскейлер для Android, я пользуюсь этим приложением, а именно версией 6.1. Есть лимит в 10 изображений, после которого надо смотреть рекламу; но если у тебя есть apk, можно просто удалить приложение и переустановить через APK, и лимит сбросится. Не знаю, работает ли это на версиях после 6.1, но проверять не хочу.

https://m.apkpure.com/ai-enlarger-for-photo-anime/com.app.aiimglarger/versions
 
кто-нибудь может помочь? Я скачивал topaz video enhance из разных источников, но каждый раз могу улучшать только с водяным знаком, и он просит логин, есть советы? спасибо :MLADY:
 
попробуй v2.3.0, она есть на filecr.com
 
я что-то делаю не так? могу посмотреть превью апскейла, но не могу обработать, всё зависает на загрузке ИИ-модели, кто-нибудь поможет?
 
Модели довольно большие и, насколько я знаю, они ставятся только в основную папку установки на диске с Windows. Так что если на этом диске мало места, они могут не скачаться.

Ещё загляни в настройки и проверь, не включено ли "disable model downloading", потому что это может блокировать загрузку моделей.
 
есть бесплатная программа для апскейла картинок под названием upscayl
 
У меня есть видео, оно тёмное и не очень резкое, перепробовал все возможные программы от premiere до topaz до (вставь название стороннего софта) — без особого успеха. Не мог бы ты попробовать осветлить и улучшить его для меня? Могу показать лучшее, что у меня получилось, вместе с оригиналом. Могу подкинуть пару баксов, если выйдет хорошо, если хочешь.
 
Назад
Верх