CPU3DИИ-инструменты для 3D, видео и звука

Loopy превращает временную ось DiT в круг для бесшовных зацикленных видео

Авторы Loopy опубликовали на arXiv работу о генерации бесшовных зацикленных видео. Они показывают, что слои позиционного эмбеддинга в DiT по-разному управляют временным порядком, и предлагают сдвигать позиции с разной длиной для каждого слоя — так временное восприятие модели превращается из прямой линии в круг. Метод поддерживает RGB и RGBA, а также identity control и перенос стиля. Код авторы не выкладывали, модель доступна на сайте проекта.

Что это значит

Новость касается генераторов видео на архитектуре DiT — в нашем справочнике это LTX-Video, CogVideoX и Pyramid Flow. Все три используют diffusion-модели с DiT-подобной архитектурой, поэтому идея сдвига позиционного эмбеддинга потенциально применима к ним. Однако Loopy — это отдельный фреймворк, а не обновление существующих инструментов. В паспортах LTX-Video, CogVideoX и Pyramid Flow нет ни поддержки зацикленных видео, ни RGBA-вывода, ни identity control. Задача «сгенерировать бесшовный loop» ни у одного из них не заявлена. Без кода и без интеграции в diffusers проверить метод на этих моделях сейчас нельзя. Практическая польза для пользователей справочника появится, только если авторы выложат код или кто-то перенесёт подход в открытые генераторы. Пока это исследовательский результат, который стоит отслеживать, но не инструмент для работы.
Loopy: временная ось DiT превращается в круг Вход видео или промпт RGB / RGBA DiT-модель LTX-Video, CogVideoX, Pyramid Flow Позиционный эмбеддинг сдвиг позиций разная длина на слой Бесшовный loop зацикленное видео Возможности Loopy RG RGB и RGBA вывод Identity control Перенос стиля Статус </> Код не выложен M Модель на сайте проекта Нет интеграции в diffusers Исследовательский результат — отслеживать, но не инструмент для работы
Как устроен метод. Схема нарисована по этой заметке.

Смотрите также