【続】【Text2Video】animatediff-cli-prompt-travel で動画を作る(良い結果を求めて)

はじめに

前回の続きです。
touch-sp.hatenablog.com


この1週間いろいろ設定を変えて動画を作りました。

その中で一番良かったものを記録として残しておきます。

Configファイル

{
  "name": "sample",
  "path": "safetensors/mistoonAnime_v20.safetensors",
  "motion_module": "models/motion-module/mm_sd_v15_v2.ckpt",
  "compile": false,
  "seed": [
    2211774462
  ],
  "scheduler": "k_dpmpp_sde",
  "unet_batch_size": 2,
  "steps": 20,
  "guidance_scale": 10,
  "clip_skip": 1,
  "prompt_fixed_ratio": 0.5,
  "head_prompt": "masterpiece, best quality, a beautiful girl, solo",
  "prompt_map": {
    "0": "smile, sitting",
    "12": "close eyes, sitting",
    "24": "open eyes, sitting",
    "36": "smile, sitting"
  },
  "n_prompt": [
    "(worst quality, low quality:1.4), (monochrome:1.2)"
  ],
  "output":{
    "format" : "gif",
    "fps" : 8,
    "encode_param":{
      "crf": 10
    }
  },
  "lora_map": {
    "lora/more_details.safetensors" : 1.0
  },
  "controlnet_map": {
    "input_image_dir" : "controlnet_image/test",
    "max_samples_on_vram": 200,
    "max_models_on_vram" : 3,
    "save_detectmap": true,
    "preprocess_on_gpu": true,
    "is_loop": true,
    "controlnet_ref": {
        "enable": true,
        "ref_image": "ref_image/ref.png",
        "attention_auto_machine_weight": 0.3,
        "gn_auto_machine_weight": 0.3,
        "style_fidelity": 0.5,
        "reference_attn": true,
        "reference_adain": false,
        "scale_pattern":[1.0]
    }
  }
}

ControkNet Reference Onlyのための画像を用意

以下を用意しました。

実行

animatediff generate -c config/prompts/my_config.json -W 384 -H 576 -L 48 -C 24

「-C」の値を大きくすると結果の質が高くなりますがVRAM消費量が増えます。

最新のNVIDIA Driverを入れているとVRAMが足りなくなった時に共有メモリーを使用してくれるようです。

結果




動画はGoogle Bloggerに載せています。

動きの少ない動画ですが、途中で髪の色が変わったり、服装が変わったり、背景が変わったりといったのがほとんどありません。

ぜひ一度見てみて下さい。
support-touchsp.blogspot.com




このエントリーをはてなブックマークに追加