nyaaのメモの裏

ぼんやりした線を先鋭化するのにAviUtl用フィルタの「非線形処理な先鋭化フィルタ」を試してみた。相変わらずソースはとらドラに。

avsでの記述は、WarpSharpの前に下のソースを差し込んで試してみた。「非線形処理な先鋭化フィルタ」の値はdefaultのまま。
----ここから
ConvertToYUY2()
ConvertYUY2ToAviUtlYCFix()
AU_prefilter(100,false,false)
AU_nlsharpen(30,0,30,20,0,0,true,true,false,true)
ConvertAviUtlYCToYUY2Fix()
ConvertToYV12()
----ここまで

上が「非線形処理な先鋭化フィルタ」を有効、下は無効の画像。


PSのロゴはあまり変化していないけど、右下にある「Rマーク」がぼんやりしてしまった。ソースでも1か2pxしかなかった○やRの白部分が先鋭化で薄くなってしまったみたい。




拡大すると先鋭化したほうは白背景との境界で濃い色の縁取りが出来てる。等倍で見るとその影響か若干くっきりしてる。



口元の線や目元がくっきりしたのが等倍でわかるほどになってる。

エンコードして再生したときに、視覚的に変わるかはまだ試していないけれど効果はあるんじゃないかと期待してみたい。

欠点は「非線形処理な先鋭化フィルタ」を適用するとエンコード速度が(当環境で)0.3fps落ちる。

編集中に輪郭線がぼやけてゴーストのようなものが発生してたので、googleで調べてみるとtvk放送分は「SDアプコン」らしい。エンコ設定で参考にさせていただいてるサイトを見ると「LB変換アプコン」で、普通のSDアプコンより鮮明度が低い模様。

先日のテンプレのままエンコしてもエンコ時間がもったいない気がするから、少し改良してエンコしていくか切るか考える。

ColorMatrixのinputFRとoutputFRでfull-range [0-255]とlimited-range [16-235/240]の指定があったので、これを使ってレンジの調整を行うように2009/01版は変更を加えてみた。

#avsに記述してあるColorMatrix行
ColorMatrix(mode="Rec.709->SMPTE 240M",source=0, dest=3, clamp=3, interlaced=true, inputFR=false , outputFR=true, hints=false, d2v="", debug=false, thrdmthd=0, opt=0)

上図はColorMatrix行をコメントアウトしてVirtualDubで開いたもの、下図はColorMatrix行を有効にして開いたもの。




もう一個サンプル




PSロゴの背景がRGB=(0,0,0)、ロゴ部分がRGB=(255,255,255)じゃないかと仮定して調節したから、仮定が崩れると色がおかしいことになってしまう(="=)

#プラグインのロードを明示化
Import( PPath + "vfapi2.avs")
LoadPlugin( PPath + "Convolution3DYV12.dll") #ドット妨害・クロスカラー低減
LoadPlugin( PPath + "gradfun2db.dll") #バンディング除去
Import( PPath + "GradFunkMirror.avs")
LoadPlugin( PPath + "warpsharp.dll") #WarpSharp
LoadPlugin( PPath + "MSharpen.dll") #MSharpen

#動画と音声ファイルを指定。ソースがMPEG2-TSの場合は、TSDemuxで分離して動画はm2v形式、音声はToWaveでディレイを解消したwavを指定する。
VFAPISource( )
AudioDub( )

# フィールドオーダーはトップ
AssumeTFF


# TrimでCMカット
# -----------------

# VFAPIを通してるのでRGB形式をx264にも渡せるようにYV12に変換している。VFAPIの設定でストレート変換してるから、matrixはRec709でたぶんあってると思う。
ConvertToYV12(matrix="Rec709",interlaced=true)

# 少々補正
ColorYUY2(matrix="rec709s", interpolation="411->422",interlaced=true)

# ColorMatrixでSMPTE 240Mに変換するとともに、フルレンジに変換。
ColorMatrix(mode="Rec.709->SMPTE 240M",source=0, dest=3, clamp=3, interlaced=true, inputFR=false , outputFR=true, hints=false, d2v="", debug=false, thrdmthd=0, opt=0)

# インタレ解除
TDeint(mode=2, type=2, mtnmode=3, full=false, chroma=true, tryweave=true, link=1, slow=2)

# 間引き
TDecimate(mode=7, hybrid=0, dupThresh=0.7, blockx=8, blocky=8, chroma=true, batch=true)

# 2Dノイズ、時間軸ノイズ除去
Convolution3D(preset="animeHQ")

# 1440*1080からリサイズ。超額縁のときは1024,576
Spline36Resize(1280,720)

# シャープ化
WarpSharp(95,3,85,0)

# 使おうかどうしようかでコメントアウト中、今のところとらドラに使う予定。
#MSharpen(15,40,true,false,false)

# バンディング処理
gradfun2db(thr=1.8)

先日の記事の修正、YUY->RGB変換を「ITU-R BT.601から伸張」ではなく「ストレート変換」に変更した。地上デジタルのMPEG2-TSがITU-R BT.709の色空間のようなので、Avisynthのほうで色空間変換を再修正してエンコードできるようにした。

MPEG-2 VIDEO VFAPI Plug-In
URL : http://www.marumo.ne.jp/mpeg2/
Avisynthでm2v(MPEG2-TS)を読み込むときのMPEG-2 VIDEO VFAPI Plug-Inの設定。

*修正 -> http://nyaamemo.seesaa.net/article/112235739.html

MPEG-2 VIDEO VFAPI Plug-In
URL : http://www.marumo.ne.jp/mpeg2/
Avisynthでm2v(MPEG2-TS)を読み込むときのMPEG-2 VIDEO VFAPI Plug-Inの設定。

2009年1月スタートの作品に向けてと思ってx264のオプション設定を少しいじってみる。
ビットレートの変化は微小ながら減少する傾向があったが、普通に再生する程度では気づかない。エンコードfpsが改善したのがうれしい、0.4fps良くなって25%の速度アップ。もう少し調整するか、このまま使うかは数作品エンコしてみて考えてみる。

x264 version:seraphy氏配布のx264patch.1065.release02
matrix:なるP氏のnarup-Mi
ddleQuality-rev047_Matrix.cfg

オプション設定:--crf 20 --level 4 --keyint 240 --min-keyint 1 --deadzone-intra 6 --scenecut 65 --bframes 1 --b-adapt 1 --weightb --direct auto --analyse p8x8,b8x8,i4x4 --8x8dct --trellis 2 --cqmfile %x264matrix% --merange 32 --qpmax 32 --qpstep 6 --ref 6 --mixed-refs --ipratio 1.70 --pbratio 1.50 --aq-strength -0.2 --aq-sensitivity 11 --aq2-strength 0.3 --aq2-sensitivity 15 --aq-mode 1 --aq-metric 1 --subme 9 --threads auto --thread-input --progress --no-deblock --no-fast-pskip --no-dct-decimate --output

エンコ結果１：
input:とある魔術の禁書目録.avs
avis [info]: 1280x720 @ 23.98 fps (34523 frames)
x264 [info]: using cpu capabilities: MMX2 SSE2Fast SSSE3 Cache64
x264 [info]: profile High, level 4.0
mp4 [info]: initial delay 762578 (scale 9141785)
x264 [info]: slice I:625 Avg QP:14.19 size: 48344 PSNR Mean Y:51.04 U:51.71 V:51.97 Avg:51.21 Global:50.86
x264 [info]: slice P:18473 Avg QP:16.50 size: 16345 PSNR Mean Y:49.56 U:50.96 V:51.25 Avg:49.99 Global:49.57
x264 [info]: slice B:15425 Avg QP:19.27 size: 2848 PSNR Mean Y:49.11 U:50.87 V:51.18 Avg:49.64 Global:49.13
x264 [info]: consecutive B-frames: 9.0% 91.0%
x264 [info]: mb I I16..4: 30.5% 55.0% 14.5%
x264 [info]: mb P I16..4: 4.4% 0.0% 2.3% P16..4: 60.7% 13.7% 12.5% 0.0% 0.0% skip: 6.4%
x264 [info]: mb B I16..4: 0.2% 0.0% 0.1% B16..8: 40.9% 0.3% 0.4% direct: 1.6% skip:56.5% L0:40.9% L1:57.6% BI: 1.5%
x264 [info]: 8x8 transform intra:17.9% inter:58.0%
x264 [info]: direct mvs spatial:85.2% temporal:14.8%
x264 [info]: ref P L0 58.8% 16.9% 11.4% 5.1% 4.1% 3.8%
x264 [info]: ref B L0 78.6% 10.6% 6.6% 2.3% 1.9%
x264 [info]: SSIM Mean Y:0.9905650
x264 [info]: PSNR Mean Y:49.383 U:50.934 V:51.233 Avg:49.854 Global:49.387 kb/s:2089.47
encoded 34523 frames, 1.96 fps, 2089.82 kb/s

旧オプション設定エンコ結果１：
input:とある魔術の禁書目録.avs
avis [info]: 1280x720 @ 23.98 fps (34523 frames)
x264 [info]: using cpu capabilities: MMX2 SSE2Fast SSSE3 Cache64
x264 [info]: profile High, level 4.2
mp4 [info]: initial delay 381289 (scale 9141785)
x264 [info]: slice I:635 Avg QP:13.93 size: 60353 PSNR Mean Y:51.29 U:52.35 V:52.56 Avg:51.57 Global:51.29
x264 [info]: slice P:20567 Avg QP:17.46 size: 16961 PSNR Mean Y:49.21 U:51.17 V:51.51 Avg:49.79 Global:49.41
x264 [info]: slice B:13321 Avg QP:20.70 size: 1531 PSNR Mean Y:48.97 U:51.21 V:51.53 Avg:49.62 Global:49.24
x264 [info]: consecutive B-frames: 21.4% 78.6%
x264 [info]: mb I I16..4: 30.7% 58.3% 11.0%
x264 [info]: mb P I16..4: 2.3% 2.8% 0.5% P16..4: 67.9% 8.0% 14.6% 0.1% 0.2% skip: 3.6%
x264 [info]: mb B I16..4: 0.0% 0.0% 0.0% B16..8: 26.7% 0.1% 0.2% direct:0.2% skip:72.7% L0:37.3% L1:61.3% BI: 1.4%
x264 [info]: 8x8 transform intra:53.3% inter:67.2%
x264 [info]: direct mvs spatial:26.1% temporal:73.9%
x264 [info]: ref P L0 66.3% 15.6% 10.3% 4.1% 3.8%
x264 [info]: ref B L0 83.6% 9.1% 5.7% 1.7%
x264 [info]: SSIM Mean Y:0.9904324
x264 [info]: PSNR Mean Y:49.155 U:51.206 V:51.535 Avg:49.756 Global:49.369 kb/s:2264.29
encoded 34523 frames, 1.56 fps, 2264.66 kb/s

---*---*---*---*---

エンコ結果２：
input:鉄（くろがね）のラインバレル.avs
avis [info]: 1280x720 @ 23.98 fps (34524 frames)
x264 [info]: using cpu capabilities: MMX2 SSE2Fast SSSE3 Cache64
x264 [info]: profile High, level 4.0
mp4 [info]: initial delay 381289 (scale 9141785)
x264 [info]: slice I:523 Avg QP:14.59 size: 54280 PSNR Mean Y:50.48 U:51.62 V:51.62 Avg:50.79 Global:50.66
x264 [info]: slice P:19719 Avg QP:17.47 size: 17448 PSNR Mean Y:48.76 U:50.96 V:50.98 Avg:49.34 Global:48.96
x264 [info]: slice B:14282 Avg QP:19.91 size: 2182 PSNR Mean Y:48.53 U:50.92 V:50.96 Avg:49.17 Global:48.75
x264 [info]: consecutive B-frames: 16.0% 84.0%
x264 [info]: mb I I16..4: 31.3% 50.7% 18.0%
x264 [info]: mb P I16..4: 4.1% 0.0% 2.6% P16..4: 59.2% 11.6% 12.5% 0.0% 0.0% skip:10.0%
x264 [info]: mb B I16..4: 0.0% 0.0% 0.0% B16..8: 36.1% 0.3% 0.4% direct: 1.0% skip:62.2% L0:37.4% L1:59.0% BI: 3.6%
x264 [info]: 8x8 transform intra:14.2% inter:51.0%
x264 [info]: direct mvs spatial:95.8% temporal:4.2%
x264 [info]: ref P L0 63.4% 15.4% 9.9% 4.4% 3.6% 3.3%
x264 [info]: ref B L0 80.7% 9.5% 6.0% 2.2% 1.7%
x264 [info]: SSIM Mean Y:0.9912556
x264 [info]: PSNR Mean Y:48.694 U:50.950 V:50.983 Avg:49.290 Global:48.894 kb/s:2242.35
encoded 34524 frames, 2.13 fps, 2242.64 kb/s

旧オプション設定エンコ結果２：
input:鉄（くろがね）のラインバレル.avs
avis [info]: 1280x720 @ 23.98 fps (34524 frames)
x264 [info]: using cpu capabilities: MMX2 SSE2Fast SSSE3 Cache64
x264 [info]: profile High, level 4.2
mp4 [info]: initial delay 381289 (scale 9141785)
x264 [info]: slice I:542 Avg QP:14.62 size: 63604 PSNR Mean Y:50.54 U:52.19 V:52.19 Avg:51.00 Global:50.90
x264 [info]: slice P:19708 Avg QP:18.07 size: 17550 PSNR Mean Y:48.43 U:51.24 V:51.26 Avg:49.15 Global:48.83
x264 [info]: slice B:14274 Avg QP:21.51 size: 2024 PSNR Mean Y:48.07 U:51.11 V:51.16 Avg:48.84 Global:48.46
x264 [info]: consecutive B-frames: 16.0% 84.0%
x264 [info]: mb I I16..4: 32.2% 54.8% 13.1%
x264 [info]: mb P I16..4: 2.3% 3.3% 0.5% P16..4: 66.6% 7.8% 13.5% 0.2% 0.2% skip: 5.6%
x264 [info]: mb B I16..4: 0.0% 0.0% 0.0% B16..8: 24.6% 0.3% 0.4% direct: 0.5% skip:74.1% L0:37.7% L1:57.3% BI: 5.0%
x264 [info]: 8x8 transform intra:54.6% inter:69.2%
x264 [info]: direct mvs spatial:43.1% temporal:56.9%
x264 [info]: ref P L0 70.4% 13.6% 9.1% 3.7% 3.2%
x264 [info]: ref B L0 83.5% 8.8% 5.5% 2.2%
x264 [info]: SSIM Mean Y:0.9910434
x264 [info]: PSNR Mean Y:48.312 U:51.198 V:51.234 Avg:49.051 Global:48.697 kb/s:2273.63
encoded 34524 frames, 1.71 fps, 2273.96 kb/s