if文を使わずに値が0から1の範囲内に収まっているか調べる【シェーダ最適化】

floatの値が0から1の範囲内ならA、範囲外ならBを返す処理が欲しかった。

通常であればこのようにif文で作ることができます。

if (x >= 0.0 && x <= 1.0) {
     return A;
} else {
     return B;
}

しかし、シェーダにおいてはif文を使ってしまうとGPUの並列処理を阻害することになり、パフォーマンスが大きく落ちます。

そこでif文を使わない方法を考えることにしました。

結論だけ見たい方はこちら

方針

最初に思いついたのはこれです。

int isInRange = 1 - (int)(abs(x - 0.5) + 0.5);

abs(x – 0.5)のところで絶対値が0.5に満たない場合は、+0.5しても1にならないので、int型にキャストすることで0か1に分けることができます。

最後に書きますが0か1に分けることでlerpを使用して目的の値を取得できます。

ただ、組み込み関数って中で何やってるかわからないんですよね…Cgはドキュメントに書いてありますがGLSLやHLSLは不明だし、バージョンによって違うこともありそうです。

if (x < 0) {
     return x * -1;
} else {
     return x;
}

内部がこんな感じだったら意味ないので、組み込み関数も使わない方針にしました。

たどりついたもの

int isInRange =
     (1 + (int)(x - 1.0)) *
     (1 - (int)x);

マイナス方向とプラス方向に分けてチェックして、掛け合わせればなんとかなりました。

以下のパターンは対応できないのですが、今回は必要なかったので考えないことにしました。

• x <= -1
• x >= 2

教えてもらったもの

結局こういうのは強いエンジニアに聞けということで、数学が得意な人に聞いたら先ほどの対応できなかったパターンも対応できる方法を教えてもらえました。

int v = (int)((x - 0.5) * 2);
float isInRange = (float)v / (v - ε);

εはイプシロン定数（CのFLT_MIN、Unityのfloat.Epsilonなど）で限りなく小さい値です。

シェーダ言語には用意されていなかったりするので、自前で用意する必要はあります。

0.000…00001とか適当に定義すればOKです。

厳密に0 or 1になるわけではないのですが、次に書くようにlerpで使用するので誤差は気にしなくていいレベルです。

目的の値を取得

あとは線形補間（lerp）で目的の値を取得するだけ！

return lerp(B, A, isInRange);

lerp(start, end, t) {
    return (1 - t) * start + t * end;
}