2024年3月16日土曜日

シェーダに符号付き8ビットデータを渡す

前回のステンシルバッファでテキストのクリッピングをやろうとしたけど、単純な矩形をステンシルバッファへ書き込む方法がまだわからないので方針を変えることにした。

ステンシルバッファをClearDepthStencilViewの最後の引数に複数渡せる矩形情報でクリッピング範囲を指定できたら良かったんだけど、クリアの値が作成時のクリア値以外で書き込むとパフォーマンスが落ちるらしいので諦めた。


テキストのクリッピング処理


テキストをレンダリングするシェーダに渡しているSRVに16ビットのオフセット情報を増やして、書き込む幅を調整できるように考えた。

今まで渡していた情報はすべてuint16_tで描画する位置のx, yと、フォントマスタのインデックスno、カラー番号cno。
このデータサイズが毎フレーム更新に影響を与えるために極力小さくするチューニングを行って現在の形になっている。データを増やすのはかなり抵抗があるが致し方ない。

int16_tでオフセットofsを追加した。
マイナスの場合は左から、プラスの場合は右からオフセット分描画しないようにする。


普通に2バイトのデータを書き込んでシェーダ側でint16_tとして解釈すればこれについてはなんの問題もなかった。
ただ、1文字内で左右どちらもクリッピングはできないという制限はあるがこれは許容した。

ここまで出来て、縦方向も欲しくなった。エディットボックス内の文字列描画で、枠以上の文字列入力が可能な場合にクリッピング処理が発生する想定で作っていたから、縦方向は仕様次第で不要な状況にできるかなと思っていたけど作ることにした。

符号付きの16ビットの範囲は32767~-32768なので1文字に使う範囲としてはもったいない。これを符号付き8ビットにすると、127~-128なのでちょうど良い感じ。8ビットシフトして、上位8ビットに水平方向のオフセット、下位8ビットに垂直方向のオフセットを渡すようにした。

HLSL側でもシフトが普通に使えるので、水平方向のオフセットは右シフトで普通に取り出し、下位8ビットは「& 0x00FF」で上位8ビットを切り捨てた。
ところがこれだと渡した値が、プラスの場合は問題ないが、マイナスの場合正しく評価されない。

試してうまく行ったのは、一度左に8ビットシフトしてから、右に8ビットシフトする方法。上位8ビットについては右シフトで算術シフトできることはわかっていたので、下位8ビットも、最上位ビットにタッチさせて右シフトすれば行けるかと思ったら行けた。

他にもいろいろやり方はあるだろうけど、条件分岐一切なしにできたのでこれが良さそう。専用の関数(8ビット→16ビット)があれば別だけど。


今回の対応はVertexBufferにしてやれば、オフセット情報は増やす必要なく、書き込む位置とUVの調整で済むし、1文字内で両端のクリッピングにも対応できるけど、どうなんだろ?
フォントのマスタが不要になる一方、1文字4点分のデータ書き込みが必要になるから微妙か。

0 件のコメント:

コメントを投稿