C#

sssp://img.5ch.net/ico/folder1_03.gif
AMDは18日に、Radeon RX 7900 XTX上で動作するStable Diffusionを最適化し、最大9.9倍高速化できる手法をブログで公開した。

　最適化にはMicrosoft Oliveと呼ばれるPythonツールを利用する。
OliveはPyTorchの基本モデルをONNXに変換するツールであり、この段階でトランスフォーマグラフの最適化や、GPUメモリフットプリント削減のための量子化(ほとんどのレイヤーをFP32からFP16に変換)するなどの処理で、モデル処理を大幅に簡素化して高速化を実現するという。

https://pc.watch.impress.co.jp/docs/news/1525079.html