※この記事にはアフィリエイトリンクが含まれています
私のGPUはRTX 4070 Ti superでして、VRAMは16GBあります。このマシンを買った時はそれなりにいいものを買ったつもりではあるんですが、画像生成に手を出すと足りないなと思うことが結構あります。
まぁ、推論するくらいならいいんですがFlux.1のLoRAに手を出したりすると結構きついです。
ではGPU変えます?となるとRTX50系のsuperが今後出てくるのもあり、今ではない。かつ、現時点ではRTX 4090か5090でないとVRAMが増えないのでGPUを買うという選択肢は今のところないのです。
買わないのなら借りましょう。ということでRunpodというサービスを使います。
Runpodを使うにはDockerイメージが必要なので用意する必要があります。オフィシャルでComfyUIのイメージも用意されていますが、継続的に使うなら自分に合わせたイメージを作ったほうがいいかなと考えDockerfileを用意しました。
ビルドしてプッシュしますが、動かしてはあーではない、こーではない。と作り直してはプッシュしなおします。
すると何らかの閾値を超えたのかプッシュが遅くなりました。ちょっと遅くなったななんてレベルではなく、1MBアップロードするのに数十秒かかるレベルです。軽くしても5GBはあるイメージなので全く終わりません。
RunpodでRTX 5090を使ってみた。的な記事を書こうかと思っていたのですが一体いつになるやらという感じです。
GithubのContainer Registryにしようかな・・・
みんな大好き動物シリーズ
PR
リンク
コメント
コメントを投稿