numpy.reshapeは気をつけて使おう ! の続きです。この記事の最後でも触れましたが、torch.viewも同様なわけですと言ってるそばから間違っていたという話しです。しかも学習という意味でデータ構成が大きく間違 […]
Inference
kernel_initializerって学習の収束に大事かも
例によってKerasからPyTorchへのお引越しでプチハマったことがあったのでまとめておきます。 Kerasでは学習が簡単に収束したのに、同じようにプログラムを組んだつもりでもPyTorchでは簡単には収束しない(ある […]
numpy.reshapeは気をつけて使おう !
KerasからPyTorchへの乗りかえの一環で数日ハマっていたのですがようやく抜け出せました。終わってみれば大したことではなかったのですが、Kerasで一旦動作しているという気のゆるみが誘発したケアレスミスでしたね。こ […]
PyTorchでclass_weightを適用するには
バランスの取れたデータセットが常に用意できればよいのですが、ラベルごとにデータの数がばらついてしまうことはよくあります。 そんなとき、Kerasだとclass_weightを用意してmodel.fit()の引数に適用すれ […]
PyTorchで学習済みモデルの中間層出力の取得
学習済みモデルの中間層出力である特徴量を取得して、別の学習器に適用したいことってありますよね ? Kerasでは出力を再定義([probability] -> [probability, features])して […]
torch.tensorとtorch.Tensor
新参者は歴史的な経緯を知らないので少しはまりました。Floatゼロ値のスカラーテンソルを作りたかっただけなのですが、torch.Tensor(0.) だとダメで正解は torch.tensor(0.) だったというお話し […]
Ubuntu20.04+CUDA11.2+PyTorch1.8.1+cu111がRTX3090のGPUで動作した !
RTX3090搭載のPCをゲットできたので、セットアップ。少しはまったけど無事PyTorchがRTX3090のGPUで動作したのでその手順をまとめておきます。 Ubuntu20.04のインストール これは特に特別なことは […]
PyTorch LightningのckptファイルをLoadするのにはまった話のその後
やはり元の話しでの解決方法は、辞書の中身の違いを分析し、ある意味無理やり合わせることによって解決したのでスッキリしていないのと、エラーは出なくなったけどもパラメータがきちんとロードされていない場合も見受けられたので、もう […]
PyTorch LightningのckptファイルをLoadするのにはまった話
PyTorch Lightningをベースに書かれた画像認識系のソースコードを拡張して自作データセットで学習させたときの苦労話し。 前提 torch.nn.Modulesでベースモデル (_model) lを定義 pyt […]
緊急速報 – RTX3090ほぼ品切れ状態 !!!
年度末で 予算が少しあまったので、AI開発用にRTX3090搭載のPCを買えることになり、ルンルン気分で調査。 Pさんのサイト見てもDさんのサイト見てもネット上はまだある様子。 グッディーは今つかっているGTX1080t […]