ドライブ検査、データ復旧向けのAIにFP32を試しております。内部の型をdoubleからfloatに型を置き換えて、その精度を地道にチェックしています。
FP32で問題ない場合、FP64からFP32に切り替えます。すると、GPUで効率の良い計算が可能となります。数年後はGPU搭載パソコンが一般化しそうな雰囲気もありますから、今から準備いたします。
ドライブ検査、データ復旧向けのAIにFP32を試しております。内部の型をdoubleからfloatに型を置き換えて、その精度を地道にチェックしています。
FP32で問題ない場合、FP64からFP32に切り替えます。すると、GPUで効率の良い計算が可能となります。数年後はGPU搭載パソコンが一般化しそうな雰囲気もありますから、今から準備いたします。