lsprepost 加速度フィルタ処理 単精度.vs.倍精度 « ACS NEWS

lsprepost 加速度フィルタ処理 単精度.vs.倍精度

2015 年 5 月 28 日 by yo yamgatta

lsprepost内部の演算は、読み込んだ結果には関係なく全て単精度で行われている。コンター図や、
単純な演算には単精度でも良いのだが、複雑な計算がやりたい場合、単精度ではどうにもならなく
なる場合がある。

5月中旬、V4.2の倍精度版が公開されていたので、V4.2正式版(単精度)と加速度フィルタ処理の
比較を行ってみた。以下の図で、左が単精度、右が倍精度である。

フィルタ処理なしの加速度

lspp-acc-nofilter

SAEフィルタ C/s 600Hz

lspp-acc-filter-sae-600

SAEフィルタ C/s 300Hz

lspp-acc-filter-sae-300

SAEフィルタ C/s 108Hz

lspp-acc-filter-sae-108

SAEフィルタ C/s 60Hz

lspp-acc-filter-sae-060

フィルタ処理に疎いので何とも言えないが、SAE以外のフィルタでも、C/sの設定により単精度版では
何も表示されなくなる場合があった。明らかに倍精度計算が良さそうに見える。

このモジュールも公開しようと思ったが、binoutファイルからのグラフ表示が動作しない不具合を見つけて
しまったので、今回は見送りとした。

 

 

コメントをどうぞ

*