いつもお世話になっております。
Excelとtableau の計算結果が異なるため、困っています。一例をあげると、4.215という数字をroundの2で指定して、Excelでは42.2になるところ、Tableauでは4.21になります。Excelを正とする時、tableau側はどうしたらいいでしょうか。大多数のround(~~~,2)の処理結果は一致します。五捨六入なのかとも思いましたが、別の個所では四捨五入されておりメカニズムが良く分からないため、相談させてください。
4 réponses
ありがとうございます。具体例としては4.515ですね。数字によって期待する値と合っていたり違っていたりということなので、やはり浮動小数点の問題だろうと思います。
数値形式の調整により数字を間違って丸めているように見える (salesforce.com)
Desktopであれば回避方法として書式設定を行うのですが、Prepでの対処法をお探しとのことなので計算で解決することになります。このときの計算方法はいくつかあり、一例を挙げると次のようになります。
