作成日:2024年07月17日
数値の切り上げ、切り捨て、四捨五入


どうも、にゃん太です
ファイルメーカー上で数値を計算で使用する事は多いと思いますが、その際に数値の丸め処理(端数処理)は大事です
今回のメモでは、基本的な数値の丸め処理について書いていきます
切り上げ
数値の切り上げはceiling関数を使用します
計算式
Ceiling ( 数値 )
元の数値
12.345
計算結果
13
元の数値
-12.345
計算結果
-12
正負いずれも、より大きい数値に丸められます
但し、この関数は小数点第一位に対してしか処理しませんので、例えば小数点第二位を丸めたい場合などはひと手間かけてあげる必要があります
計算式
Ceiling ( 数値 * 10 ) / 10
この様にすれば、
元の数値
12.345
計算結果
12.4
といった結果が得られます
切り捨て
数値の切り捨てはfloor関数を使用します
計算式
Floor ( 数値 )
元の数値
12.345
計算結果
12
元の数値
-12.345
計算結果
-13
正負いずれも、より小さい数値に丸められます
こちらの関数もceiling関数と同様に小数点第一位に対してしか処理しませんので、例えば小数点第二位を丸めたい場合などはtrancate関数を使用します
計算式
Truncate ( 数値; 1 )
この様にすれば、
元の数値
12.345
計算結果
12.3
といった結果が得られます
尚、floor関数と近い結果が得られる関数にint関数があります
計算式
Int ( 数値 )
元の数値
12.345
計算結果
12
これだけ見るとどちらを使用しても問題ないと思ってしまいますが、負の値を処理する場合に違いが発生します
元の数値
-12.345
計算結果
-12
int関数では小数点以下を無視した整数を返す処理の為、0に近い結果となります
うっかりしていると異なる結果となりますので注意しましょう
四捨五入
数値の四捨五入はround関数を使用します
この関数は丸めた後の桁数を指定できます
計算式
Round ( 数値; 0 )
元の数値
12.345
計算結果
12
元の数値
-12.345
計算結果
-13
計算式
Round ( 数値; 2 )
元の数値
12.345
計算結果
12.35
計算式
Round ( 数値; -1 )
元の数値
12.345
計算結果
10

以上で今日のメモ書きは終了です
内容はいかがでしたか?
もしご意見やご要望、誤りの指摘などありましたら、下記フォームよりお気軽にご連絡ください