大圏距離

浮動小数点精度が低いコンピュータ システムでは、距離が小さい場合 (地球表面で 2 点が 1 キロメートル離れている場合、中心角のコサインは 0.99999999 に近い)、球面余弦法則の公式に大きな丸め誤差が生じる可能性があります。最新の64 ビット浮動小数点数では、上記の球面余弦法則の公式は、地球表面で数メートルを超える距離では深刻な丸め誤差が生じません^{[ 3 ]}。

上記の弦長関係に基づくと、次のハバーサイン公式は小さな距離に対して数値的に条件が良好です。 ^{[ 4 ]}$${\displaystyle {\begin{aligned}\Delta \sigma &={\operatorname {archav} }{\Bigl (}\operatorname {hav} \Delta \phi +{\bigl (}1-\operatorname {hav} \Delta \phi -\operatorname {hav} (\phi _{1}+\phi _{2}){\bigr )}\operatorname {hav} \Delta \lambda {\Bigr )}.\end{aligned}}}$$

歴史的に、この公式の使用は、次のように定義されるハバーサイン関数の表が利用可能であったことによって簡略化されました。${\displaystyle \operatorname {hav} \theta =\sin ^{2}{\tfrac {1}{2}}\theta }$そして${\displaystyle \operatorname {archav} x=2\arcsin {\sqrt {x}}}$。

以下に、コードの長さを明示的に表した同等の式を示します。 $${\displaystyle {\begin{aligned}\Delta \sigma _{\text{c}}&=2{\sqrt {\sin ^{2}{\tfrac {1}{2}}\Delta \phi +\cos {\phi _{1}}\cos {\phi _{2}}\sin ^{2}{\tfrac {1}{2}}\Delta \lambda }}\\&=2{\sqrt {\left(\sin {\tfrac {1}{2}}\Delta \lambda \,\cos {\tfrac {1}{2}}(\phi _{1}+\phi _{2})\right)^{2}+\left(\cos {\tfrac {1}{2}}\Delta \lambda \,\sin {\tfrac {1}{2}}\Delta \phi \right)^{2}}}.\end{aligned}}}$$

この公式は球面上のほとんどの距離に対して正確ですが、対蹠点の特殊な（そしてやや珍しい）ケースでは丸め誤差が生じます。すべての距離に対して正確な公式は、長軸と短軸が等しい楕円体に対するヴィンセンティ公式の次の特殊なケースです。 ^{[ 5 ]}$${\displaystyle {\begin{aligned}\Delta \sigma ={\operatorname {atan2} }{\Bigl (}&{\textstyle {\sqrt {\left(\cos \phi _{2}\sin \Delta \lambda \right)^{2}+\left(\cos \phi _{1}\sin \phi _{2}-\sin \phi _{1}\cos \phi _{2}\cos \Delta \lambda \right)^{2}}}},\\&\quad {\sin \phi _{1}\sin \phi _{2}+\cos \phi _{1}\cos \phi _{2}\cos \Delta \lambda }{\Bigr )},\end{aligned}}}$$ どこで${\displaystyle \operatorname {atan2} (y,x)}$⁠は2つの引数を持つ逆正接関数です。atan2を使用することで、正しい象限が選択されることが保証されます。

同様の公式の別の表現で、緯度と経度の代わりに法線ベクトルを使用して位置を記述する方法は、ドット積、クロス積、またはそれらの組み合わせを使用した3Dベクトル代数によって見つかります。 ^{[ 6 ]}$${\displaystyle {\begin{aligned}\Delta \sigma &=\arccos \left(\mathbf {n} _{1}\cdot \mathbf {n} _{2}\right)\\[5mu]&=\arcsin \left|\mathbf {n} _{1}\times \mathbf {n} _{2}\right|\\&=\arctan {\frac {\left|\mathbf {n} _{1}\times \mathbf {n} _{2}\right|}{\mathbf {n} _{1}\cdot \mathbf {n} _{2}}}\\\end{aligned}}}$$ どこ${\displaystyle \mathbf {n} _{1}}$そして${\displaystyle \mathbf {n} _{2}}$は、位置 1 と 2 における球面の法線です。緯度と経度に基づく上記の式と同様に、arctan に基づく式は、すべての角度に対して条件が良好な唯一の式です。arctan に基づく式では、外積の大きさを内積で割る必要があります。

球状の地球上の2点間を結ぶ3次元空間を通る線は、その2点間を結ぶ大円の弦である。弦の長さから、2点間の中心角を求めることができる。大円の距離は、中心角に比例する。

大円コードの長さ、${\displaystyle \Delta \sigma _{\text{c}}}$は、対応する単位球面に対して、デカルト座標の減算によって次のように計算できます。 $${\displaystyle {\begin{aligned}\Delta {X}&=\cos \phi _{2}\cos \lambda _{2}-\cos \phi _{1}\cos \lambda _{1},\\[3mu]\Delta {Y}&=\cos \phi _{2}\sin \lambda _{2}-\cos \phi _{1}\sin \lambda _{1},\\[3mu]\Delta {Z}&=\sin \phi _{2}-\sin \phi _{1},\\[3mu]\Delta \sigma _{\text{c}}&={\sqrt {(\Delta {X}){}^{2}+(\Delta {Y}){}^{2}+(\Delta {Z}){}^{2}}}.\end{aligned}}}$$

代入${\displaystyle \lambda _{1}=-{\tfrac {1}{2}}\Delta \lambda }$そして${\displaystyle \lambda _{2}={\tfrac {1}{2}}\Delta \lambda }$この式は、 § 計算式で示されている形式に代数的に操作できます。