Da AH2 sehr klein im Verhältnis zu 2⋅R⋅AH ist, wird dieser Summand vernachlässigt:
Kt2≈R22⋅R⋅AH=R2⋅AH
bzw.
Kt[rad]≈R2⋅AH=R2⋅AH
Die Umrechnung vom Bogenmaß in Winkelminuten erfolgt über den Faktor π10.800:
Kt[′]≈π10.800⋅R2⋅AH=1,9261277⋅AH
Das ist die rein geometrische Lösung.
Unter Berücksichtigung, dass man aufgrund der terrestrischen Refraktion etwa 8 % weiter sehen kann, ergibt sich anstatt 1,93′ ein Faktor von 1,78′ und somit:
Kt[′]≈1,78⋅AH
Messung der Kimmtiefe
Die Kimmtiefe kann mit zenitnahen Gestirnen mittels eines genau gehenden Sextanten überprüft werden.
Das Gestirn wird zweimal gemessen:
Einmal wird der Kimmabstand KA1 in Richtung des Gestirns gemessen.
Spitzer Kimmabstand.
Bei der zweiten Messung wird in Gegenrichtung über den Zenit hinweg der Kimmabstand KA2 gemessen.
Stumpfer Kimmabstand.
Da ein Sextant maximal Winkel bis 120° messen kann, muss KA1 entsprechend größer als 65° sein.
Bei der Summe dieser beiden Messungen wird die Kimmtiefe zweimal mit gemessen:
KA1+KA2=180∘+2⋅Kt
bzw.
Kt=2KA1+KA2−180∘
Wird die Sonne gemessen, so wird bei der spitzen Messung der Unterrand gemessen, bei der stumpfen der Oberrand, so dass man quasi zweimal denselben Rand misst.
KA1+KA2+2⋅rSonne=180∘+2⋅Kt
bzw.
Kt=2KA1+KA2+2⋅rSonne−180∘
Weiterhin müssen wir berücksichtigen, dass die Messungen mit einem bestimmten zeitlichen Versatz erfolgen werden, in dem sich die Höhe des Gestirns verändern wird:
ΔhZ[′]=15⋅Δt⋅sin(Az)⋅cos(φ)
mit
Δt: Zeitunterschied zwischen den Messungen, gemessen in Minuten
Az: Azimut
φ: Breitengrad
Wenn zwischen den Messungen eine Distanz zurückgelegt wird, muss ebenso die Höhenänderung durch Versegelung berücksichtigt werden:
ΔhV[′]=601⋅Δt⋅v⋅cos(Az−Ku¨G)
mit
Δt: Zeitunterschied zwischen den Messungen, gemessen in Minuten