Der Sextant liefert einen Winkel zwischen der sichtbaren Kimm und dem Gestirn. Dieser Winkel soll im Folgenden Sextant-Ablesung SA genannt werden.

Wir müssen an diesem Wert einige Korrekturen anbringen, um die wahre Höhe des Gestirns zu erhalten.

Indexfehler

Der erste Messfehler ist wie zuvor beschrieben der Indexfehler.

Um aus der Sextantablesung SA den Kimmabstand KA, also den richtigen Winkel zwischen Kimm und Gestirn, zu ermitteln, muss die Indexberichtigung Ib berücksichtigt werden. Damit ist der Nullpunktfehler des Sextanten berücksichtigt.

Rechenmuster:

SA 51° 22,5′ Sextantablesung
Ib +3,0′ Indexberichtigung
KA 51° 25,5′ Kimmabstand

Kimmtiefe

Engl.: Dip of Horizon D

Je höher wir uns über der Wasserlinie befinden, desto weiter können wir sehen.

Der sichtbare Horizont, die Kimm, wandert weiter von uns weg, und der Winkel zwischen Gestirn und Kimm ist größer als der Winkel zum scheinbaren Horizont.

Die Augeshöhe AH bewirkt, dass wir sichtbaren und scheinbaren Horizont nicht gleichsetzen können. Der scheinbare Horizont verläuft auf der Höhe AH senkrecht zum Lot zum Erdmittelpunkt, die Kimm ist um die Kimmtiefe Kt vergrößert.

Kimmtiefe und scheinbarer Horizont

Die scheinbare Höhe hsh_s ergibt sich zu

hs = KAKth_s\ =\ \mathit{KA}-\mathit{Kt}

Die mittlere Kimmtiefe lässt sich nach folgender Formel näherungsweise bestimmen:

Kt  1,78AH[m]\mathit{Kt}\ \approx \ 1{,}78' \cdot \sqrt{\frac{\mathit{AH}}{[m]}}

Hinweis: Die Herleitung dieser Formel folgt im Artikel Kimmtiefe.

Oder tabellarisch:

Tabelle zur Kimmtiefe

Bei einer auf Segelyachten üblichen Augeshöhe von 2 bis 2,5 m beträgt die Kimmtiefe 2,5′ bis 2,8′. Runden wir großzügig auf 3′.

Refraktionsfehler

Als nächster Fehler kommt der Refraktionsfehler RR hinzu. Die parallelen Strahlen eines Gestirns werden durch die Atmosphäre zur Erde hin gebrochen.

Dem Beobachter scheinen die Gestirne in anderen scheinbaren Winkeln zu stehen, als sie tatsächlich stehen.

Refraktionsfehler in der Atmosphäre

Auch RR lässt sich mit guter Näherung in einer Formel berechnen, die für eine Temperatur von 10 °C, einen Normaldruck von 1013 hPa und eine Höhe hs>3h_s > 3^\circ ihre Gültigkeit behält:

R0 =1tan(hs+7,31hs+4,4)R_0\ =\frac{1'}{\tan \left(h_s+\frac{7{,}31{}^{\circ}}{h_s+4{,}4{}^{\circ}}\right)}

Für kleine Winkel gilt die Gleichung:

R0 = 34,1571+4,2hs+0,004286hs21+0,505hs+0,0845hs2R_0\ =\ \frac{34{,}1571+4{,}2\cdot h_s+0{,}004286\cdot h_s^2}{1+0{,}505\cdot h_s+0{,}0845\cdot h_s^2}

Bei anderen Luftdruck- und Temperaturverhältnissen muss die Formel für R0R_0 noch korrigiert werden:

R = R0  p1013  283273+T = 0,279pt+273R\ =\ R_0\ \cdot \ \frac{p}{1013}\ \cdot \ \frac{283}{273+T}\ =\ 0{,}279\cdot \frac{p}{t+273{}^{\circ}}

mit pp als Druck in hPa und TT als Temperatur in °C.

Die Höhe über dem scheinbaren Horizont hh' berechnet sich zu

h = hsRh'\ =\ h_s-R

Für Messungen im Zenit (hs=90h_s = 90^\circ) ist die Refraktion 0.

Für Messungen von Gestirnen im wahren Horizont, also bei Auf- und Untergang, ist die Refraktion maximal und beträgt etwa 35′.

Höhenparallaxe / Horizontalparallaxe

Eine relativ kurze Distanz zwischen Gestirn und Erde bewirkt einen Fehler durch Höhenparallaxe PP, der daraus resultiert, dass die auf der Erde ankommenden Strahlen nicht mehr als parallel angenommen werden können.

Die Größe der Parallaxe ist abhängig von der Entfernung des Gestirns zur Erde und der Höhe hh' über dem scheinbaren Horizont.

Höhenparallaxe

Steht das Gestirn im scheinbaren Horizont, ist der Fehler am größten. Die Parallaxe wird hier Horizontalparallaxe HP genannt, auch Horizontal-Verschub.

Horizontalparallaxe

Steht das Gestirn im Zenit, so ist der Fehler durch Höhenparallaxe gleich 0.

Insgesamt folgt der Fehler durch Höhenparallaxe PP näherungsweise der Gleichung

P = HPcos(h)P\ =\ \mathit{HP}\cdot \cos (h')

Je weiter das Gestirn von der Erde entfernt ist, desto geringer wird der Fehler.

Die Fixsterne haben aufgrund ihrer großen Entfernung eine Horizontalparallaxe von HP=0HP=0'.

Für die Sonne liegt die Horizontalparallaxe zwischen HP=8HP=8'' und 99'', für den Mond zwischen HP=54HP=54' und 6161', die Planeten haben eine Horizontalparallaxe zwischen HP=0HP=0' und 0,50{,}5'.

Die zutreffenden Werte können dem Nautischen Jahrbuch entnommen werden, sie sind unter den jeweiligen Spalten unter der Abkürzung HP zu finden. In der Praxis wird die Höhenparallaxe nur für den Mond und allenfalls für Venus und Mars berücksichtigt.

Für den Mond ergibt sich ein Zusammenhang zwischen Horizontalparallaxe und Monddurchmesser. Je näher der Mond an der Erde steht, desto größer die Horizontalparallaxe und desto größer der Monddurchmesser.

dMond  0,545867962HP  611HPd_{\mathit{Mond}}\ \approx \ 0{,}545867962\cdot \mathit{HP}\ \approx \ \frac{6}{11}\cdot \mathit{HP}

Sonnen- / Mondradius

Sonne und Mond können nicht mehr als punktförmige Sterne angesehen werden. Dort müssen die Radien berücksichtigt werden. Eine Messung des jeweiligen Unterrandes zur Kimm erscheint praktikabel.

Den Radius der Sonne kann man über

rSonne = 16,0+0,25cos(d)r_{\mathit{Sonne}}\ =\ 16{,}0'+0{,}25'\cdot \cos (d)

mit dd als Anzahl der Tage im laufenden Jahr näherungsweise bestimmen.

Der Radius des Mondes berechnet sich aus der Horizontalparallaxe HP wie oben angeführt zu

rMond  0,272HPr_{\mathit{Mond}}\ \approx \ 0{,}272\cdot \mathit{HP}

Je nach Messung des Unter- oder Oberrandes von Mond bzw. Sonne muss der Radius addiert bzw. subtrahiert werden.