Varianssi voidaan laskea kaavalla
,
(33)
missä r on ylimääritys (redundanssi) eli parametrien
lukumäärä vähennettynä havaintojen
määrästä, v on residuaalit ja w on paino.
saadaan kaavasta
,
(34)
missä y' on
ja l:ssä ovat havainnot.
Virhe-ellipsin puoliakselit (kuva 8) saadaan matriisin
ominaisarvoista (
):
.
(35)
Ominaisarvojen laskeminen on esitetty liitteessä 1 . (Heikkilä, 1993 / Förstner et al., 1987)
Kuva 8. Förstnerin operaattorin virhe-ellipsejä eri tilanteissa. (Heikkilä, 1989)