Формулы описаны тут на форуме. http://www.rumaxclub.ru/forum_0/lv_1/post_7393.htm и http://www.rumaxclub.ru/forum_0/lv_1/post_6512.htm Ну и программа рассчёта с исходниками идёт.
Расхождения и правда есть, но довольно незначительные. Пытался корректировать округлением, но успеха не добился. Либо какие-то промежуточные вычисления округляются, либо формула нахождения квадратного корня самостоятельно была разработчиками реализована. Там дробная степерь в вычислениях. Я думаю, что в ней дело. Но, в любом случае, пользоваться вполне можно.
Если кто-то обнаружит значительное расхождение - дайте знать.