На самом деле всё это херня. Имеем 10 уравнений (по уравнению на символ в известных примерах, которых всего два, по количеству братьев), в то время как искомых переменных (коэффициентов) гораздо больше двух дюжин. Таких формул можно хоть сколько нарыть, даже в предположении, что алгоритм действительно такой.