А по площади слабо?
Сделайте, что площади сечений дымоходов были как минимум одинаковы. Для дымохода можно больше, чем для котла. Даже лучше больше.
Итак: Sд - площадь дымохода, Sк - площадь для выхода котла.
Sд = число Пи * диаметр в квадрате. Sк = длина * ширину. Естественно, что D - диаметр дымохода должен равен как минимум длине выхода из котла (длина больше ширины). Дальше уже просто: считаете площадь выхода из котла, потом диаметр (минимальный) дымохода.