Просто продолжите стороны образующие тупой угол(превратите отрезки в прямые), а далее действуйте как обычно.
Высота опущенная на сторону, не обязана попадать во внутреннюю часть этой стороны, а только быть перпендикулярна прямой, на которой лежит эта сторона, именно в случае тупого угла, высоты опущенные из острых углов оказываются снаружи сторон к которым они опускались, это нормально.