Потому что слово "ведьмак" произошло не от слова "маг", а по происхождениюю связано со словом "ведьма". Происхождение идет от праславянского *vědě - «я знаю», древне-русского "вѣдь" - «ведовство, знание». Маги тут совсем ни при чем, хотя ведьмак, по поверьям, и обладает сверхъестественными способностями.
В русском языке почему то нет аналога мужского рода от слова ведьма.
Волшебник- волшебница, Чародей, чародейка...
Само слово Ведьма женского рода. Ведьмак это новый аналог мужского рода от слова ведьма. Это не составное от ведьма- маг
У ведьмы аналог - Колдунь
Из словоря Ожегова: ВЕДЬМАК, ведьмака, м. (обл.). Знахарь, колдун, оборотень.