Во многих источниках написано, что в полдень в северном полушарии Солнце находится на юге, а в южном - на севере. Это так? Почему?

Это не так, так как это справедливо для широт > 23°26′14″ или < -23°26′14″, а для широт > -23°26′14″ и < 23°26′14″ иногда, потому что для широт > 23°26′14″ Солнце всегда на юге, а для широт < -23°26′14″ Солнце всегда на севере, то есть в тропиках, и для широт > -23°26′14″ и < 23°26′14″ Солнце может находится на юге или на севере, или в зените в зависимости от широты и даты наблюдения.