Как должна была бы вращаться вокруг Земли Луна, чтобы одна ее половина никогда не освещалась Солнцем?

Луна для этого должна находиться в приливном захвате с Солнцем, а не с Землёй. Это подразумевает, что солнечные приливы на Луне должны были бы быть выше, нежели те, которые вызывает на Луне Земля. На практике это подразумевает настолько большое расстояние между Землёй и Луной, что, даже при одинаковом периоде обращения вокруг Солнца, не будет казаться, что Луна вращается вокруг Земли - получится, что она и Земля просто движутся вокруг Солнца по одной или похожей орбите. 

Например, поместим Луну в точку Лагранжа в системе Солнце - Земля. Формально вполне можно будет  вычислить срок оборота Луны вокруг Земли: он будет равен году - Луна точно так же за год будет обходить на небе весь зодиакальный круг, как и Солнце, то есть будет "вращаться вокруг Земли". Если при этом она будет находиться в приливном захвате с Солнцем, то описанные условия - половина Луны никогда не освещается - выполняются. 

Луна, в описанном вами случае, вращалась бы по очень сложной траектории, т.к. луна движется вокруг земли и, одновременно, вокруг солнца. При помощи, какой-то системы/оборудования необходимо было бы корректировать, постоянно, скорость вращения луны вокруг своей оси.

Никак не вращалось бы. Без энергии Солнца не было бы ни вращения Земли ни вращения Луны. Энергия Солнца единственная движущая сила вращения планет солнечной системы