И то, и другое, и третье на самом деле.
Если в постановке участвует много людей, то их передвижения удобнее записывать, а точнее, зарисовывать: тут у нас круг, тут диагональ, вот тут танцоры выстраиваются в линии, а тут - в шахматном порядке, ну и так далее.
Для дуэтов зарисовки тоже удобны, чтобы схематично изобразить позы танцоров, сочетание их тел в пространстве. Иногда - например, у выдающегося советского хореографа Яна Голейзовского - такие зарисовки превращаются в настоящие произведения искусства.
Многое просто запоминается: хореограф придумал движения, станцевал их, запомнил. Хотя сейчас, конечно, намного проще - можно записать все на видео и потом, если что, восстановить последовательность.
Ну и импровизация, да. Некоторые хореографы просят самих танцоров сымпровизировать и какие-то движения и идеи берут потом в работу.
В общем, в деле балетмейстера все средства хороши :)