Наиболее важную информацию дают ретнгеноструктурные исследования и квантовая химия. Хотя сама идея о том, что в молекуле атомы связаны в какую-то пространственную структуру появились еще до этого, и в принципе химия накопила достаточный опыт, чтобы предполагать пространственное строение для какого-то нового вещества. У каждого атома есть свой набор электронных орбиталей, и когда атомы соединены в молекулы, появляются молекулярные орбитали, так образуются сигма- и пи- связи. Длины связей и углы между ними подчиняются определенным закономерностям.
Если из нового вещества получилось вырастить небольшой кристаллик, то можно сделать его рентген, и по тому, как происходит дифракция рентгеновских лучей под разными углами, можно понять, как выглядит молекула. Например, вот одно из веществ, которые я синтезировал, и изначально мы предполагали у него совсем другую формулу, но оказалось, что оно выглядит вот так:
Есть и порошковый рентгеноструктурный анализ, который можно использовать, когда не получается получить правильные кристаллы, но с кристаллами структуру установить проще.
Ну и есть квантовохимические расчеты, существует довольно много различных вариаций и программ, которые позволяют считать геометрию вещества. В полуэмпирических расчетах заложены длины связей и углы, от которых программа изначально отталкивается, что позволяет сократить время расчета, а в расчетах ab initio все считается с нуля. Чем больше атомов в молекуле, тем сложнее и дольше по времени расчет. Вы рисуете какую-то формулу, а потом программа по чуть-чуть сдвигает отдельные атомы и фрагменты молекулы, чтобы найти то пространственное положение, в котором будет минимум потенциальной энергии.
Ну и даже в рисовалках для химических формул типа ChemWindow есть такая опция, что по нарисованной формуле можно рассчитать то, как она примерно выглядит в пространстве, но это даже не квантовохимический расчет, а такая полуэмпирика-лайт, но зато по времени занимает несколько секунд. Полноценный квантовохимический расчет может может продолжаться несколько часов или даже дней.