Как учёные находят катализатор для определенных реакций?

По всей видимости, изучая элементарные акты, влияние внешних факторов на их протекание, изучая сорбционные процессы на различных поверхностях, их влияние на энергию активации реакции. Синтез бензола из ацетилена на поверхности угля (реакция Бертло-Зелинского) при 600С очевидно активируется электронами на поверхности угля, имеющего структуру графита (плоские шестиугольные соты), ориентирующие молекулы ацетилена в пространстве относительно друг друга нужным образом. А по методу Реппе (тримеризация ацетилена в среде бензола в присутствии никелевого комплекса при повышенном давлении) катион никеля, являясь кислотой Льюиса, притягивает и ориентирует вокруг себя основание Льюиса - частично отрицательный углерод молекул ацетилена. Лиганды никелевого комплекса помогают "выставить" в пространстве ацетилен нужным образом. Давление необходимо для создания достаточной концентрации ацетилена в жидкой фазе.

В основном - перебором. Особенно если мы говорим о таких давно известных процессах, как изомеризация алканов, которые были разработаны в те времена, когда квантовохимических расчётов ещё не бывало. Сегодня перебор чуть более разумный за счёт того, что известно, какие классы соединений часто бывают хорошими катализаторами (например, AlCl3 - типичная кислота Льюиса).