Слова "вестибюль" и "вестибулярный" действительно однокоренные и происходят от общего латинского слова vestibulum - "преддверие" (название специального дворика, сооружавшегося в честь Весты, богини-хранительницы домашнего очага). Вестибюль - помещение перед входом во внутренние части здания. Так же вестибулярный аппарат находится как бы перед входом во "внутренние части" человека.