Слово "домой", как и слова "дорогой" и "тропой" в этих выражениях не склоняются вовсе, так как являются неизменяемыми частями речи - наречиями. Их действительно легко спутать с существительными, так как они являются мотивированными, т.е. образованными от других неслужебных частей речи - в данном случае от существительных "дом", "дорога", "тропа".
Наречия "дорогой" и "тропой" (см. идти (как?) дорогой, тропой) совпадают с формой творительного падежа соответствующих существительных. С наречием "домой" сложнее. Форма творительного у слова "дом", как известно, - домом. Откуда тогда взялось "домой"? Многие лингвисты считают, что "домой" - это форма направительного падежа, который использовался для обозначения направления (вопрос "куда?"). Направительный падеж затем исчез, а форма "домой" в языке так и осталась, только теперь она считается наречием.