Чтобы дать определение единице информации, надо сначала дать определение самой информации. А с этим, как Вы сами заметили, проблема.
Пока есть разделение на физическую реальность и наше представление о ней (информацию), информацией называют отношение к тому или иному явлению, и кодируют её двоичным способом: да/нет (0/1). И каждый такой выбор в теории информации считается минимальной единицей информации.
Но я предпочитаю говорить об информации как о физической величине, обозначающей меру энтропии. И с этой точки зрения единицей информации является квант.
Причем, для меня квант - понятие универсальное. Оно означает минимальную частицу какого-либо вещества, обладающую её свойствами. Например, атом - это квант химического вещества, биологический организм - это квант биологического вида (человек - квант общества).
Поэтому я сказала бы, что единицей информации является не мысль человека, а сам человек, его личность в целом.