Когерентность вообще - это способность к интерференции. В квантовой механике интерференция возможна для чистых состояний, то есть состояний, которые полностью описываются волновой функцией. В противоположность этому смешанные состояния описываются смесью чистых состояний, из которых только одно из смеси реально существует с определенной вероятностью. Таким образом в квантовой механике когерентными называют чистые состояния.
запутанность возникает при распространении принципа суперпозиции на составные системы.
Рассмотрим две независимые квантовые системы каждая из которых может находится в одном из своих квантовых состояний, описываемых волновыми функциями a1,a2,... для первой системы, и b1,b2,...- для второй. Тогда возможны состояния составной системы вида a1*b1,a1*b2, и тп. В таких состояниях измерение состояния одной из подсистем не зависит от наличия второй подсистемы. Но в квантовой механике действует принцип суперпозиции согласно которому любая система может находится в суперпозиции ее возможных состояний. Тогда для нашей составной системы возможны состояния вида, например, a1*b2+a2*b1 и тп- это и есть спутанные (запутанные) состояния. Эти состояния вполне описываются и рассчитываются методами квантовой механики (правда вычисления могут очень занудными). Обычная теория измерения квантовой механики даёт следующий результат для измерения состояния составной системы только приборами имеющими дело с подсистемой, например a: если измерение покажет что система a находится в состоянии a1, то вторая подсистема будет обнаружена в состоянии b2, и наоборот.
Если составная система находится в запутанном состоянии, то каждая ее часть находится в смешанном- некогерентном состоянии. Если система в чистом состоянии взаимодействует с другой системой, то возникает запутанное состояние составной системы, а исходная система переходит в смешанное состояние, то есть теряет когерентность. Кот Шрёдингера до открытия ящика находится в чистом состоянии - суперпозиции состояний жив- мёртв. После открытия ящика он взаимодействует с экспериментатором и переходит в смешанное состояние - либо только жив, либо только мёртв.