Все будет зависеть от того, какое значение вкладывать в понятие "патриархальная". Если мы посмотрим на классическую (хотя и сильно устаревшую) схему Энгельса, то увидим там такую последовательность: кровнородственная семья - пуналуальная семья - парная семья (в рамках которой и формируется патриархат) - моногамная семья. В этом случае можно говорить, что на смену традиционной патриархальной семье пришла семья моногамная. Существуют разные определения слова "патриархат" - от "главенство старейшего мужчины над остальными членами семьи" до "главенство мужчины над женщиной", а это совершенно разные вещи. Плюс часто под патриархальной семьей понимают просто большую семью, где много детей и господствуют "традиционные" (вот еще одно неопределенное слово) ценности.
В зависимости от того, что мы будем вкладывать в понятие "традиционная патриархальная семья" будут различаться и ее функции, соответственно будут и разные ответы на вопрос, что же пришло ей на смену. Если видеть в семье в первую очередь функцию деторождения, то на смену ей приходит институт усыновления, искусственное оплодотворение, рождение детей вне брака и т.д. Если видеть основное в воспитании и поддержке членов семьи, то эту функцию перенимает государство. Если говорить о семье как хозяйственной ячейке, то тут мы увидим институт сожительства, совместной аренды жилья и тому подобное.