Есть ли в Японии серьёзная мультипликация, выполненная не в стиле аниме?

Нет, т. к.:

1. В Японии аниме — это любая мультипликация в Мире, включая японскую;
2. За пределами Японии аниме — любая японская мультипликация.

Если Вы говорите просто об серьёзном аниме, то такое в Японии, безусловно, есть — десятки тайтлов Вы точно сможете найти и полюбить.

Думаю, вся японская анимация-это аниме, просто, не во всех аниме рисовка шаблонная (большие глаза, что-то ещё...)

Остров монстров, черепашки ниндзя, чебурашка, могила светлячков, помпоко война тануки, девочка покарившая время, со склонов кокурико, ариэтти из страны лилипутов