Если заявление о судебном приказе было незаконно принято судьей, а потом приказ был отменен, соблюден ли приказной порядок?

Да, соблюден.

Правовое обоснование следующее:

В п. 20 Постановления Пленума Верховного Суда РФ от 18 апреля 2017 г. N 10 указано, что если указанные требования не рассматривались в порядке приказного производства, то исковое заявление (заявление) подлежит возвращению (пункт 1.1 части первой статьи 135 ГПК РФ, пункт 2.1 части 1 статьи 129 АПК РФ).

Порядок приказного производства регламентирован Гл.11 ГПК РФ и 29.1 АПК РФ.

По своей правовой природе являются абсолютно разными действия по оспариванию судебного приказа (в кассационном порядке) и его отмены по заявлению должника (в порядке ст. ст. 288 АПК РФ, 129 ГПК РФ).

Проверка законности действий суда первой инстанции  осуществляется в порядке, регламентированном ГПК РФ, АПК РФ.

Оспаривание судебного приказа возможно в кассационном порядке. Полномочия суда по результатам рассмотрения кассационной жалобы на судебный приказ предусмотрены ч.6 ст. 288.1 АПК РФ ст. 390 ГПК РФ.

Суд, решающий вопрос о принятии искового заявления  к своему производству, не наделен полномочиями суда кассационной инстанции по проверке законности вынесения судебного приказа.

Ваши доводы о том, что суд должен был вернуть заявление о вынесении судебного приказа, направлены на оспаривание судебного приказа.

Таким образом, Ваши доводы будут не состоятельны, пока в установленном порядке соответствующей судебной инстанцией не будет установлены нарушения, допущенные судом при вынесении судебного приказа.