Если понимать "формализм" как термин с негативной коннотацией, то под формалистским подходом в математике можно понимать соблюдение внешней формы при бессмысленном содержании. Например, можно рассмотреть сумму бесконечной геометрической прогрессии
1+x+x^2+x^3+...+x^n+...
Эта сумма имеет смысл только в том случае, если число x по модулю меньше единицы. Однако, этот ряд можно рассмотреть, например, x=-2. Формально такая запись допустима, а по существу бессмысленна, потому что ряд расходится. Обращение с суммой такого ряда как с числом служит бездонным колодцем ошибок у новичков.