Что же такое сингулярность?

Ну, представьте себе, что родился ребёнок ростом 52 см, и каждую неделю подрастает на 1 см. Если экстраполировать этот процесс в прошлое, можно придти к выводу, что за 52 недели до рождения рост этого ребёнка составлял 0 см, то есть ребёнок был сингулярностью. Понятное дело, что эта экстраполяция некорректна, потому что закон роста на 1 см в неделю не всегда работал в прошлом (да и в будущем не всегда будет работать).

Можно сказать, что сингулярность — это когда по какой-то нормально работающей в обычных условиях формуле вдруг получается чепуха (например, деление на ноль). Это значит, что в данной конкретной ситуации формула не работает, несите другую.

Про математику уже все очень подробно

А вот про ее приложения...

Если очень коротко: сингулярность это точка, в окрестности которой предлагаемая теория не работает. Так и нужно относится к всевозможным "технологическим сингулярностям" и прочим предсказаниям бесконечных величин.