Отвечу максимально упрощëнно и без использования терминологии, если нужны строгие определения, можете начать с Википедии.
Вот допустим, у нас есть две популяции. Люди, приниающие препарат А, и люди, не принимающие его. И мы хотим определить, влияет ли этот препарат на артериальное давление.
Для этого мы берем из этих популяций две выборки - каких-то конкретных, случайно выбранных людей. И затем мы меряем у них артериальное давление.
Критерий Стьюдента - это метод, который позволяет нам ответить на вопрос: достаточно ли у нас оснований считать на основании полученных данных, что среднее значение исследуемого признака между двумя популяциями отличается?
Как? Сейчас рассмотрим. Понятно, что между двумя нашими выборками среднее будет отличаться: вероятность дважды замерить, допустим, ровно 123.454 очень мала. Но это между выборками, между конкретными людьми - а как это отражает различие популяций?
И критерий Стьюдента позволяет оценить, насколько вероятно получить такой уровень отличий, если на самом деле разницы между популяциями нет. А исходя из этого мы можем ответить на вопрос, который я указал выше.
Критерий Стьюдента - это один из самых простых статистических критериев, и поэтому он был очень популярен, когда расчëты делали без помощи компьютеров. Но у него множество ограничений в использовании: он надëжно работает, только если данные имеют нормальное распределение (а в простейшем немодифицированном случае ещë и "ширина" распределения должна быть одинаковой).