Что правильней вызубрить теорему и ее доказательство или рассказать ее своими словами и доказать своим способом?

Ни то и ни другое.

Математка устроена так, чтобы у слова не было "своих смыслов". Вы должны использовать каждое слово в формулировке теоремы в общепринятом смысле. Кроме того в формулировок теорем не бывает лишних слов - каждое слово там стоит на своем месте - убери хоть одно слово и впиши лишнее - теорема запросто разваливается.

Однако, в то же время, бесполезно вызубривать формулировку теоремы без понимания, что именно она говорит.

В этом плане самое лучшее - это

1) разобраться что именно значит каждое отдельное слово в теореме;

2) посмотреть как эта теорема используется (а как не используется - примеры, попробуйте убрать какое-то слово из теоремы и найти пример, когда теорема не работает)

После этого попытаться сформулировать теорему и в этот момент понять, что в общем-то как-то в существенном по-другому ее сформулировать не получается.

---------------------------------------------------------------

Что касается "доказать своим способом" - это, конечно, здорово, если вы сможете, но насколько он будет "своим", а не одним из уже известных?)

---------------------------------------------------------------

Ещё не путайте теоремы с определениями. Определения нужно выучивать именно наизусть. Потому что в определеннии всё должно быть так, как принято это определять. Скажете своими словами - определение может быть все еще состоятельным, но значить оно может уже что-то совсем другое.

"Вызубрить" - это в принципе неправильный подход к изучению математики. Зубрить надо стихи на литературе. А если человек не может сказать доказательство теоремы своими словами, это значит что он его не понял.