Во-первых, там хранится операционная система, которая может обновляться (если обновления включены), может писать что-то в свои системные логи для диагностики.
Во-вторых, есть временная папка "%WINDIR%\Temp" (без кавычек), которая хранит временные файлы как самой операционной системы, так и внешних программ, которые туда пишут.
В-третьих, есть кривые программы, которые зачем-то могут создавать внутри виндовой папки свои папки, чтобы их нельзя было так просто удалить.
Стандартно можно воспользоваться программой "Очистка диска", которая позволит удалить как содержимое вышеупомянутой папки, так и ещё ряд временных файлов.
Также в современных Windows есть ещё один "более правильный" (с точки зрения программирования) подход: хранить временные файлы в "%USERPROFILE%\AppData\Local\Temp" (опять же без кавычек). Это некий общий склад временности для конкретного пользователя. Современные программы очень много чего туда пишут и далеко не всегда подчищают за собой.
%что-то% - это переменная, которая заменяется системой автоматически на привильный путь. WINDIR - папка Windows (обычно "C:\Windows"), USERPROFILE - имя текущего пользователя Windows (их может быть больше одно, как и папок ;) )