Как высчитать % тонировки, если допустим на 10%, положить сверху ещё один слой 5%?

Лучше подобным не заниматься, а измерять, что получилось. Потому что реальность такова, что даже одинаковые по % плёнки могут работать по-разному.