Пусть x - количество шкатулок; y - количество монет.
(y-3)/5 = x (если количество монет уменьшить на три и разложить по 5, то заняты все шкатулки)
y/8 = x-3 (если монеты разложить по 8, то останутся 3 шкатулки)
y/8 = (y-3)/5 -3
5y = 8y-24-120
3y = 144
y=48
Ответ: 48 монет