Это значит что лицо имеет обязательства, которое готово исполнять, несмотря на собственную выгоду. Для красоты вместо слова "обязательства" используют "долг".
Обычно "верный долгу" относят к людям принявшие военную присягу. По которой они взяли на себя обязательства по выполнению приказов, защите страны и закона.