Внутри шарманки находятся звучащие трубки и валик, на котором в определенном порядке расположены шпильки. Шарманщик крутит ручку инструмента, и она приводит механизм в действие. Звук получается немного монотонный и даже жалобный. В литературе его описывают как "скрипучий", "плаксивый", "тягостный", "похожий на ручей".