Существует легенда о том, что уже в VI веке до н.э. Конфуций семь дней беспрерывно наслаждался звучанием мелодий на «ребрах тигра» (металлических пластинах, издающих звуки различной высоты), считается, что этот механизм изобрел в 1769 году швейцарский механик Антуан Фавр. В Западной Европе этот механический музыкальный инструмент появился в конце XVII века. Поначалу это был «птичий органчик» для обучения певчих птиц, а затем его взяли «на вооружение» бродячие музыканты.

Так появился музыкальный инструмент для тех, кто не умеет играть. Крутишь ручку — раздается музыка. Чаще всего звучал тогдашний шлягер «Прелестная Катарина» (по-французски «Сharmant Katarina») От названия песенки и произошло название инструмента — шарманка.

Одним из первых мастеров, занимавшихся изготовлением шарманок, был итальянец Джованни Барбери (отсюда происходит французское наименование этого инструмента — orgue do Barbarie, буквально «органчик из страны варваров», искаженное orgue do Barbcri). Немецкое и английское наименования этого инструмента также включают в себя корневую морфему "орган". Да и в русском языке "органчик" часто выступает в качестве синонима "шарманки": «В комнате находились еще мальчик-шарманщик, с маленьким ручным органчиком...» (Достоевский. Преступление и наказание). В Россию шарманка пришла в начале XIX века, и знакомство россиян с новым инструментом началось именно с французской песенки «Шарман Катрин». Песенка сразу всем очень понравилась, а к инструменту прочно пристало название «катеринка», украинское "катерника", белорусское "кацерынка", польское "katarynka, или «лее шарманка».

Есть ещё предположение, что первичным было название не шарманка, а ширманка. «…И произошло от ширм, из-за которых Пульчинелла, почти всегдашний спутник шарманщика, звонким своим голосом призывает зевак и любопытных появившиеся у нас оргАны были неразлучны с кукольною комедиею» (очерк «Петербургские шарманщики» из «Физиологии Петербурга» Д. В. Григорович). Голландцы утверждают, что первая шарманка появилась на их родине. И было это лет 500 назад. Однако из вещественных доказательств у них есть только чертеж конца XV века — столь ветхий, что на нем трудно что-либо разобрать. Из тех образцов, что дошли до нас, самый древний был сделан во Франции в начале XVII века.

Зачастую нам кажется, что шарманка — это просто большая музыкальная шкатулка и мелодия рождается в ней с помощью валика со штырьками и железной пластинки с «хвостиками». Валик крутится, расположенные в нужном порядке штырьки задевают за «хвостики» — вот вам и «На сопках Маньчжурии». Однако не все так просто. Да, существуют шарманки с таким механизмом и даже с механизмом ксилофона, когда штырьки валика задевают музыкальные молоточки, ударяющие по металлическим клавишам, но это уже производные.

Настоящая шарманка — почти орган, и ее устройство намного сложнее, чем мы думаем. Чтобы шарманка заиграла, нужно сначала повернуть ее ручку — ворот. Эта ручка приводит в движение сразу два механизма: штырек, закачивающий воздух в мехи внизу инструмента, и музыкальный валик с нанесенными углублениями — шпильками. Валик, вращаясь, приводит в движение рычаги, которые, цепляясь за шпильки, двигаются вверх-вниз в заданном порядке. В свою очередь, рычаги приводят в движение трости, которые открывают и закрывают воздушные клапаны. А клапаны контролируют подачу воздуха в трубы, аналогичные органным, благодаря которым и звучит мелодия. Крутя ручку, шарманщик мог воспроизвести 6−8 мелодий, записанных на валике. Такие «кулачковые устройства» были известны еще со времен античности: маленькие выступы-«кулачки» крепятся на вращающихся цилиндрах или дисках, попеременно включая звучание той или иной ноты. На одном валике записывалась только одна мелодия, но валик было нетрудно заменить.

В 20-м веке вместо валиков стали использовать перфорированные бумажные ленты, на которых каждому звуку соответствует определенное отверстие. Нередко шарманка снабжается приспособлением, которое специально звук прерывистым и дрожащим, чтобы лучше удавалось «выжать слезу» у слушателей. Но еще бывали язычковые шарманки — сейчас они попадаются в качестве детских игрушек. Со временем колки шарманки стирались, звук становился невнятным и навязчивым – отсюда «Ну, опять свою шарманку завел!..» Репертуар шарманок составляли наиболее популярные песни старого времени, к примеру: «Матушка-голубушка», «Вдоль по Питерской». Но шлягером начала прошлого века была песня «Маруся отравилась». Песня вышла в 1911 году на пластинке Нины Дулькевич, с авторством Якова Пригожего, пианиста и аранжировщика московского ресторана "Яр".

Песня сохраняла популярность на протяжении десятилетий. Есть запись цирковой клоунады 1919 года "Шарманка", где звучит песенка "Маруся отравилась" в исполнении знаменитого клоуна-акробата Виталия Лазаренко. Мне прыгать что-то надоело И, граждане, признаюсь вам, Я за другое взялся дело: Хожу с шарманкой по дворам. Шарманки звуки-то тоскливы, А то бравурны иногда. Вам всем знакомые мотивы Она играет хоть куда! Кукольники для своих представлений объединялись с шарманщиками, и с утра до вечера ходили с места на место, повторяя помногу раз приключения Петрушки. Шарманщик выступал и в роли «понукалки» — представлял зрителям Петрушку, спорил с ним, подсказывал, предупреждал или пытался отговорить от дурных поступков, играл на шарманке или других музыкальных инструментах. 100—200 лет назад шарманщики ходили по дворам и играли популярные романсы, вальсы или любимые в народе массами песни вроде «Разлуки» Жители окрестных домов слушали уличную музыку и бросали шарманщику из окон мелкие монетки. Иногда у шарманщика на плече сидела обезьянка, которая участвовала в выступлении, — она строила рожицы, кувыркалась на земле и даже танцевала под музыку.

Или же компаньоном был большой попугай или дрессированная белая мышь, которые за копеечку вынимали из коробки свернутые в трубочку билетики «со счастьем» – на бумажке было написано, что ожидает человека в будущем. Часто вместе с шарманщиком ходил совсем маленький мальчик и тоненьким голоском пел жалобные песни (о судьбе уличных музыкантов лучше всего почитать роман Гектора Мало «Без семьи»).

Из повести И. Т. Кокорева «Саввушка» мы узнаем о тех музыкальных пьесах, которые входили в репертуар шарманщиков: «Тройка удалая», «Ты не поверишь», (Соловей», «Барыня», «полька», «валец». Здесь по упомянута еще одна чрезвычайно популярная мелодия — ее исполняла знаменитая шарманка Ноздрева в «Мертвых душах». Как сказано у Гоголя, «Шарманка играла не без приятности, но в средине ее, кажется, что-то случилось, ибо мазурка оканчивалась песнею: „Мальбрук в поход поехал", а „Мальбрук в поход поехал" неожиданно завершался каким-то давно знакомым вальсом». Ноздрев пытается всучить шарманку Чичикову вместе с мертвыми душами, утверждая при этом, что она сделана «из красного дерева». Позднее в репертуар шарманщиков вошли и другие мелодии: чувствительные романсы «Под вечер осени ненастной» и «Отворите окно, отворите» [ мемуары И. А. Белоусова «Ушедшая Москва»]. А шарманка, с которой выступали герои купринского «Белого пуделя», играла «унылый немецкий вальс» композитора И. Ф. Ланнера и галоп из оперы «Путешествие в Китай».

"Шарманка" не раз упоминается в произведениях Ф. М. Достоевского. Герой повести «Бедные люди» Макар Девушкин встречает шарманщика на Гороховой улице в Петербурге, причем артист не только играет па шарманке, но и демонстрирует публике танцующих кукол: «Прошел один господин и бросил шарманщику какую-то маленькую монетку; монетка упала прямо в тот ящик с огородочкой, в котором представлен француз, танцующий с дамами». Шарманщики были очень популярны во Франции, Германии, России и Италии. Подробное описание петербуржского шарманщика можно прочесть у Дмитрия Григоровича: "Разодранный картуз, из-под которого в беспорядке вырываются длинные, как смоль, черные волосы, осеняя худощавое загоревшее лицо, куртка без цвета и пуговиц, гарусный шарф, небрежно обмотанный вокруг смуглой шеи, холстинные брюки, изувеченные сапоги и, наконец, огромный орган, согнувший фигуру эту в три погибели, все это составляет принадлежность злополучнейшего из петербургских ремесленников – шарманщика".