Още през 1881 г. към Дунавската флотилия функционира оркестър, но той има по-скоро самодеен характер, става ясно от сайта на Военноморския музей във Варна. На 10 декември 1883 г. тогавашният командир на флотилията капитан-лейтенант Зинови Рожественски подава рапорт до военния министър на Княжество България с искане да бъде разрешено откриването на оркестър към флотилията. На 15 декември министърът удовлетворява тази молба.
Със своя заповед № 22 от 10 януари 1884 г. Рожественски обявява списъка на първите 22-ма назначени музиканти.
Първият капелмайстор Франтишек (Франц) Минарек е назначен на 28 февруари 1884 г., която дата се смята за начало на Флотския духов оркестър.
Първата международна изява на състава е на 28 юни 1884 г., когато на борда на яхтата „Александър Първи посещава Одеса, а на 2 юли същата година – Севастопол. Следващата изява на музикантите в чужбина е през 1893 г. в румънския град Турну Северин, а през 1901 г. в Севастопол, на борда на крайцера „Надежда“.
На 17 октомври 1884 г. на мястото на Минарек е назначен отново чех – Франц Щрос. От 15 март 1887 г. капелмайстор е Франц Свобода, по времето на когото оркестърът осъществява забележително развитие. За първи път прозвучават творби на Глинка, Чайковски, Верди и Вагнер, по-късно оркестърът свири и Римски-Корсаков. Франц Свобода прави и първите оркестрови разработки на Добри Христов.
Първият българин, който дирижира оркестъра от 1920 г., е възпитаникът на Букурещката консерватория Александър Наумов. След него диригентската палка преминава през ръцете на: Петър Касабов, Георги Попов, Яким Попилиев, Емил Димчев, Емануил Манолов, Радослав Харалампиев, Венелин Крушев, капитан първи ранг Ангел Кършанов, капитан втори ранг Димитър Димитров. Сега диригент е капитан трети ранг Мирослав Трифонов.
Оркестърът участва във всички воински ритуали във флота и в крайбрежните гарнизони. В по-ново време Представителният духов оркестър на ВМС е неделима част от облика на Варна. Проявите му съпътстват не само всички празници – военни, църковни, общински, национални, но и множеството фестивали и културни прояви в града. Негова запазена марка е откриването на ежегодните фестивали „Варненско лято“ и „Любовта е лудост“ в черноморската ни столица.
Репертоарът му е обогатен с обработки на съвременни популярни и джазови произведения, филмова музика и други. Важна част от живота на оркестъра са международните му участия.
През последните години формацията прави турнета и участва във фестивали на военните оркестри в Европа, където получава високо признание и много награди. В звукозаписната си биография Представителният духов оркестър на ВМС има издадени грамофонни плочи, аудиокасети и компактдискове.
