Первая военно-морская часть русской императорской гвардии — Гвардейский экипаж — был сформирован только в 1810 году, на 110 лет позднее первых сухопутных гвардейских частей.

После Октябрьской революции было ликвидировано само понятие о гвардии, а возвращение гвардейских званий в советском флоте опять произошло чуть позднее, чем в армии. Первые гвардейские части сухопутных войск в СССР появились 18 сентября 1941 года, а первые гвардейские корабли получили звания гвардейских только 3 апреля 1942 года.

Приказом № 72 Народного комиссара Военно-морского флота адмирала Николая Кузнецова гвардейскими стали четыре подводные лодки Северного флота: Д-3 «Красногвардеец», подводная лодка «К-22», «М-171» и «М-174». Из состава Краснознаменного Балтийского флота первыми гвардейскими кораблями стали эскадренный миноносец «Стойкий», минный заградитель «Марти» и тральщик «Гафель». И только один боевой корабль Черноморского флота был удостоен гвардейского звания, но зато это был самый крупный и мощный корабль — крейсер «Красный Кавказ».