Такая дата праздника была выбрана потому, что в этот день в 1918 году декретом Совета народных комиссаров была учреждена Пограничная охрана РСФСР. Тогда же было создано Главное управление пограничной охраны. Впервые День пограничника в Советском Союзе отмечали в 1958 году.
При СССР пограничные войска структурно входили в состав КГБ. В задачи этих войск входило обеспечение неприкосновенности границ государства, что подразумевало задержание любых нарушителей границ, а также отражение вооруженного вторжения на территорию страны.
Также задачей пограничников СССР являлось предупреждение пересечения границ в неустановленных местах или незаконными способами и, наоборот, пропуск лиц, пересекающих границы в положенных пунктах. Кроме того, советские пограничники сотрудничали с таможенными органами, милицией, рыбнадзором.
Во время Великой Отечественной войны 1941-1945 гг. первыми приняли на себя удар немецких фашистов, когда те вторглись через западную границы. Но на этом их роль, конечно же, не закончилась, и в дальнейшем пограничники составили основу войск НКВД по охране тыла. В частности на базе пограничников готовили диверсионные отряды, а также готовили инструкторов для партизанских отрядов.
В России правопреемником этих структур является Пограничная служба ФСБ РФ, в Республике Беларусь — Государственный пограничный комитет Республики Беларусь, в Кыргызстане — Государственная пограничная служба Кыргызской Республики. Все они были образованы после упразднения Комитета по охране государственной границы СССР вследствие распада Советского Союза.
Прежде всего в День пограничника вспоминают подвиг тех, кто отражал вторжения извне в пределы своей Родины, не жалея собственной жизни. Есть у праздника и другие задачи, к примеру, продемонстрировать боевую мощь пограничных войск и поднять боевой дух солдат, которые исполняют служебный долг перед народом и государством.
В Украине День пограничника до 2018 года тоже отмечали 28 мая, но затем в рамках декоммунизации перенесли праздник на 6 мая.