Sau khi học Trường công an Cao Lạng, Hoàng Văn Trai về công tác ở huyện Bảo Lạc và Quảng Hà. Mặc dù địa bàn mới lạ, khó khăn, hiểm trở, ông vẫn hoàn thành nhiệm vụ được giao. Khi chiến tranh biên giới sắp nổ ra, ông về tiểu đoàn cảnh sát bảo vệ cơ động, được đề bạt tiểu đội trưởng.xổ số miền nam 30 ngày