Năm 1946, tham gia Đội Thiếu niên cứu quốc Mai Hắc Đế, rồi làm phụ trách Thiếu sinh quân Trung đoàn 165, Sư đoàn 312, tham gia Đội Tuyên truyền võ trang Lao Hà, làm báo và công tác địch vận của trung đoàn, sư đoàn, sau đó phụ trách nghệ thuật Văn công Sư đoàn 312.
Hoà bình lập lại, ông được cử đi học tại Nhạc viện Bắc Kinh (Trung Quốc). Tốt nghiệp, ông chỉ huy dàn nhạc Đoàn Ca Nhạc Đài Tiếng nói VN kiêm chỉ đạo nghệ thuật, tham gia giảng dạy môn Sáng tác và Phối khí tại Nhạc viện Hà Nội (cho đến năm 1989). Từ năm 1963 đến năm 1989, ông là Uỷ viên Ban chấp hành Hội nhạc sỹ VN, là Trưởng ban Sáng tác thanh nhạc và công tác tại Hội cho đến năm 1996.
Nhạc sỹ Hoàng Vân là người sáng tác nhiều bài hát về các ngành nhất, và trong đó bài nào cũng được coi là truyền thống, Tôi là người thợ lò (Ngành khai thác than), Bài ca xây dựng (Ngành xây dựng), Bài ca người giáo viên nhân dân (Ngành giáo dục), Hát về cây lúa hôm nay (Ngành nông nghiệp), Vì nhân dân quên mình (Ngành Quân đội) ... Các ca khúc khác: Bảy sắc cầu vồng, Chim vành khuyên, Quảng bình quê ta ơi, Tình ca Tây Nguyên, Tình yêu Hà Nội, Tình ca vũng Tàu...