随着来华参加抗日的朝鲜青年日益增多，武亭（即武挺，又名吴挺，朝鲜人，早年参加中国共产党，曾任中央苏区红军特科学校校长、八路军总部首任炮兵团团长）和朴孝三、石鼎（又名石正）、陈光华（朝鲜名金昌华，1936年加入中国共产党，1938年底抵达太行根据地，曾在中共中央北方局和晋冀豫区委担任重要职务）等人开始着手整编朝鲜义勇队。1941年1月10日，40多名从延安抗日军政大学毕业开赴华北抗日前线的朝鲜青年及100多名朝鲜义勇队成员，在晋东南辽县桐峪村成立华北“朝鲜青年联合会”。会议通过了联合会纲领，“誓志推翻日本侵略者统治，与中国人民共同为民族解放而奋斗”。次日，彭德怀在华北“朝鲜青年联合会”成立大会上作报告，高度赞扬了朝鲜人民反对日寇压迫和参加中国抗战的英勇精神。“朝鲜青年联合会”以“团结朝鲜青年，抗击日寇，光复祖国”和“拥护朝鲜全民族的反日战线”为纲领，武亭任会长。同年7月，“朝鲜青年联合会”在桐峪组建朝鲜义勇队华北支队，支队长朴孝三，副支队长李益世，政治指导员金学武。义勇队总部设在“陪都”重庆。

　　朝鲜义勇队华北支队主要由三部分朝鲜爱国志士组成。一是以武亭、陈光华为代表的中国共产党党内的朝鲜志士；二是在华北的朝鲜侨胞以及后来反正的日军朝鲜籍士兵；三是原朝鲜义勇队的大部分成员。为防止留在朝鲜国内的亲属遭到迫害，大多数义勇队队员的名字是化名，而非其原来的朝鲜名。

　　据当年曾在八路军第129师政治部敌军工作部任科长的卢耀武、刘国霖说，早在1940年春，抗大总校就分配给129师十几名朝鲜同志。他们都是抗战前因反日流亡中国的，抗战爆发后到了延安。他们都能讲流利的汉语和日语，文化水平较高，对日本国情有较多的了解，因此多数都被分配到师、旅、军分区政治部敌工部门。129师主力部队从旅到团都配备了朝鲜籍敌工干事，使全师敌军工作大大向前迈进了一步。