1954年9月9日，中央人民政府政务院发布征集补充兵员的命令。命令决定：为了补充人民解放军退伍兵员的缺额及逐步推行义务兵役制，规定在兵役法未公布前，从1954年11月1日到1955年2月28日，在年满18周岁到22周岁的男性公民中，征集补充兵员45万人，服现役的期限从1955年3月1日算起。应征公民入伍前需由国家卫生机关进行体格检查，凡适合规定应征年龄的公民，如果是家庭中唯一劳动力或独子，经地方人民政府审查批准，可予缓征，不得征集依照法律被剥夺政治权力的人入伍。同时人民解放军也有一部分现役军人，复员回乡就业，转入预备役或退役。1954年9月20日，公布了第一届全国人大第一次会议通过的《中华人民共和国宪法》。宪法第一○三条规定：“保卫祖国是中华人民共和国每一个公民的神圣职责。依照法律服兵役是中华人民共和国公民的光荣义务。”为了逐步推行义务兵役制，1954年11月1日，《人民日报》发表题为《逐步推行义务兵役制，加强中国国防力量》的社论，要求各级党委必须开展广泛而深入的宣传教育，使中国人民普遍了解义务兵役制的具体作法和好处，号召新时代的青年们，勇敢地走上保卫祖国的神圣岗位上去。1954年12月，中国人民解放军总政治部也下发了《关于逐步推行义务兵役制和老战士分期复员的宣传要点》。
1955年7月30日，第一届全国人民代表大会第二次会议通过并正式颁布了第一部《中华人民共和国兵役法》。兵役法规定，人民解放军由志愿兵役制改为义务兵役制。至此，中国开始实行义务兵役制。
1978年3月7日，第五届全国人大常委会第一次会议讨论并批准国务院提出的《关于兵役制问题的决定》。决定指出，实行义务兵役制，对于加强我军建设，加强民兵建设，为中国军队积蓄后备力量，均发挥了积极的作用。同时决定，为了加速我军革命化、现代化建设，实行义务兵与志愿兵相结合的兵役制度。
1984年5月31日，第六届全国人民代表大会第二次会议审议通过了重新修订的《中华人民共和国兵役法》（1984年10月1日起施行），规定中华人民共和国实行义务兵役制为主体的义务兵与志愿兵相结合、民兵与预备役相结合的兵役制度。规定：中华人民共和国公民，不分民族、种族、职业、家庭出身、宗教信仰和教育程度，都有义务依照本法的规定服兵役。
1998年12月29日，第九届全国人大常委会第六次会议审议通过了《中华人民共和国兵役法修正案》（1998年12月29日发布施行）。新兵役法删掉了原兵役法中的“义务兵役制为主体”的提法，保留了“两个结合”的基本制度，即“中华人民共和国实行义务兵与志愿兵相结合、民兵与预备役相结合的兵役制度”，既体现了兵役制度的特色，又适应了军队建设发展的需要。
实行义务兵役制，是中国军事制度的一项重大改革，是关系着国家安全和全国人民切身利益的一件大事。义务兵役制的优点在于士兵服役时间短，定期征兵和退伍，使兵员经常轮换，有利于常备军兵员更新，既可保持军队的兵员年轻力壮，又可储备兵员；同时，也可使更多的人服现役，公民的兵役义务负担公平合理。其不足是服役时间短，很难全面熟悉地掌握复杂的军事技术与装备，只能在预备役组织中进行复训，方能达到现代条件下合格后备兵员的要求。因此，中国从1978年以后，采取了义务兵与志愿兵相结合的兵役制度，对于加强中国军队的现代化建设，提高部队战斗力，积蓄后备兵员具有重要意义。
