不同的将军名称，不同的品级，具体如下：
春秋时代以卿统军，故称卿为将军；一军之帅称将军。见《国语·晋语四》、《左传·昭公二十八年》：“岂将军食之而有不足”。此皆非正式官名。到战国时代始为正式官名，而卿仍称将军。见《史记·廉颇蔺相如列传》；又置前后左右将军。秦因之。
汉置大将军、骠骑将军，位次丞相；车骑将军、卫将军、前后左右将军，位次上卿。见《汉书·百官公卿表上》。西汉还有“中将军”，见《汉书·卫青霍去病传》、《史记·卫将军骠骑列传》。这些将军都是朝廷重臣，常加朝中官号，参与朝政。另外有楼船将军、材官将军、将屯将军、伏波将军等杂号将军，地位稍低，统兵征伐时临时设置，因事立名，事讫而罢。
魏、晋、南朝、北魏、北齐时期，专职武官将军有领军将军、护军将军，及其所领左卫将军、右卫将军、骁骑将军、前军将军、后军将军、左军将军、右军将军等，典掌禁军，各有职司，其余诸号将军名为朝中大臣和地方长官的加官，虽然也领军兵，但不是专职的军事统帅。其中晋朝有骠骑、车骑、卫将军，有伏波、抚军、都护、镇军、中军、四征、四镇、龙骧、典军、上军、辅国等大将军，开府者位从公，不开府者秩二品。三品将军秩二千石。见《晋书·职官志》。晋诸州刺史多以将军开府，都督军事。
南北朝时将军名号极多，权位不一。西魏、北周时期实行府兵制，各级府兵组织的统帅也带将军号，如柱国大将军、大将军、骠骑大将军、车骑大将军等。
隋朝十二卫、唐朝十六卫等诸禁卫军都置大将军、将军，分别冠以卫号、军号，统领府兵、禁军。辽朝北面御帐官、皇族帐官、诸帐官、部族官、属国官、军官中皆置将军，参掌本部军队之政令。
金朝宫中置宿置将军，领亲军，掌宫城及出行禁卫；大宗正府下设诸宗室将军，分治宗室事务；金章宗发兵攻宋时曾设置平南诸号将军，军还而罢。
明朝镇守边防的将领挂将军印，如驻守云南的总兵称征南将军，驻守两广的总兵称征蛮将军，驻守辽东的称征虏前将军，驻守宣府的称镇朔将军，驻守甘肃的称平羌将军，驻守宁夏的称征西将军，驻守交趾的是副将军，驻守延绥的称镇西将军等。
明清两代，有战事出征，置大将军和将军，战争结束则免。明朝领兵出征的总兵官临时挂将军印，如平贼将军、平胡将军、平虏将军、征夷将军、征虏将军、讨贼将军、前将军、副将军等，事毕纳印。清朝临时派遣的军事统帅授以靖逆将军、扬威将军等，班师撤回时，军队各归原建制，印信缴还。
