1、西汉时，刘邦在汉中拜韩信为大将军，位在诸将上总理军事，韩信被处死后即不常置。仅战时临时受封，战毕即除。直到刘彻，才因卫青而复置大将军，作为将军的最高称谓，位在三公上，卿以下皆拜[1]
。后又设大司马，为将军的加官。
因之前丞相的权力过大，自汉武帝起，章奏的拆读与审议，转归以大将军为首的尚书。大臣有罪，由尚书劾奏；选任御史大夫，由尚书品定高下;官吏有功迁升，上报尚书；州郡官吏入朝奏事，则面见尚书。丞相若有过失，反由尚书问状劾奏。由此，丞相的权力被一步一步的剥夺，只是在礼仪上还是百僚之长。（《汉书·卷十九上·百官公卿表第七上》）。 汉武帝改置大司马大将军领兵征战，无征战时便成为事实上的执政。大将军实为中朝官领袖，武帝死时，遗命霍光为大司马大将军辅政，后王凤等皆以大司马、大将军预闻政事。汉成帝后期，改大司马由加官转为本官，设金印紫绶，去将军之号。
《汉官仪》载：“汉兴，置大将军，位丞相上。”《文献通考》卷五十九云：“大将军内秉国政，外则仗钺专征，其权远出丞相之右。”
2、东汉时多由贵戚充任。亦有在大将军之上冠以称号者，具体名号有建威大将军、骠骑大将军、中军大将军、镇东大将军、抚军大将军等。
东汉的大将军原位在三公下，到汉和帝时窦宪出任大将军，由于权势太大，朝廷震动，联合奏请以大将军位列三公之上[1]
。（《后汉书·窦宪传》）。东汉末年，大将军同样位在三公之上，（魏武为大将军，袁绍为太尉，绍耻班在下，魏武乃固以大将军让绍）。
3、综合而论，
大将军权力最高的时候，是丞相+统帅这样的职务，可以掌握国家政权，甚至可以废立皇帝。
权力小的时候，也就是一个给贵戚的一个虚职。
