首先明确一点，历史上的关羽并不是用大刀的。
1、三国时期根本没有这种东西，大刀是明代以后才出现的。根据史料记载，三国时期的兵器主要为镞、剑、刀、戈、矛、戟、斧和钺几种。镞就是指箭；斧和钺是仪仗兵器，通常不上战场；刀与剑只不过是平时佩带在身上用来防身的武器；戈、矛和戟才真正是武将手里的兵刃。
2、在《三国志.关羽传》里描写关羽杀颜良的情形，为“策马刺良于万众之中”，专门用了“刺”这个字。所以，关羽用的应该是枪、矛之类的武器。
3、三国时期没有马镫，当时还没发明。别小看这个物件，没有马镫时，人在马背上是没有借力点的，挥砍、劈斩这种动作是做不出来的，否则自己就会从马上掉下去。所以，大刀这种武器在没有马镫的年代根本就是废物。当时的骑兵，主要是借助马力冲锋，所以标准配置是矛。
值得一提的是，历史上的确有“单刀赴会”的事情，不过那指的是佩刀，挂在腰间的，不是长柄大刀。
那么，为什么我们印象中关羽是用大刀的呢？
这是演义描写的和民间传说的。
三国演义写于明朝，上面说了，大刀这种武器产生于明朝，在当时看来属于“最时髦”的武器。人们为了美化心目中的关羽形象，自然会把自己觉得最棒的武器加到他身上，所以民间就传说关羽用大刀了。三国演义的作者罗贯中采用了这一说法，于是我们看到关羽在小说中形象，就是拿着一把大刀。
