在传说中，天下第一铁匠只选月圆之夜打造青龙偃月刀。快完工时，骤然之间风起云涌，从空中滴下1780滴鲜血。当地术士分析，那是青龙的血。所以，有了“青龙偃月刀”之名，青龙偃月刀要杀1780人之说。
在小说中，对青龙偃月刀的描绘更是登峰造极。譬如《三国演义》的第一回，说到刘关张得到镔铁一千斤，关羽打造青龙偃月刀，青龙偃月刀又有一奇名“冷艳锯”。《三国演义》中对于青龙偃月刀的打造过程和刀的样式，仅一笔带过：“云长造青龙偃月刀，又名‘冷艳锯’，重八十二斤。”虎牢关三战吕布有诗说道：“酣战未能分胜败，阵前恼起关云长；青龙宝刀灿霜雪，鹦鹉战袍飞蛱蝶。”青龙偃月刀与赤兔马一起成为关羽的辨识标记。在乘雪破羌兵时，还安排了一段“只见云雾之中，隐隐有一大将，面如重枣，眉若卧蚕，绿袍金铠，提青龙刀，骑赤兔马，手绰美髯”，情节是多么的显圣，让关羽的威武形象渐渐地深入人心。
不仅仅如此，《三国演义》围绕青龙偃月刀还另设计了很多精彩的情节，例如：刀挑锦袍、单刀赴会、失刀夺刀等等，青龙偃月刀在小说中出现的时间似乎比关羽还要长。
关羽用其斩杀了不少武将，所以后世也叫青龙偃月刀为关刀。在关羽被杀后，青龙偃月刀被东吴将领潘璋夺走，后来，关羽的儿子关兴为父报仇，杀掉了潘璋，夺回青龙偃月刀。因此，关羽和青龙偃月刀被互相视为象征。
