林冲风雪山神庙后，投奔梁山，受到寨主王伦刁难，只得下山去取投名状。杨志正逢恩赦，要去东京谋求复职，恰好路经梁山泊，遇到林冲。二人大战五十余合，不分胜负，最终被王伦劝下。王伦有意招纳杨志入伙，却被杨志婉拒，只得放他离开。
杨志到东京后，通过门路见到了太尉高俅，却被高俅赶出。他盘缠用尽，只得到天汉桥街市上变卖祖传宝刀，却又遇泼皮牛二寻衅滋事。
牛二要强夺宝刀，再三纠缠。杨志“一时性起”，怒杀牛二，而后到开封府衙自首，被打入死囚牢。天汉桥百姓感念杨志为民除害，替他花钱上下打点。最终，杨志被免除死罪，只以“斗殴杀伤，误伤人命”之罪，刺配北京大名府留守司充军。
