1896年英国人劳海德在古城卫辉开办的西医诊所，1903年，在该诊所基础上建成博济医院，1920年，医院扩建后更名为惠民医院，1922年加拿大人维特立夫创办惠民医院护士学校，招收四年制护理专业学生并由中华护理学会（1923年名为“中华护士会”）颁发文凭，成为学校教育教学史的开端。
1947年9月，冀鲁豫行署在山东省阳谷县大布乡李堂村成立卫生学校；1949年，冀鲁豫行署卫生学校和哈利逊医院从山东迁入卫辉，与惠民医院及护士学校合并，并接收解放军第三机动医院部分医护人员和干部，1950年成立平原省医科学校。
1952年11月，平原省撤销，学校由华北行政委员会接管，更名为华北第二医士学校。
1953年5月，国家卫生部决定，将华北第二医士学校迁往河北省通县（现北京市通州区）。
1953年9月，河南省人民政府决定，将郑州第一医士学校、南阳第二医士学校、安阳卫校、濮阳护士学校及华北第二医士学校的附属医院等单位合并，在华北第二医士学校老校址，成立河南省汲县医士学校。
1956年7月，省卫生厅决定，河南省汲县医士学校更名为汲县卫生学校。
1958年3月，河南省汲县卫生学校更名为新乡专区医学院，隶属新乡专区领导；8月，学校升格为高等医学专科学校，开始招收专科生。
1959年9月，新乡专区医学院更名为河南省汲县医学专科学校。
1962年，学校更名为豫北医学专科学校。
1982年11月，学校升格为本科，定名为新乡医学院。
1991年，学校办学主体由卫辉搬迁到新乡市新校区。
1998年6月，经国务院学位委员会批准，成为硕士学位授予单位。
