早在罗马时代，某些城市就建立过城市学校。日耳曼人征服西欧后，有些城市学校仍然保留下来，从而构成中世纪城市学校的基础。
新兴工商业城市在11世纪大批出现，城市教育也随之兴旺发达起来。
最初，新城市的掌权者是教俗封建主。市民阶级以经济斗争或以武装斗争的形式，争得了自治权。随着城市的发展和自治运动的节节胜利，新兴市民阶级迫切需要掌握文化知识，要求建立不受教会控制的世俗学校。为此，获得自治权的城市当局，便筹集资金，选聘教师，创办了城市学校。新建的城市学校，虽然没有脱离当时的宗教环境，但除了必要的宗教教育之外，特别注重读、写、算的训练，并且在教学过程中使用民族语言。在许多国家女童教育也构成城市教育的一个内容。例如，尼德兰、德国等，都设立了女童读写学校。
中世纪城市也进行职业技术教育，这主要是手工业和商业行会施行的。例如商店学习经商合同，师付除训练学徒掌握某种职业技术外，而且还教徒弟们读、写、算的知识和宗教知识。在学徒期间，师付为学徒提供房舍、食物和衣服。
城市学校和行会学校是在与教会斗争中发展起来的。城市当局自设学校，用本族语教授读写知识，使牧师的经济收入大为减少，因而遭到牧师的反对，教会也竭力阻止或推迟建立城市学校。有的城市同教会妥胁，有的城市当局同意给教会人员经济补贴，有的城市当局则同意城市学校除教授本族语言由俗人任教外，其他教师均由神职人员担任。还有的城市规定，学费收人由教会和城市当局共同分享。由于城市教育符合当时社会发展的客观需要，所以。教会不可能扼杀或阻止它的发展。到15世纪时，几乎在所有较大的城市里都普遍建立起这类学校，从而大大地推动了世俗教育的发展。
