1554年1月25日耶稣会传教士José de Anchieta 在皮拉蒂宁伽村（aldeia de Piratininga）的圣保罗经院进行了弥撒。在他写给教会的书信里，将这个地方称为“圣保罗”，圣保罗由此得名。这个坐落于马尔山（Serra do Mar）悬崖与基也蝶河（Rio Tietê）旁，渐渐地成为了东南海岸通往西方的天然入口，并最终演变成为了现在的圣保罗州。17世纪到18世纪，一群自称Bandeirantes（先锋旗手）的探险者为了寻找金矿和钻石穿越拉美大陆。这些人在探索与发现中极大地扩展了巴西的领土范围，使其扩张到超出托尔德西里亚斯线直到今天巴西的疆界。为了纪念他们的贡献，人们立起了很多纪念碑，其中就包括了圣保罗的标志性建筑之一—先锋旗手纪念碑（Monumento às Bandeiras)。
1711年圣保罗正式立市。19世纪期间，圣保罗依靠圣多士港出口咖啡，并获得了经济的繁荣发展。1881年之后，圣保罗迎来了一股移民潮，这些移民从意大利、日本等各个国家来到新开垦的咖啡农场。20世纪初，国际咖啡价格由于各种因素而暴跌，咖啡贸易开始变得廉价。这促使本地的企业家开始投身于圣保罗的工业发展，而工业的发展让圣保罗又迎来了新的一批移民。
