故事并不复杂，一个极富音乐才华的男生叶湘伦（又名小伦，周杰伦饰）转学到一所新的中学。转学生到了新的学校，心里总是有一点惶恐和不安的，更何况他还是一个内向少言的羞涩少年。正当他带着好奇慢慢接受这个全新的环境之时，他遇见了一个清秀可人的少女小雨（桂纶镁饰），两人初见是在钢琴房里，傻小子愣头愣脑地闯进琴房，惊动了正在弹琴的姑娘，他是为琴房里传出一段引人入胜的琴声所吸引，从小学琴的他竟然没有听过这首悦耳曲子，于是他问女孩那是什么曲子，女孩神秘地一笑“那是一个不能说的秘密。”
从此他便迷上了那个弹琴女孩，迷上了那首不知名的乐曲。
叶湘伦为了给女孩找一本很珍贵的琴谱，竟然以新生的身份向学校著名的钢琴王子挑战，结果，那位学长输得很没面子，当众把那本琴谱给了他。从此，这个羞涩的男生也赢得了不少女生的芳心，谁会不为一个有才华又彬彬有礼的男生心动呢？
当然，小伦和小雨的感情也越来越好。他会用单车送活泼可爱的她回家，两个人也经常会一起在琴房弹琴。有一次，小雨弹起了她第一次遇见小伦时弹的那首曲子，小雨告诉小伦，千万不要在旧琴房弹这首曲子！小伦也伤感地说，等毕业典礼举行完，学校的旧琴房马上就要拆了。他会在毕业典礼上，为小雨演奏一首曲子。
有一天，她甚至把他领到她家里的露台上，暮霭中，面对渐渐西下的夕阳和滚滚动逝的江流，他们有了人生中的初吻。
小雨有哮喘的毛病，小伦就到处打听吃什么对治疗哮喘有帮助，为了这个，他甚至答应和音乐狂老爸跳舞，结果家里刚刚买来的一堆苹果被小伦带到学校，他要让小雨每天吃一个。
可女孩却越来越神秘，她几乎没有什么朋友，现在，甚至经常不来上课，小伦的苹果最多的时候攒了15个，这就代表小雨15天没有到学校来上课。
他去找小雨，可小雨的妈妈说她病了，在家休息。等到第二次他去找小雨，小雨的妈妈让他进了门，说小雨正在休息，可小伦进入小雨的房间，才发现房内空空如也，小伦发现了一张素描画像，而画像上的人正是他自己。同时，他还在小雨的房间里发现了一张泛黄的照片，照片上的人，一个是小雨，一个是小伦的爸爸。
迷惑、惊讶、好奇立时占据了他的心头，让他心乱如麻。他回到家，向爸爸问起了这张照片的来历。
原来，小雨是二十年前爸爸的学生，也是音乐班的，主修钢琴，非常有才华。有一天，小雨在琴房练琴，偶然间在钢琴底下发现了一本很破旧的琴谱，她照着琴谱弹了起来，在美妙的琴声中，琴房的墙壁开始变得斑驳，屋子里别的家具也飞快地不断变换着位置，原来，这本神秘的琴谱带着小雨穿越时空，来到了二十年后，也就是一九九九年，还是这个琴房，小雨弹完一曲，小伦从琴房外走进来。
因为小伦在毕业典礼上弹琴的时候戴着同班喜欢小伦的女生给小伦的幸运手链，小雨和小伦产生了误会……
与此同时，这个一在旧琴房弹起那本名叫“秘密”的琴谱上的乐曲就能穿越时空的的“秘密”让小雨陷入了困惑，因为在未来的一九九九年，除了小伦，别的人都看不到她，另一方面，她说自己能够穿越时空的反常举止也遭到同学们的讥笑和不理解，只有小伦的爸爸——叶老师理解她，安慰她。因为大家都认为小雨是胡思乱想，精神出现了问题，妈妈便让她退了学，从此她便待在家里。但叶老师没有放弃她，他甚至亲自到小雨家，邀请她回学校参加毕业典礼，于是，就有了小伦在小雨家发现的两人的合影。
小伦恍然大悟，以往和小雨在一起的一幕幕情形，一时间全部涌上他的心头，他发疯般地冲向学校里的那间旧琴房，不顾琴房正在拆迁的危险，顺着楼外的脚手架，砸破琴房被密封的玻璃爬上了那间旧琴房，破碎的玻璃把他的手臂划伤了。但他根本顾不上伤痛，飞快跑到钢琴前，发疯一样地弹着那首小雨弹的曲子。窗外，拆迁的铲斗车也开始一铲斗、一铲斗地拆楼，楼体开始颤抖，可小伦还是像什么都没有发生一样地弹着琴，最后，用于拆迁的巨大的钢球向正在弹琴小伦的座来……
