《海边的卡夫卡》小说由奇数章和偶数章两个故事交替展开，平行推进。奇数章的主人公是一位名叫田村卡夫卡的少年，故事以卡夫卡15岁生日前夜独自离家出走开始，他独自坐上了开往四国的巴士。出走的原因是为了寻找自己四岁时就抛弃自己的母亲和姐姐，更是为了逃避“他将弑父娶母”的预言。
卡夫卡4岁时，母亲带着比自己年长的姐姐离家出走，不知何故却抛弃了自己亲生的儿子。卡夫卡从未见过母亲的照片，甚至连名字也不知道。当他在甲村图书馆的一个房间里安顿下来时，仿佛是命州蚂运在冥冥之中引导，他产生了馆长佐伯是否就是当时离家出走的母亲的疑问。他每天都与少年时的佐伯的“幽灵”在梦中邂逅。终于在一天夜里，他和处于睡眠状态的佐伯发生了肉体关系。馆长佐伯女士是位50多岁气质高雅的美妇，有着波澜曲折的神秘身世。最终，在佐伯的劝说下，少年卡夫卡决定返回现实世界，开始新的生活。
偶数章以一位名叫中田的人为中心展开。他在二战期间读小学时，经历过一次神秘的昏迷事件，不仅丧失了记忆，而且失去了全部的读写能力，在东京依靠救济勉强生活着。凭借能与猫交谈的能力，他操起了寻找走失的猫的副业。中田在神智失控的情况下，与一位自称琼尼·沃克的奇异人物不期而遇。在他面前，琼尼·沃克用残酷的手段对猫进行连续杀戮，中田不得已将他刺死。
中田醒来后决定离开东京西下，在旅途中与长途卡车司机星野相识并结伴来到高松市。在高松市，中田突然产生了“寻找入口之石”的念头。星野在山德士上校的帮助下，找到了石头并将其带回旅馆。在中田的命令下，星野用尽全力打开了这块“入口之石”。接着，在再次寻找中田脑中“某个地方”的过程中，他们到达了甲村图书馆。中田对佐伯说“中田只有一半影子，和您同样”空返，他们都是分身一般的存在。佐伯将记载着自己人生之路的三册回忆录交给中田后，静静地死去。同星野在河滩上将回忆录烧掉后的中田，也在沉睡中停止了呼吸。死后的中田嘴里钻出一个滑溜溜册亏埋的白色生物，星野拼尽全力杀死了它，并将“入口之石”关闭，完成了中田临终前的嘱托。
小说共分49章，奇数章基本上用写实手法讲述卡夫卡的故事，偶数章则用魔幻手法展现中田的奇遇。两种手法交互使用，编织出极富强烈虚构色彩的、奇幻诡诘的现代寓言。佐伯是将这两个故事联结为一体的结合点，而弑父的预言似乎最终也未能避免，因为狂人琼尼·沃克居然是卡夫卡生父乔装改扮的，真正的凶手也并非中田。
