加里宁格勒州游离于俄联邦本土之外是第二次世界大战的结果。这片土地原来是德国东普鲁士的一部分，它的中心城市是哥尼斯堡，即现加里宁格勒。1945年4月二战结束前夕，苏军攻占哥尼斯堡。根据同年8月苏、美、英签署的波茨坦协定，哥尼斯堡连同东普鲁士北部地区划归苏联版图。1946年，苏联在这里设州，并以刚刚去世的苏联领导人加里宁的名字命名，哥尼斯堡也改名加里宁格勒，定为该州首府。从此，加里宁格勒成了苏联的重要海军基地、贸易港和渔港，波罗的海舰队司令部就设在这里。由于其战略重要性，当时的加里宁格勒是禁止外国游客前往拜访的。
加里宁格勒原名为哥尼斯堡（Königsberg），大约在13世纪建立。随着德国商人汉撒同盟（Hanseatic League) 的兴起，哥尼斯堡也繁荣起来。在15世纪末，哥尼斯堡已拥有约100多艘商船。在1660年前哥尼斯堡由普鲁士控制。1701年，普鲁士首位国王弗雷德里克一世在这儿的大教堂加冕，并将哥尼斯堡定为普鲁士的首都。
哥尼斯堡期间成为普鲁士和俄罗斯贸易的中心，并一直成为普鲁士的首都，直至普鲁士迁都至柏林为止。哥尼斯堡是著名教育中心，Albertina大学在1544年成立，这大学最著名的学者是哲学家康德（Immanuel Kant），他大部份的思想均在此形成。
哥尼斯堡在20世纪遭逢巨变，第一次世界大战，德国战败，战胜国决定划出“波兰走廊”，令波兰可连接沿海地区，但这将哥尼斯堡和东普鲁士跟德国本土隔离了。第二次世界大战后，苏联、美国和英国在波茨坦会议上决定取消东普鲁士，其北部在第二次世界大战后划归苏联，据为己有。1946年4月7日，苏联最高苏维埃主席团通过了成立俄联邦哥尼斯堡州的命令。7月4日，行政中心以苏联其中一名总理加里宁（Mikhail Kalinin）之名命名，改为加里宁格勒（原名柯尼斯堡成立于1255年），州名为加里宁格勒州。自此，加里宁格勒再没有德国人。有的在战争中死亡，有的逃走了，其余都被苏联放逐至东德或西伯利亚。取而代之的是俄罗斯人口大量迁入，他们大多在附近的苏联波罗的海舰队总部工作。
苏联解体后，波罗的海沿岸的立陶宛、爱沙尼亚和拉脱维亚三国独立，夹在波兰、立陶宛之间的加里宁格勒州与俄罗斯本土的陆上联系被切断，加里宁格勒州变成俄罗斯的飞地，与俄罗斯其余部分隔离。成为一块远离俄罗斯本土几百公里的土地。加里宁格勒与圣彼得堡是俄罗斯在波罗的海仅有的两个不冻港。
