中世纪时期
神圣罗马帝国并没有专用国旗，但是黑色和金色是神圣罗马皇帝的代表色，并常常被用于他们的标志：金色的背景上的一只黑色的老鹰；关于这个标志的最早记录为海德堡马内塞古抄本。在13世纪后期或14世纪早期之后，鹰的爪和嘴被染为红色（纹章学中被称做：金底红爪黑鹰，黑－红－金三色搭配第一次用在国家标志上）。15世纪初期开始，双头鹰开始被使用。1804年拿破仑一世成立法兰西第一帝国。为了和其抗衡，哈布斯堡王朝的神圣罗马皇帝弗朗茨二世宣布他的个人领地为奥地利帝国并自称为奥地利的弗朗茨一世。而奥地利帝国的国旗也就使用和神圣罗马帝国的标志一样的黑色和金色。由于拿破仑于1806年强迫帝国解散，弗朗茨二世是神圣罗马帝国的最后一位皇帝。之后奥地利国旗到1918年为止一直是黑色和金色的。
红色和白色在这段时期也常常被当成德国的代表色。当神圣罗马帝国参加十字军东征的时候，除了黑－金的帝国标志外，还有红－白军队被使用。它被称为圣乔治旗,红底白十字架：恰恰和英国国旗圣乔治旗颜色相反。红－白色也曾是汉萨同盟（13到17世纪）的代表色。汉萨商船即以红白细长三角旗为他们的标志，而很多汉萨同盟的城市也以红白做为市旗的基本色。现在红－白仍然是很多前汉萨同盟城市，如汉堡或不来梅的代表色。
拿破仑时期
1806年神圣罗马帝国倒塌，很多前神圣罗马帝国的邦国加入了由拿破仑支配的莱茵同盟。当时使用绿－白－蓝三色旗，表示它效忠于其保护者拿破仑一世.
1813年由吕佐夫志愿军为主力的德国反对拿破仑的解放战争暴发。这只军队主要由反对法统德国的学生组成。他们是从德国各地自愿集中于普鲁士少将阿道夫·冯·吕佐夫的徽下，因此他们的军装是各式各样，为了统一，军服最终全部使用黑色。在加上金色（黄铜色）钮扣和红色的翻领和滚边后，正好和前神圣罗马帝国旗基色相同（金盾金色、鹰身黑色、喙和爪为红色）。
这三种颜色的组合同时也成为了解放战争的格言：“通过流血（红色）的抗争从被奴役的黑暗（黑色）中得到自由的金色光芒。”
德意志邦联时期
德意志邦联(1815–1866)期间黑-红-金三色逐渐确立了其作为国家代表色的地位。为了推翻君主制建立共和制的德国，1848年爆发的德意志1848年革命开始使用黑-红-金三色垂挂旗。
1848年德国民族主义运动兴起，希望能够将松散的德意志邦联改为政治上更紧密的统一国家，这面旗帜就被用来作为民主革命的标志。1848年3月9日这面旗帜正式被宣布为德国的国旗。1848年5月18日第一次德国国家议会在法兰克福圣保罗教堂举行。1848年11月13日帝国法律公报宣布黑-红-金三色横条旗为德国国旗。另外黑-红-金三色旗同样也是德国国民议会舰队(1848–1852)的军旗。
普鲁士崛起时期
但是德意志邦联内最有实力的国家普鲁士并不欢迎革命，他们在1867年成功统一德国北部，建立北部德国邦联，当年的6月25日他们采用一面红、白、黑的三色旗为国旗。官方解释为黑-白代表普鲁士，红-白则代表所有汉萨同盟的城市。普鲁士皇帝威廉一世，对这个颜色组合也非常满意，因为黑-白代表了普鲁士而红-白代表了勃兰登堡选帝侯。黑-白-红三色旗的使用基本上没有得到反对，原本使用黑-红-金三色旗的首要目的也是为了德国的统一而不是因为其颜色的缘故，取消掉金色也同时说明当时的德国联邦不再包括奥地利帝国。在普法战争后，其他南德联邦和北德意志邦联联合，于1871年完成了德意志统一，霍亨索伦王朝成为新的德意志帝国的统治者，黑-白-红三色旗最终于1892年成为德意志帝国的国旗，其一直被使用到1918第一次世界大战最后帝国的终结日。
魏玛共和国
德国在第一次世界大战战败后于1919年8月14日成立了魏玛共和国，其再度启用黑-红-金三色旗为德国国旗，因为其代表了德国的民主。而原来的黑-白-红三色旗根据魏玛宪法代表了君主独裁制，虽然作为国家标志得到保留，但是必须进行修改：在其左上角加上了黑-红-金三色旗。黑-红-金三色旗的推行在当时的德国引起了一场国旗斗争。君主主义者和纳粹主义者都赞同使用原本的黑-白-红三色旗并嘲弄黑-红-金三色旗为：黑-红-芥末。1919年7月3日关于选择德国国旗的最终投票在德国国会举行，黑-红-金三色旗以211票的同意和90票的反对获胜。对贸易用旗则达成了妥协，仍然使用黑-白-红三色旗为底色。1921年7月31日出台的第一部国旗法令更是具体规定了其他各种相关旗帜，其中包括五张以黑-红-金和五张以黑-白-红为底色的旗帜。这些复杂的法令并没有让任何人满意，他们任然认为自己的观点才是德国真正的国旗。1922年，出于妥协，魏玛政府重新使用黑-白-红三色旗作为外交用旗。
纳粹德国
1935年9月15日颁布的《帝国国旗法》规定到，从这一天开始德国国旗只能是卐字旗（带左旋的卐字），不能再使用黑-白-红三色旗作为国旗。赫尔曼·戈林以国会主席的身份在纽伦堡的一次谈话中解释了这个改变的原因:旧的国旗（指黑-白-红三色旗）饱含了荣誉，但是她只是代表了德国过去的荣誉。我们对旧的黑-白-红三色旗的尊重，妨碍了我们对这种旗帜隐含在胜利的标志下的反动意义的注意。
禁止使用黑-白-红三色旗的一个比较公认的原因是于1935年7月26日发生在纽约的“不莱梅号事件”：在德国班轮“不莱梅号”在纽约港口靠岸时，一群“反纳粹游行”参与者爬上不莱梅号并将纳粹的卐字旗撕成碎片投入哈德逊河。四天后德国大使向美国政府投了封尖刻的抗议信，文中指出德国国旗被“玷辱”了。美国方面却以卐字旗只是纳粹党旗，而作为德国国旗的黑-白-红三色旗并没有受到损坏为理由推卸责任。这个事件最终让希特勒决定修改国旗法。
二战后
二次大战后，盟国管制理事会的通过的第一项法令即是永久废除纳粹的所有标志欧洲许多国家，特别是德国，严禁卐字标志和卐字旗在公共场所张贴或发放。
二战结束后德国被盟国和苏联分区占领，盟军占领区的临时管理政府废除了纳粹党旗，而使用一面缺角的蓝、红、白条纹旗作为德国的标志。1949年5月9日，西德成立，再度使用历史悠久的黑、红、金旗帜。共产主义的东德（苏占区，即民主德国。）原先使用的国旗与西德一样为黑、红、金三色旗，但在1959年10月1日在国旗上加入了国徽的图案。1990年两德统一後，三色旗终于成为全德国的国旗。
