古德里安生于1888年6月17日，父亲是一位普鲁士军官。他从军校毕业以后，于1907年2月进入第10汉诺威“杰格”营服役，当时担任营长的正是他的父亲。1908年1月他成为中尉，过着一般青年军官爱过的那种生活：骑马、打猎、射击。
古德里安很有语言天才，后来成为军中法语通译官，且英语也很流利。他于1913年入战争学院进修，后来参加一次最早期的军事演习，使用无线电在骑兵部队担任通讯任务。但主要由于师长与其参谋的无能，而不是古德里安所率领的无线电排有任何缺失，这次学习以失败收场，也因此在第一次世界大战初期，德国陆军没有充分发挥无线电的潜力。
古德里安起先隶属第5骑兵师，后来奉派到第4军团总部担任情报官。第一次世界大战结束后，他被派往波罗的海诸国，协助组织志愿军。当时德国已与苏联签订了布瑞斯特-利托夫斯克条约，欲收回波罗的海诸国，而企图拥有对这几个小国的控制权。后来这个计划失败，古德里安获选为席克特4,000人军官团的一员，并成为机械化车辆军事运用方面的专家。
当年德国军中充斥着对机械化的偏见与无知，因此古德里安起初四处碰壁，并不得志，但希特勒在当权后迅速发展坦克的无穷潜力。有一次古德里安集结一支由轻型坦克、装甲汽车、摩托车与反坦克炮组成的装甲部队进行示范，希特勒看见大感兴奋，直呼：“我需要的就是这种部队！我要建立这种部队！”从那以后，古德里安获得了毫无保留的支持。
构思德国新陆军将以装甲师为决定性武器的第一人是古德里安，指导发展这种新武器的也是他。 古德里安认为装甲部队不仅应包含坦克，也应纳入所有其他战斗兵种，因此他既不认同富勒的“全部坦克”的理论，也不赞同美、法两国把坦克隶属于步兵的政策。在即将到来的这场大战中，他的新装甲师是一种首要打击武力，而不单只是一支辅助部队而已。
就德国装甲军早期的编组与建军而言，1934至1935年间是最重要的年份。尽管遭到陆军内部的强大阻力，但由于希特勒的全力支持，装甲师终于创立，指挥官为奥斯华·鲁兹将军，古德里安为参谋长。
第一支坦克部队——装甲第1团——于1934年10月成军。就在成军前不久，装甲车二型（轻型）与四型（中型）的设计图获得批准。这两种坦克，再加上小巧的装甲车一型与后来发展成功的三型-中型坦克，就是纳粹初期所向披靡的坦克部队的基本编制。
最先3个装甲师于1935年10月15日成军，它们最初的编制极为类似1927年英国的实验装甲部队。在西班牙内战期间（1936年至1939年3月），德国以志愿军方式组成的大兀鹰兵团为支持佛朗哥而参战，大兀鹰兵团的地面部队由4个坦克营和30个反眼看连组成。德国这几个早期装甲师的官兵，也因为这场内战而获得非常珍贵的实战经验。他们利用这些经验，不断改善新战术，如空-陆支援、施图卡俯冲轰炸机与坦克编队密切协同作战等等。这些新战术后来成为闪电战的重要部分。 ( 这道命令满足了将军们的荣誉感，而古德里安也得以继续执掌兵权。
5月11日，刚建军不久的法国第4装甲师的指挥官戴高乐决定设法切断古德里安军的补给线，以孤立那些肆无忌惮往法境腹地横冲直撞的装甲部队。他计划对蒙特柯尼发动攻击。蒙特柯尼位于第4装甲师东北方约20英里，是一处重要的道路会口。尽管他的师编制不足而且未经适当训练，戴高乐仍然率军奋力挺进，一路上击毁德军许多装甲车辆与卡车，攻到蒙特柯尼，战斗得极为出色。直到最后，由于缺乏燃料与弹药，法第4装甲师被迫撤军，这场法军“攻势”也于是停止。这个攻击行动虽然只是一种姿态，但它多少挽回了一些法军的光荣。后来戴高乐晚年在谈到这段往事时，仍禁不住谈到，他当年如何率领一支“临时组成的装甲师”，“像德军教训盟军一样狠狠给德军一顿教训”。虽然戴高乐个人确实英勇善战，他部下的坦克官兵也确实表现杰出，但事实上情况却颇有出入。几天以后，戴高乐曾设法二度攻击蒙特柯尼，但为德国空军逐退。这时轮到英国坦克上阵与德军对抗了。
古德里安继续挥军向前，而在5月20日那一天创下最远进军纪录。当天他的装甲军从诺德河一直冲到艾贝市附近的海岸，一天前进56英里以上，不仅把法国切为两半，也断绝了那引起部署在北方的盟军部队与他们在南方补给基地之间的联系。
在古德里安军的北方，其他的德国装甲师也不断挺进着。隆美尔的鬼师深入30英里，但正面只有两英里宽。鬼师俘获大批战俘，摧毁许多敌军的坦克与大炮，而已方伤亡远不到100人。不过他们的战斗并非一直这样顺利，5月21日他们在阿拉斯附近遇上英国坦克与步兵组成的一支混合部队的反击，遭到他们自侵法行动展开以来的第一场败绩。
德国装甲部队的速度与效率，以及其指挥官的优秀，使希特勒大为心动，他终于做出攻击苏联的这个判断，无疑也深受德军装甲部队在波兰与法国战场优异表现的影响。当然，这些只是促成他做下这一判断的辅助因素，因为希特勒一直觊觎着东方，想为德国人民寻求早自1928年以来就需要的一处“生存空间”。
古德里安第一次听到代号“巴巴罗萨”的这项侵苏作战计划的事，是在1940年底他的参谋长雷伯斯坦中校与首席参谋拜尔林少校从参谋本部开会回来向他提出报告的时候。古德里安在自传中写道，这两位军官在他面前展开一张俄罗斯地图，说明希特勒的作战计划。他当时感到非常困惑：“我简直不敢相信眼前这件事。难道说我一直坚信绝不可能的一件事，现在竟然就要成为事实我毫不隐瞒地表明我的失望与厌恶。”
古德里安接着在自传中说明希特勒的高级将领们如何一再向希特勒提出警告，说同时在两线作战是多么危险不智，不过古德里安的参谋们对于他反对攻苏的态度倒是都觉得十分意外，因为陆军参谋长哈尔德将军已经使他们深信，德军只要花8到10周就可以击败苏联，德军的3个集团军将从3个轴线出击，攻击3个目标。古德里安评论道：“从专业观点来看，这个作战计划丝毫无法令人放心。”古德里安设法把自己的看法转达给参谋部，但一点结果也没有，因为参谋部与统帅部一样，对这场战事都太乐观了。就像那些尽忠职守的优秀军人一样，古德里安这时立即着手备战，准备率领他的装甲部队发动这场免不了的攻击。他愁苦地写道：
我们到目前为止写下的许多胜利战果，特别是我们在西方出奇迅速的获胜，已经使我们的最高指挥官们乐昏了头，他们陶醉之余已经把“不可能”这个词从词汇中删除了。
很显然，古德里安并不是唯一不赞同侵苏的德军战地指挥官，只不过或许他是唯一胆敢挺身而出表示异议的将领罢了。其他一些德军将领事后也曾表示对这项侵苏计划的不敢苟同，但平心而论，他们当时所以没有提出反对意见，或许只是因为他们不具有古德里安这样预闻重大机密的地位而已。例如，入侵法国与比利时计划的主要策划人曼施坦因，事先就未能参与“巴巴罗萨”的机密。他日后在回忆录中写道，他只是在1941年2月奉命出任第56装甲军的指挥官而已，这个职位“实现了我早在西进攻势展开以前已有的一个梦想——指挥一个机械化军”，处于比较而言官职较低的曼施坦因，直到1941年5月接获给他的作战命令时，才知道德国即将侵苏，而这时他最关心的是他所属装甲军团的作战任务，已经没有时间对高层决定的战略质疑了。从他的谈话中可以显而易见，他认为施所犯最大的错误就是低估了苏联的资源与苏军的战斗水平。苏军的强悍，以及他们不畏死伤与吃苦耐劳的特性，使他们远比德军想象的更难缠。对希特勒而言，苏联人只不过是为人瞧不起的次人类而已，可以有殴打与掠夺等方式迫使其降服。
德军最初攻入苏境时，曾在若干地区受到当地人民的热情欢迎。但德军的后续部队非但没有珍惜这种有利条件，反而以最严厉与高压手段迫使当地苏联人转而仇视他们。
攻击行动于1941年6月22日3时15分展开——恰为法国人签署降约整整1年之后，尽管边界双方的每一个人纵然再无警觉，一定也早看出德军正不断增兵，但德军的攻击仍然达到几乎是全面性的奇袭战术效果。斯大林为避免惹怒德国，事先已禁止增兵边界或任何可能遭德国解释为侵略的行动。当揭开大战序幕的炮击行动展开时，古德里安在布卡利南方的一座观测塔上观战。布卡利位于他的装甲兵团指挥所所在的布瑞斯特-利托维斯克西北方约9英里。古德里安于3时抵达观测塔时天色犹黑。他后来回忆道：我们的大炮于03∶15开火。03∶40，第一梯队俯冲轰炸机攻击展开。到04∶15，第17与18装甲师的先头部队开始越过布格河。在04∶45，第18装甲师的先头部队已经过河。古德里安接着提到，这些坦克都装备有专门为“海狮”行动（即从来没有付诸实施的侵入英国之战）而设计的防水系统，可以在深达50英尺的水道中使用排气装置潜行达20分钟之久。
古德里安本人于06∶50乘攻击艇过河，但一直等到他的指挥车与参谋人员于08∶30聚齐后，才沿着先头装甲车辆开下的道路前进。他回忆说，不久他来到雷斯纳河上的一座桥梁，这座桥对于他正在左翼的第47装甲军的挺进极为重要。他发现桥梁附近除了一些苏军尖兵之外，什么人也没有，而这些苏军看见古德里安的总部部队开抵，也立即逃跑。德军的先头坦克部队于10∶25抵达河边过桥，接着来的是师指挥官华特·内林（后来他在隆美尔指挥下统帅非洲军）。
古德里安很幸运的是，他拥有一批才智卓越的下属，他统帅的装甲兵团几乎全是一时之选——从他的4个军长盖尔（第24军）、史洛斯（第12军）、雷米尔森（地47军）与维丁霍夫（第46军），一直到各坦克驾驶员与装甲步兵。他们仅仅花了7天就直驱第聂伯河岸，可知这支装甲部队所以成为常胜军，绝非侥幸。
如往常一样，古德里安仍然走在部队最前端，不断躲避着苏联坦克，也无时不在敌炮火攻击之下。有一次视察第18装甲师的前进坦克时，他突然发现自己的座车（所幸那是一辆4型装甲车）竟然误闯入一群苏联步兵的正中间。他下令驾驶员以全速冲出去，那些目瞪口呆的苏军还来不及想到要开火，古德里安已经突围而去。古德里安在回忆录中说，当时一定有苏军认出他，因为苏联新闻界不久就宣布他已死亡。古德里安觉得他应该纠正这个错误的报道，还通过德国电台证明自己依然健在！
当1941年秋季降临时，希特勒与他所向无敌的军队一定认为苏联已经解决了。10月2日，希特勒在柏林发表演说告诉德国人民，敌人“已经被打败，而且永远也站不起来！
在侵苏之战打响不到3星期，北路集团军已经迅速通过波罗的海诸邦，朝列宁格勒逼近；南路集团军正朝第聂伯河与乌克兰首府基辅挺进；中央集团军的战果更为乐观，已经进抵斯摩棱斯克，距莫斯科只有300英里。此外，德军不仅攻占大片土地，也使苏联损失大量的人员、坦克、大炮、飞机以及各种作战物资。不过，仍有大批苏军利用德军攻击纵队之间的大空隙后撤。无论如何，德军在最初两周的战斗中，俘获30万战俘，摧毁或虏获3,000辆车辆。苏联没有机会组织成新的装甲师，顶多只能让各坦克营与坦克旅直隶最高指挥部统帅下；同时采行新的战术规定，强调坦克必须集体运用，不可以划分为小部队个别出战。帕夫洛夫元帅因他的无能而付出性命代价——他在1941年年底被处决，取代他位子的是罗米斯地洛夫。
德军于9月26日攻陷基辅。苏军被俘人数远超过50万，同时由于斯大林下令守军死守，与城共存亡，战死的苏军人数更多得难以数计（西南方面军司令与他的参谋也全体阵亡）。古德里安评道，后来德军也因为“来自高层”的同样干预而遭到“最惨重的挫败”。现在德中央集团军的主要任务就是在冬季来临以前攻占莫斯科。德第3与第4装甲兵团都将参加这场进攻莫斯科的“台风”行动，古德里安所率领的、这时已改番号为第2装甲军团的兵团，也奉命加入这场战役。
朱可夫在他的自传《回忆与思考》中指出，德军经过重新编组之后，现在已经集结了一支优势兵力投入“台风”行动：“他们的兵力比我们多40%，坦克多70%，迫击炮与大炮多80%，飞机也比我们多一倍。”德军在初期打得很顺，但到了10月初，疲态呈现，并且遭到惨重伤亡。朱可夫引用古德里安的话说明德军在欧瑞尔与明斯克战败的原因如下：“大批苏联T-34型坦克投入这场战斗，造成我们装甲部队的庞大损失。我们的装甲部队过去一直拥有的优势现在已为敌军夺去。德军迅速取胜、连战连捷的希望也就此幻灭。
尽管德军用尽全力，尽管他们一度攻进距莫斯科市区只有29英里的地区，这场攻占苏联首都的作战终告失败。朱可夫组织了一道士气昂扬又极具纵深的防御线，使德军终于难越雷池，当然，气候状况的恶化以及德军坦克的难于运作无疑也帮了苏军的大忙。到11月中旬，以古德里安军中为例，在“巴巴罗萨”行动展开之初拥有的600辆坦克，现在还可以操作的只剩下50辆，冬季装备、燃料与车辆零部件奇缺，此外他属下各步兵连的战斗兵力也减为不到50人。古德里安不是唯一有此窘况的德军将领。所有其他的德国装甲编队情况差不多。
历史学家对于德军没能攻下莫斯科有许多解释——其中如天气与气候，如道路泥泞与缺乏等等。朱可夫对于这些解释有他的看法。在谈到气候的原因时，他说：“温暖的衣装与制服也是一种武器。我们的国家让士兵吃得饱穿得暖，而纳粹军队却没有御冬的准备。”在谈到第二个原因时，他说自己曾眼见成千上万的莫斯科妇女在可怖的天气下挖掘反坦克壕与战壕、建立障碍物、堆沙包等。“泥泞盖上了她们的脚，淹没了她们用来盛土的推车的轮子。泥泞爬满了她们的铲子，握在一只只纤细的手臂中，这些铲子显得是如此的庞然大物不！阻挡住法西斯军队接近莫斯科的，既不是雨也不是雪。群集到这里的百万纳粹精锐之师所以遭到惨败，是因为苏联军队在人民、莫斯科与他们祖国的支撑下，表现了无比的英勇、钢铁般的意志与视死如归的精神！
在南方进击的德军，此时处境也未必较好。伦德施泰特已经被迫放弃以侧翼包夹方式攻击罗斯托夫的计划，而不得不于11月中旬采取正面攻击而攻下罗斯托夫。随后他遭到苏军反扑而决定撤军，这使希特勒十分恼火。在希特勒下令撤销他的命令时，伦德施泰特辞职，伦德施泰特为第6军团司令赖谢瑙取代，成为德军高级战地指挥官中第一位“希特勒造成的损伤”。接下来，北路集团军司令李布也被免职，随他一起丢官的还有一些军长与师长。不过，造成德军重大损失的，无疑是古德里安的免职。
泥泞、冻伤、人员与坦克的伤损，都已达到古德里安认为部下再也无法承受的地步。古德里安写道：在天寒地冻的冬夜，我经常彻夜辗转难眠，反复苦思还能做些什么事来协助我那些没有地方御寒的可怜部下。)
古德里安察觉事情已至非孤注一掷不可的地步，于是要求面见希特勒。12月20日，他飞到东普鲁士见希特勒。古德里安回忆当时的情景说，他第一次从希特勒眼神中读到“严厉、不友善的表情”，立刻开始疑心有人在希特勒面前进了他的谗言。两人争执了好几分钟，古德里安把所有问题一一指出，希特勒则把这些问题推得一干二净。比如说，希特勒说冬季御寒服装并无不足，但把军需署长找来讯问以后，才不得不承认古德里安所说无误。这天晚上的会谈没有达成任何结论，不过明显的是，古德里安已经失宠了。
没隔多久，取代博克成为中央集团军司令、极度憎恶古德里安的克卢格，指控古德里安未经许可擅自撤军，并且向希特勒提出报告，希特勒立即解除了古德里安的指挥权。事实上，克卢格曾扬言要把古德里安的事上报希特勒，古德里安为此非常愤怒，已自行先提报告请求解职了。古德里安被调到参谋本部的军官预备团，待了12个月。1943年2月，希特勒宽恕了古德里安，要他恢复现役做专案甲部队总监。古德里安以其惯有的率直方式答复道，鉴于德国与装甲部队的需求，他准备接受这个职位，但条件是他必须有权与元首直接联系，而不必听命于参谋本部参谋长或陆军训练司令。同时他也要求，必须有权决定装甲装备的研究，有权控制秘密警察、空军与陆军坦克部队的训练与组织。此外他还要陆军的所有坦克部队以及他们所在的学校。希特勒完全同意，当古德里安前往面见时，希特勒“提到他重新阅读了我在战前写的关于装甲部队的专文，并且注意到我早在那时已经正确地预知往后的发展”。这次会晤给古德里安的印象是，希特勒苍老了许多，他不像过去那样充满自信，他的言谈犹疑不定，而他的左手也不断颤抖着。
古德里安担任德军装甲部队总监后，没有实际主持一个作战指挥部。这时的古德里安负责优先生产装甲车辆，并指导车辆的使用。他简化坦克生产工序，加快了生产进度。1945年1月12日，苏联发动了他们自大战爆发以来最大规模的攻势，目标直指德国心脏——占领柏林。
朱可夫于1月31日攻抵奥得河，科涅夫在一、两个星期之后也率军赶到。这时身为代理陆军参谋长的古德里安恳求希特勒集中兵力保卫奥得河，但希特勒未予理会。在听到希特勒决定把第6装甲军团调往匈牙利时，古德里安“再也控制不住自己，以非常直截了当的词句向约德尔表白我的厌恶，但约德尔除了耸耸肩以外没有任何反应。希特勒不肯采纳我的意见，坚持己见要在匈牙利发动攻击。要把苏联人从多瑙河赶回去，解救布达佩斯。”不消说，“火暴汉斯”在希特勒手下也干不了多久，他在3月21日再度被革职。他于是决定前往提洛尔，“坐下来静待战争结束”。在德国投降以后他成为美军战俘。
1945年8月古德里安接受了讯问。在3年后一次进一步的讯问，这时的攻击就身体外表而言，已不像那种赫赫有名的大将军，他是个又矮又瘦的人，看起来比实际60岁的年龄还要老。一位参加了这场讯问的人描述古德里安说：
他似是个非常和气的人，尽管目前处境如此不堪，却仍能常保持愉悦的心情。在整个讯问过程中，虽然用的不是他本国语言，为他带来一些不便，但他依然表现出绝佳的幽默，并给人一种非常机敏的印象。1951年古德里安著述的《回忆录》出版。1954年5月15日他走完了他的一生。
