藩医和田昌景长子，7岁时成为桂家养子而改姓。曾在10余岁时在藩主毛利敬亲面前表演即兴汉诗和《孟子》解说，被视为长州藩的青年才俊受到注目。后来在吉田松阴门下学习兵法，同样得到极高评价。除了学识渊博外，修炼柳生新阴流的他在武术方面也有很高的成就，甚至传说曾经在江户桃井道场和坂本龙马有过比试。
由于曾经亲眼见识黑船来航，小五郎意识到日本开国的重要性，向毛利敬亲申请“下海踏破”（出国考察）但一度遭到禁止。但随着敬亲对锁国态度的转变，终于在1863年派出井上馨、伊藤博文等5人前往英国留学（小五郎原为计划人选之一，因担任藩政重责而未被选上）。此时，长州藩成为开明派主政的局面，为后来的明治维新打下基础。禁门事变和第一次长州征伐后，小五郎主持了萨长同盟，并在第二次长州征伐中击败幕府军。在德川幕府风雨飘摇的1867年，他和岩仓具视、西乡隆盛等维新志士加紧制定倒幕大计，最终使得统治日本200多年的德川幕府在戊辰战争中倒台，使明治维新获得全面胜利，被后人讴歌为“维新三杰”之一。
新政府建立后，小五郎改名木户孝允，担任政府总裁局顾问，为所有政策的实质上最终决定责任者。在政治上，经常提出废除封建败俗、人才优先主义、四民平等、充实教育等开明性的建议，为明治政府的安定竭尽全力。西南战争爆发时，不顾自身患上重病，企图前往萨摩亲自制止西乡隆盛，最后在1877年5月26日去世，享年45岁。
