寻访建文
胡濙生下来是白发，满月后才变黑。建文二年（1400年），胡濙中进士，授兵科给事中。永乐元年（1403年），明成祖朱棣即位，胡濙升任户科都给事中。
建文帝朱允炆在大火中驾崩，而有人说他逃走了，还有许多旧臣随从。胡濙自永乐五年（1407年）起连续14年受朱棣之命在外暗访建文帝踪迹。他所到之处，也间或向朱棣报告民间隐情。母亲去世时，他请求回去守丧，朱棣不许，升他为礼部左侍郎。永乐十七年（1419年），胡濙又出巡江、浙、湖、湘各省府州，再次出访。永乐二十一年（1423年），他回到朝廷，马上赶到宣府去拜见朱棣。当时朱棣已就寝，听说胡濙到来，立即起来召见他。胡濙把自己所了解到的情况全部告诉了朱棣，到漏下四鼓才出来。在胡濙没到来之前，有传言建文帝从海上走了，朱棣便分派宦官郑和等人浮海下西洋，到这时朱棣才消除了疑虑。
任职南京
皇太子朱高炽在南京监国，汉王朱高煦制造流言诽毁太子。朱棣改胡濙到南京任职，命他顺便调查此事。胡濙到后，秘密上疏驰送北京，报告太子监国七事，并说太子诚敬孝谨，并没有别的过失，朱棣很高兴。
永乐二十二年（1424年），明仁宗朱高炽即位，召胡濙到北京任行在礼部侍郎。胡濙上书提出十个理由，力言建都北京不便，请仁宗回南京，以节省繁重的南北转运供给费用。仁宗都嘉许采纳了。过后听说他曾有密疏上奏先帝，便怀疑他，最后没把他召来北京。胡濙转任太子宾客，兼南京国子监祭酒。
宠遇日隆
洪熙元年（1425年），仁宗驾崩，明宣宗朱瞻基即位，胡濙迁礼部左侍郎。
宣德元年（1426年），胡濙来朝见，宣宗便留他在行在礼部，不久进升为礼部尚书。同年，汉王朱高煦谋反，胡濙与杨荣等人赞佐宣宗亲征。叛乱平息后，宣宗给他的赏赐很丰厚。
宣德二年（1427年），宣宗把京师长安右门的一座宅第赐给胡濙，拨给两个守门人，赐给四枚银章。胡濙生日时，宣宗在胡濙家中赐宴庆祝。
宣德四年（1429年），胡濙兼管詹事府事务。
宣德六年（1431年），兼掌行在户部的行在兵部尚书张本去世，胡濙又兼管行在户部。当时国家开支项目渐多，胡濙担心财物不足开支。减免租税的诏书一下，胡濙常常阻拦不执行，宣宗曾恳切地告诫他，但对胡濙优待不减。宣宗曾设宴招待胡濙和杨士奇、夏原吉、蹇义，说：“天下无患，全倚仗卿等四人之力。”
助定朝局
明英宗朱祁镇即位后，下诏节省过度的开支。胡濙于是上奏减少对英宗的供应，以及裁省法王以下番僧四五百人，使得浮费大为减省。
正统五年（1440年），山西灾荒，朝廷下诏进行宽免抚恤，但过后又命令官员出去采买物料。胡濙上书说皇上的诏令应该言而有信。他又说军人旗校谋求受到差遣，他们一出便骚扰百姓，应撤消这一举动。都被批准了。胡濙行在礼部的印章丢失，英宗下诏不问罪，命令改铸。过后，印又丢了，胡濙被弹劾入狱。不久，印章找到了，胡濙得复职。
正统九年（1444年），胡濙年已七十，请求退休，英宗不许。
正统十四年（1449年），“土木之变”时，英宗被俘，群臣聚在朝廷上痛哭，有人建议南迁。胡濙说：“文皇（朱棣）把陵墓安排在这里，就是向子孙表示不再迁都之志。”他的意见与兵部侍郎于谦相合，中外人士心才定下来。
议礼上皇
明代宗朱祁钰即位后，升授胡濙为太子太傅。同年，工部右侍郎赵荣、右都御史杨善等出使也先，胡濙说上皇（即英宗）被俘已久，应该带上衣服饮食送去，不见回报。上皇将回来时，代宗命礼部制定奉迎的礼仪。胡濙等人建议派礼部官员到龙虎台迎接，锦衣卫准备法驾在居庸关迎接，百官到土城外迎接，各将领到校场门迎接，上皇从安定门入京城，进入东安门，在东上北门面南而坐，代宗拜见完毕后，百官朝见，然后上皇进入南城大内。这建议呈上后，代宗传下圣旨，说以一轿二马到居庸关迎接，到安定门后再换法驾，其他的准如所奏。
给事中刘福等人说这礼仪太轻，代宗回报说：“朕尊大兄为太上皇帝，这已是尊礼无加了。刘福等人还说礼太轻，其居心何在？礼部要集中官员详细调查他。”胡濙等人说：“这几位大臣并没有别的用意，只是想让陛下亲情和睦深厚而已。”代宗说：“昨天收到太上皇的信，说迎驾之礼应该从简，朕怎能违背？”群臣这才不敢说。正好千户龚遂荣写信投给大学士高谷，说奉迎之礼应当从厚，并提到唐肃宗迎接太上皇的故事。高谷装在袖中带入朝廷，胡濙与王直等人一同观看。王直与胡濙想上奏代宗，被都御史王文阻拦，而给事中叶盛竟把此事上奏给了代宗。叶盛的同僚林聪又弹劾王直、胡濙、高谷等人，说他们都是股肱大臣，应当有闻必告，不宜私下议论。有诏书索要那封信。胡濙等人便把信呈了上去，并且说：“肃宗迎接太上皇的典礼，如今正可仿效实行。陛下应亲自到安定门外迎接，分派大臣到龙虎台迎接。”代宗不高兴地说：“就听从朕的命令，不要再吵着更改了。”
上皇到京后，住在南城宫中。胡濙请代宗在明年元旦率群臣在延安门朝见上皇，代宗不许。上皇生日，胡濙请让百官到延安门拜贺，代宗也不许。景泰三年（1452年）正月，胡濙与王直都被升为太子少傅。改换太子后，他加兼太子太师。
阁臣王文厌恶吏科给事中林聪，便罗织罪名，想杀了林聪。胡濙不肯署名，便称病，几天不上朝。代宗派太监兴安去探病，胡濙说：“老臣本没有病，听说想杀林聪，受到惊吓而已。”林聪因此得被释放。
高寿而终
景泰八年（1457年）正月，代宗病重。同月十六日，胡濙与吏部尚书王直、兵部尚书于谦会同群臣商议，决定一起上奏请复立沂王为太子。众人推举商辂主草奏疏，疏成后已经是日暮西山，来不及奏上朝廷。于是群臣决定在次日清晨代宗临朝时，再将奏疏递上去。同日夜间，夺门之变发生，英宗复辟。胡濙闻讯后，竭力撑着病体入宫朝见，遂即请求离职。英宗赐给玺书、白金、纸币、袭衣，拨给驿车，并授予他的一个儿子为锦衣卫官员，世袭镇抚使。
胡濙历事六朝，前后近六十年，中外人士称他是德高望重的老人。回家后，他有三个弟弟，都已七十多岁了，个个须眉皓白，这时候欢聚一堂，便把这样的相聚称为“寿恺”。 [23]
天顺七年（1463年），胡濙病重，在临终前，他将几个儿子召到面前，说：“你们要谋求报答国恩，不要败坏我家的名声。”说完便瞑目而逝，终年八十九岁。英宗闻讯后惊愕悲悼，追赠太保，谥号“忠安”，并专门派人前往祭吊。