父质，以忠清著称，少与乡人蒋济、朱绩俱知名于江淮间，仕魏至征东将军、荆州刺史

胡威，字伯武，一名貔。淮南寿春人也。父质，以忠清著称，少与乡人蒋济、朱绩俱知名于江淮间，仕魏至征东将军、荆州刺史。
威早厉志尚。质之为荆州也，威自京都定省，家贫，无车马僮仆，自驱驴单行。每至客舍，躬放驴，取樵炊囊，食毕，复随侣进道。既至，见父，停厩中十余日。告归，父赐绢一匹为装。威曰：“大人清高，不审于何得此绢？”质曰：“是吾俸禄之余，以为汝粮耳。”威受之，辞归。质帐下都督先威未发请假还家阴资装于百余里要威为伴每事佐助行数百里威疑而诱问之既知乃取所赐绢与都督谢而遣之。后因他信以白质，质杖都督一百，除吏名，其父子清慎如此。于是名誉著闻。
拜侍御史，历南乡侯、安丰太守，迁徐州刺史。勤于政术，风化大行。
后入朝，武帝语及平生，因叹其父清，谓威曰：“卿孰与父清？”对曰：“臣不如也。”帝曰：“卿父以何胜耶？”对曰：“臣父清恐人知，臣清恐人不知，是臣不及远也。”帝以威言谦而婉，谦而顺。累迁监豫州诸军事、右将军、豫州刺史，入为尚书，加奉车都尉。
威尝谏时政之宽，帝曰：“尚书郎以下，吾无所假借。”威曰：“臣之所陈，岂在丞郎令史，正谓如臣等辈，始可以肃化明法耳。”拜前将军、监青州诸军事、青州刺史，以功封平春侯。太康元年，卒于位，追赠使持节、都督青州诸军事、镇东将军，余如故，谥曰烈。