。父荛，后唐清泰中，晋祖镇并门，署为参谋。天福初，为开封府推官，使契丹还，上言：“屈节外国，非久长策。”时晋祖方父事契丹，不悦其言，出为汝州鲁山令，卒官。

谦溥少通《左氏春秋》。从晋祖入汴，补殿直，奉使契丹。少帝即位，改西头供奉官，汉初，迁东头。周祖讨三叛及守邺都，谦溥往来宣密命，周祖爱之。广顺初，迁供备库副使。世宗征刘崇，辽州刺史张乙坚壁不下，遣谦溥单骑说之，乙以城降，以功改闲厩使。师还，留为晋州兵马都监。以偏师入河东境，频致克捷，世宗诏褒美之。会隰州刺史孙义卒，时世宗亲征淮南，谦溥谓节帅杨廷璋曰：“大宁，咽喉要地，不可阙守。且车驾出征，若俟报，则孤城陷矣。”廷璋即署谦溥权隰州事。至郡，亟命浚城隍，严兵备，凡八日，并人果以数千骑来寇。时盛暑，谦溥单衣持扇，从二小吏登城，徐步按视战具。并人退舍，后旬余，大发冲车攻城。谦溥募敢死士，得百余人，短兵坚甲，衔枚夜缒出城。会廷璋兵至，合势夹攻，掩其不及。并人大扰，悉众遁去。追北数十里，斩首千余级，时显德四年也。明年五月，攻破孝义县，以功领衢州刺史、监军如故。世宗北征，召赴行在。恭帝即位，为澶州巡检使，诏城莫州，数旬而就。改丹州刺史。

建隆四年，移慈州，兼晋、隰缘边都巡检，行石州事，以兴同砦为治所。冬，将有事于南郊。太祖命四路进兵，略地太原。郑州刺史孙延进、绛州刺史沈继深、通事舍人王睿等师出阴地，以谦溥为先锋，会霍邑。谦溥因画攻取之策，继深等共沮之，延进不能用。军还，出白璧关，次谷口，谦溥语诸将曰：“王师深入敌境，今既退军，彼必乘我，诸君当备之。”诸将不答，谦溥独令所部擐甲。俄追骑果至，延进等仓皇走谷中，独谦溥麾兵拒之，并人引退。未几，移隰州刺史。

开宝元年，命李继勋等征太原，以谦溥为汾州路都监。太祖征晋阳，为东砦都监。前军副部署党进遣谦溥伐木西山以给军用，未至，闻鼓声，乃并人逼西砦。大将赵赞御之，并众未退，谦溥麾所部赴之。太祖遽至观战，怪其赴援者非精甲，问之，乃谦溥也，帝甚喜。谦溥在州十年，敌人不敢犯境。有招收将刘进者，勇力绝人，谦溥抚之厚，藉其死力，往来境上，以少击众。并人患之，为蜡丸书以间进，佯遗书道中，晋帅赵赞得之以闻。太祖令械进送阙下，谦溥诘其事，进伏请死。谦溥曰：“我以举宗四十口保汝矣。”即上言进为并人所恶，此乃反间也。奏至，帝悟，遽令释之，赐以禁军都校戎帐、服具。进感激，愿击敌自效。