廉希宪于元太宗三年五月二十五日（辛卯年，1231年6月26日）出生于蒙古占领下的燕京，其父为投奔蒙古的畏兀儿人布鲁海牙，因曾任燕南诸路廉访使故改汉姓“廉”。 [2]  廉希宪自幼身材魁伟，举止与一般儿童不同。十九岁时入侍忽必烈王府，因其“笃好经史，手不释卷”的勤学精神，深得忽必烈赏识。有一天正读《孟子》，忽闻忽必烈召见，匆忙将书揣入怀中。忽必烈问《孟子》书中所言何事，廉希宪陈说性善、义利、仁暴等。忽必烈嘉奖其学问，称他为“廉孟子”，于是知名于世。廉希宪还善射，一次在忽必烈面前力挽劲弓，三发三中，众人钦佩他“文武全材”。后从征云南等地。

　　元宪宗四年（1254年），任京兆（今陕西西安）宣抚使。京兆控制陇蜀地区，诸王封地布于左右，境内羌戎杂居，号称难治之地。廉希宪到任后，探求百姓疾苦原因，抑强扶弱。空闲时向名儒许衡、姚枢等人请教治世之道。并提请忽必烈用许衡来管理京兆学校，以教育人才作为根本大计，并将儒士另立户籍，取得显著政绩。

　　元宪宗九年（1259年），随忽必烈攻宋鄂州，廉希宪率儒生百余人拜伏于军门，呈请忽必烈在王师渡江以后，“但凡军中所俘士人由官府出钱赎身，遣归原籍，以表示殿下广施恩典”。忽必烈同意，因此有五百多儒士被放还。

　　宪宗死后，廉希宪秘密进言：“先发制人，后发人制。天命不敢辞，人情不敢违。事机一失，万巧莫追。”力促忽必烈迅速北返，在与阿里不哥争夺皇位的斗争中占据主动地位，并最终夺得帝位。此间，他再次出镇关中，任京兆、四川道宣抚使，重用良将，力挫阿里不哥的支持者浑都海，平定关陇，旋即升任平章政事。

　　中统三年（1262年），又进拜中书平章政事。

　　至元五年（1268年），始置御史台，继设各道提刑按察司。当时阿合马总揽财政，质问廉希宪：“政务由诸路办理，钱谷之事交付转运司，今设御史台、提刑司牵制，叫他们如何办事？”廉希宪回答：“立御史台和按察司是自古以来的制度，其职责是内劾奸邪，外察越轨行为，考察民间疾苦。其于国政有益则莫大于此。若不设台察，上下专横，恣意贪暴，国事能有成就吗？”阿合马哑口无言。

　　至元七年（1270年），廉希宪患病，忽必烈派遣医生三人诊视，医生说须用砂糖做药引，家人到处寻求，阿合马送去二斤，廉希宪拒收，还说道：“即使此物果能治好病，我也绝不靠奸人的赠送来救自己的命。”忽必烈听说后，遣人送去砂糖。

　　至元十一年（1274年），任命廉希宪为北京行省平章政事。

　　至元十二年（1275年），忽必烈急召廉希宪回京，命他抚治荆南，并有授三品以下官职之权。廉希宪带病赴任，右丞阿里海牙率领属官于江陵迎接，荆人大为惊骇。

　　廉希宪到任后，立即下令严禁剽劫，通商贩，兴利除害，兵民安居乐业。希宪还收留宋朝故宣抚、制置二司幕僚中能干事者二十余人，因材任用。这些人赠他珍宝玩物，廉希宪拒绝，并告诫说：“你们是宋朝故官，若任用你们，当念我朝圣恩，尽力报效。今你们送我这些东西，我取之不义，若是官物，收受如同盗窃，若系取之于民，那就是犯罪，你们应当慎重。”又下令：对被俘军民，杀者以杀平民论罪；俘虏患病而被抛弃者，许人收养，病愈后原主人不能再据为己有；凡买卖妻室儿女者，判以重罪，所卖之钱官府没收。决开江陵护城河放水，得良田数万亩，分给贫民耕种。开沙市粮仓，以粟米二十万斛赈济公安县饥民。大兴学校，选任教官，购置经书，并亲自到课堂勉励诸生努力学习。

　　廉希宪在荆南的政绩，影响深远，西南民族及思、播二州之田、杨两姓，还有宋重庆制置赵定应等，都来请降。江陵人说：“皇帝派廉相出镇荆南，不仅人蒙德化，连昆虫草木都得其恩惠。”

　　至元十四年（1277年），廉希宪因病久不愈，被召还京都，江陵人民哭泣挽留。他离开后，江陵人画像建祠，以为纪念。五月，廉希宪回到上都，他两袖清风，离任时随身之物只有琴、书而已。

　　廉希宪还京后，忽必烈诏征扬州名医王仲明为他诊视，病稍愈，能扶杖而起。太祖大喜说：“卿得良医，故病渐愈。”廉希宪说：“医生用良药为臣治病，若臣能自己小心谨慎，就会痊愈，但若臣自己懈怠不堪，虽良医亦无益。”这是借此事来谏劝皇帝。朝廷设立门下省，忽必烈意欲让希宪来主持门下省事，结果却为阿合马所阻。

　　至元十六年（1279年）春，廉希宪复受命领中书事，但病情日重，太子真金前来探望，并问为政之道，廉希宪说：“人君治国最重要的是用人得当，用君子则治，用小人则乱。臣今病势加剧，听天由命而已，而十分担心的是当前大奸专政，小人附和，误国害民，这才是国之大病，希望殿下力劝皇上屏除奸臣，否则国病日重，无可救药。”

　　至元十七年（1280年）十一月十九日（12月12日）夜间，廉希宪逝世，享年五十岁。

　　元成宗大德八年（1304年），廉希宪获赠清忠粹德功臣、太傅、开府仪同三司，追封魏国公，谥号“文正”。后加赠推忠佐理翊运功臣、太师、开府仪同三司、上柱国、恒阳王。