泽闿少孤，能自振拔，早年就读于长沙明德学堂，曾书明德中学“乐诚堂”额。清末授巡守道，分发湖北，刚刚上任，即逢武昌起义爆发，遂折返长沙。从此绝意仕进。以书法为乐，渐自成一家，风格近翁同和，雄浑腴美，尤工“擘窠书”，较其兄谭延闿更加伟劲开张。后迁居上海，一直以卖字谋生。寓沪与黄蔼农、金息侯、程仰坡相从过密，以八法相切磋。泽闿作书，取润低廉，求者甚众，但仍不订高润例；有求书市招，亦不自高身价，乐意应之，为艺林所推重。

平生以诗酒、书画、收藏自娱，淡于仕进，以书法为长。喜集藏，搜集清代书家真迹甚丰，尤以钱沣、刘墉、何绍基、翁同龢四家书法最富，曾影印行世。其他金石墨本之属，亦收藏至富。善作诗，师法谢灵运，曾从学王闿运之门。平素以诗书会友，不与权贵交，与其兄谭延闿热衷政事形成鲜明对照。搜集前贤真迹不遗余力，曾专力购藏钱沣、刘墉、何绍基、翁同龢四家法书。数十年间，收集各家法书千余轴，为海内收藏四家墨迹最富者。曾与道州何绍基之孙何维朴、临川李梅魔、衡阳曾次髯同居海上，以鬻书自给。1950年代初期，谭氏后人将其藏书楼“天隋阁”中所遗文物全部捐献给湖南省文物管理委员会，后转交给湖南省博物馆珍藏。著有诗、文、题、跋若干卷，编次藏于家。有《止义斋集》行世。