1903年出生。字有三，号冷庐主人，河北高阳人，中国目录学家和版本学家。
1924年，王重民入读北京高等师范学校，研究中国古籍。
1928年毕业。在北京图书馆开始了编目科工作，主要整理敦煌遗书、太平天国史料及古籍。
1934年至1939年，在英国、德国、法国、意大利、美国等国各大图书馆抄录了很多资料，并发表多篇关于敦煌及太平天国史料的文章。尤其是在落实中法两国政府交流项目上，他被选派到法国国家图书馆，从事对该馆所藏大量敦煌文献的编目工作，而法方派到北京图书馆的则是杜乃扬女士，她负责整理北图所藏的法文书籍目录。
1939年至1947年，他赴美国国会图书馆鉴定善本书。后返回中国，担任北京大学教授，并建议成立图书馆学系。
1949年，出任图书馆学系系主任。
1950年起，王重民讲授和编写了很多图书馆学的课题与文章，譬如：《中文工具书使用法》、《参考资料与参考工作》、《普通目录学》、《历史书籍目录学》、《中国目录学史》、《中国目录学史料》、《近代目录史料》、《中国书史》。主要著作有《道德经碑幢刻石考》、《老子考》、《国学论文索引》、《清代文集篇目分类索引》、《日本访书志补》、《太平天国官书》、《敦煌曲子词集》、《敦煌古籍叙录》、《善本医籍经眼录》、《徐光启传》、《中国善本书提要》、《中国目录学史料》、《四库抽毁书提要稿》、《美国国会图书馆藏中国善本书录》（由袁同礼修订）等。
1957年8月被划为右派，撤销系主任职务。
1962年摘掉右派帽子。
1963年参加了四清运动。文革中被抄家。
1974年，王重民接受了辨伪《史纲评要》的工作。王重民在北大图书馆寻出一部明代万历版的《史纲要领》，经比较断定《史纲评要》是托名李贽的著作。
1975年4月，因此受批判而在颐和园长廊自缢身亡。
