1904年3月18日，出生于浙江吴兴一个职员家庭，原名登瀛，又名君闻、敦行。

幼居武昌，在家塾读书。

1924年毕业于上海工部局育才公学。

1928—1945年在该校任英文、数学、物理教员。出版图书《中国音乐史纲要》。

1928年9月起，一面工作，一面在工部局设立的师范学院就读，1931年12月毕业。

20年代末期至30年代中期，刻苦自学音乐，并随当时在沪的3位外籍音乐家学习钢琴、音乐理论、戏剧理论及作曲等，其中以A．阿甫夏洛穆夫对他的影响较大。

1940—1942年任上海沪江大学中西音乐史教授，并一度兼任上海苏联呼声电台音乐节目顾问。

1944—1945年任中国歌舞剧社预问。

1945—1948年任时代日报社艺术副刊编辑。

1946年起受聘为国立上海音乐专科学校教授，开设中国音乐史和西洋音乐史等课程。

1949年后，历任中央音乐学院华东分院研究室、上海音乐学院编译室和民族音乐系主任，并担任中国音乐家协会常务理事和上海市文学艺术工作者联合会副秘书长。

文化大革命中，沈知白受到迫害。

1968年9月15日，在家中服安眠药自杀。