1912年5月7日（夏历壬子年三月二十一日），出生于中国广东省海丰县海城镇幼石街（今中山西路）25号。马思聪的父亲马育航又名马继犹，是陈炯明的同学，曾参与过陈炯明组织的反清活动。武昌起义后，历任广州市财政局局长与广东省财政厅厅长。后又任天然资源委员会锡矿局广州分局局长。马思聪的母亲黄楚良是海丰县公平镇围雅村人，略识诗书，性格开朗。马思聪出生时，马育航与黄楚良已育有二子二女，分别为马思齐、马思武、马思锦、马思梅。马思聪的小名“艾”含健美、聪颖、长寿之意。

马思聪在1935年所写的《童年追想曲》一文，马思聪的家庭原本并不爱好音乐，他对音乐的兴趣来自于五岁时在外祖父家听到的留声唱片。

1919年，7岁的马思聪在堂兄马时晖家学会了弹风琴；同年，马家亦添置了一臺风琴。

1921年，马思聪与父亲一同前往广州市，寄宿就读于广州培正学校。在广州期间，马思聪学会了说广州话，学会了吹口琴与弹月琴。

1923年暑假，马思聪回到了海丰。当时，大哥马思齐从法国回国养病，带回一把小提琴。马思聪对小提琴爱不释手，决定随大哥一同赴法学习小提琴。

1923年冬，马思聪与大哥一同抵达了巴黎。

1925年下半年，马思聪考入了巴黎音乐学院十大分院之一的南锡音乐学院。

1926年8月，结束在南锡音乐学院的学习生活，回到巴黎。半年后，因颈部疾病而停止练琴。

1927年3月，经医生建议，马思聪前往法国北部的海滨城市贝尔克治病休养。

12月28日，马思聪回到了巴黎，继续进行奥别多菲尔的提琴课。

1928年暑假过后，马思聪考入了巴黎音乐学院Boucherif领导的提琴班。

在1928年或1929年初夏，与冼星海的第一次见面。

1929年，由于经济上的原因，回到中国。在香港、上海、南京和广州举办了音乐会，被誉为“中国音乐神童”。

12月29日，马思聪与陈仙泉一道拜访了鲁迅。在这一年里，马思聪完成了《古词七首》的创作。

1930年1月，回到广州，并在欧阳予倩创办的“广东戏剧研究所”乐队中担任指挥兼第一小提琴手的职位。

1931年初，由广东省政府资送，马思聪得以第二次赴法留学。师从作曲家毕能蓬教授（Binembaum，今译比内鲍姆）学习作曲。

1932年初，马思聪从法国学成归国，并在香港举办了个人独奏音乐会。在这一年的春天，年仅19岁的马思聪与陈洪一同创办了私立广州音乐学院，并自任校长。在音乐学院担任教授期间，他认识了王慕理，与结为连理。

1933年，担任南京中央大学教育学院的讲师。5月，被教育部聘为音乐教育委员会委员。

1937年，马思聪辞去了南京中央大学的职务，并受聘为广州中山大学的教授。同年7月7日，全面抗战爆发。马思聪参加了抗日合唱团并担任指挥，并还前往电台播音、录音。在这一年，马思聪创作了《绥远组曲》；而《绥远组曲》的第二乐章，便是后来几乎成为了马思聪代名词的《思乡曲》。

1939年夏，举家迁往云南徵江（今澄江），继续在徵江中山大学任教。

1941年夏天，马思聪由重庆前往香港；12月8日太平洋战争爆发时，离开香港返回故乡海丰县。

1942年4月，携全家赴桂林。秋天，随中山大学赴广东坪石任教。

1943年春，马思聪前往柳州参加了华南五省音乐工作者年会。同年秋天，随中山大学迁往曲江。

1944年湘桂战争爆发后，举家避难于广西省梧州、柳州、桂林、贵阳、重庆等地。

抗战胜利后的1946年年初，马思聪仍然在贵阳担任艺术馆长。春天，马思聪返回上海，并于4月25日被选为上海音乐协会的理事长。

7月初，马思聪携家人赴台湾。后返回上海，与受周恩来委托的乔冠华、龚澎会面，出席周恩来主持的上海各界人士座谈会；11月末，马思聪回赴广州，出任广东艺术专科学校音乐系主任。

1947年5月，马思聪应李凌之邀出任香港中华音乐学院院长。10月，马思聪被任为香港《星岛日报·音乐周刊》的主编。

1948年年初，马思聪因支持学生反对国民党专制统治，要求民主，拒绝在支持内战的宣言上签名，而离开广东前往香港。夏天，美国驻华大使司徒雷登邀请马思聪全家赴美，遭马思聪拒绝。年底，马思聪回到香港，在乔冠华、赵沨、李凌的策划下准备北上。

1949年4月，马思聪一家与金仲华、萨空了、欧阳予倩等一百多人从香港乘船北上，抵达北平。9月，马思聪出席了第一届中国人民政治协商会议。11月上旬，马思聪出任为中苏友好协会总会理事，并随周恩来总理一同出访苏联。12月18日，中华人民共和国政务院任命马思聪为第一任中央音乐学院院长。

1950年，马思聪全家迁入天津，住进了黄家花园附近潼关道64号的一幢小洋楼。6月17日，马思聪出席了中央音乐学院的成立典礼。

1951年5月至6月，马思聪率中国音乐家代表团赴捷克斯洛伐克参加了当年的“布拉格之春”国际音乐节。

1954年9月，马思聪当选第一届全国人民代表大会代表，并出席了该届大会。在这一年，马思聪一家搬到北京西城区马勺胡同的一座四合院里。

1957年的反右派斗争中，马思聪受周恩来的保护才未被划为右派。

1966年6月初，文化大革命爆发，马思聪被当成“反动学术权威”“大吸血鬼”遭到了造反派的批斗、抄家。

1967年1月15日晚，马思聪随夫人王慕理、次女马瑞雪和儿子马如龙一起乘坐黄埔002号出走香港。

1966年底开始，香港媒体开始报道马思聪离开北京的消息。马思聪的大姐马思锦之女徐美芬，在香港见到出逃的马思聪后，建议其『出国避一避』，并通过美国领事馆的朋友，将马思聪送上了去往美国的飞机。

1967年4月12日，美联社报道马思聪出逃避难，马思聪也开始在公开场合讲述了自己和他的同事遭遇，揭露被红卫兵批斗的惨状。1967年6月美国的《生活》杂志以《残酷和疯狂使我成为流浪者》为标题刊出；同年7月苏联《文学报》又以《我为什么离开中国》转载。

但马思聪的出走以及公开报道，被视为“恶毒攻击文化大革命”，国内亲友几十人受到牵连，他在上海的二哥跳楼自杀，他的岳母、侄女和厨师相继被迫害致死。

1968年5月，根据康生和谢富治“彻底清查”的指示，公安部和北京市公安局成立了“马思聪专案组”，马思聪被定为“叛国投敌分子”。

1987年5月20日在美国因心臟手術未成功而逝世。

2007年12月13日，在广州举行《马思聪全集》首发式的同时，马思聪夫妇的骨灰也归葬广州麓湖公园。