当时，聂耳住在一间七八个人同住的狭小宿舍里。他练琴时必须站在墙角才能不妨碍别人，但他始终如一地坚持练习。不久，他帮助张庚侯、廖伯民等人在上海代租电影拷贝，得到了100元报酬。聂耳平生第一次拥有这么多钱，他的心激动得要跳出来。他先跑到邮局给母亲寄去一半，剩下的才留给自己。他用这点钱买了把小提琴和两本乐谱。
有了属于自己的小提琴，聂耳练得更刻苦了。他还拜王人艺为老师，虚心地向他请教弹奏的技法。王人艺人很随和，但教琴却一丝不苟，对聂耳的要求非常严格。人们经常看到他们二人在那里认真地矫正指法。当时的聂耳刚学拉琴，连乐谱还看不懂，根本不懂什么对位、和声，经常拉得错误百出。“错了”、“又错了”，王人艺一遍又一遍提醒聂耳。有时候，王人艺还大声地批评聂耳不够用心。聂耳知道自己碰上了好老师，反复叮嘱自己“一定要学会”。那时候，剧社里的同行吃罢晚饭，都喜欢去逛“四马路”，或到“大世界”看杂耍，唯独聂耳哪儿也不去，默默地躲进房间练琴。他给自己定下了雷打不动的练习指标：一天要“恶补”7个小时的琴。