淞沪会战爆发后，上海及近郊的居民大量涌入租界成为“难民”，大批乡村中的自耕农、小地主、城市中的小商人以及没落的小资产阶级，因生产机构基本停业，实际上亦已堕入难民境遇。仅“八一三”这一天，就有6万难民涌入租界。据不完全统计，战争发生后，上海附近聚集的难民多达130万。涌入租界的中国难民，高峰时达70万以上，而租界内原有人口约100万，到9月中旬，租界总人口甚至增加到300万左右。租界内人满为患，众多难民只能流落街头巷尾，各收容所人满为患，后至者露宿街头，难民处于饥饿、寒冷、疾病的死亡威胁之下，惨不忍睹。解决难民问题，成为影响时局的迫切要求。中共上海地下党应对时局需要，积极开展难民工作。
“以最大力量加紧难民工作，不仅对难民应予以深刻的民族教育，而且应在难民中发展党的组织，训练一批干部，经过难民来建立上海四周农村中的组织。”在此方针指导下，中共选派优秀干部深入难民收容所开展工作。
数十万难民涌入租界，生活困难，秩序混乱，情绪低落。为加强对难民工作的领导，中共江苏省委（上海地下党的上级组织）成立了难民工作委员会，简称“难委会”。当时，上海公开的难民救济机构，大致分为三个系统，一为国民党上海市党部组建的“非常时期难民救济委员会”，随着国民党军队的西撤，机构主要领导人都逃往大后方，这一救济组织名存实亡；二为“上海国际难民救济协会”，规模较小，收容难民数量有限；三为“上海慈善团体联合救灾会救济战区难民委员会”，简称“慈联会”或“仁济善堂”，是当时上海规模最大的难民救济机关，曾在上海公共租界、边界以及法租界陆续办有60多个收容所，先后收容难民达到六、七十万人次。难委会通过慈联会开展工作，派骨干深入各股日常工作的运作之中，确保了难民收容所的组织领导工作。
面对大好河山沦入敌手，难民们同仇敌忾，强烈要求走上战场，报仇雪恨。赵朴初是“慈联会”收容股主任，为集中青壮年进行抗日救亡教育和军事训练，让有劳动能力的妇女生产支前，他设立了“正大收容所”。在中共秘密党员焦明的帮助下，青壮年难民白天训练，晚上学习。一个月后，第一批300名青壮年难民列队宣誓，补充到正与日军浴血奋战的第三十六师，并立即投入战斗。淞沪抗战期间，他们先后组织数批青壮年难民上了前线。
随着淞沪抗战的失败，上海沦陷，租界沦为“孤岛”，难民越来越多。赵朴初以“慈联会”的名义，向租界当局提出，让难民疏散到后方垦荒，支援抗战。租界当局对疏散难民表示赞同。经焦明到皖南新四军军部接洽，周密安排，第一批700多名青壮年难民，其中有共产党员40多人，顺利地到达新四军军部。此后，他们又陆续输送人员。两年间累计输送到新四军的有3000人左右。对新四军领导的江南抗战起到重要作用，被誉为“上海地下党成功的壮举”。