1938年3月，由闽东工农红军独立师改编的新四军第三支队第六团到皖南岩寺集中，师长叶飞改任团长。10月30日，侵华日军300余人进犯皖南，六团参加了繁昌保卫战，毙伤日军168人。11月初，六团划归第一支队司令员陈毅指挥，从皖南出发，突破日军多层封锁线抵达苏南，在镇江至丹阳公路上夜袭日军，毙伤敌5人，破坏桥梁4座；在白兔镇与日军激战6小时，毙伤敌60余人。人们把善于行军作战的六团，赞誉为“跑不死的老六团”。
老六团于1939年5月东进，穿越宁沪铁路抵达武进县戴溪桥，与江南抗日义勇军会合，改称“江抗”二路。5月31日，该部与下乡“扫荡”的日军在黄土塘镇遭遇，支队长廖政国端起轻机枪猛打猛冲，战士们紧随其后，打得日军丢下100多具尸体狼狈撤逃。
“江抗”继续东进，7月下旬进抵上海郊区青浦，在观音堂伏击日军，毙伤敌30余人，缴获汽艇1艘；夜袭虹桥机场，烧毁敌机4架。10月，部队进行整编。“江抗”二路（老六团）编为挺进纵队第一团，团长乔信明，副团长刘先胜，全团1800余人。
12月1日，“挺纵”司令员叶飞率部渡江北上，在江北立足未稳即遭到日军袭击，一团奋勇作战击退日军。驻仙女庙日军1个中队、伪军2个中队对“挺纵”发动夜袭，一团进行伏击，歼敌过半。
1940年3月，叶飞率一团和四团1个营急行军150余公里驰援淮南半塔集，途中与日伪军遭遇。我军拦头截尾，歼日军1个小队和伪军1个连，生俘日军1人。之后，叶飞率“挺纵”返回苏北，途经江都地区时遭遇下乡“扫荡”的1000余名日伪军，激战1昼夜，毙伤敌140余人。
皖南事变后，老六团被编为新四军第一师第一旅第一团。1941年2月，国民党鲁苏皖边区游击副总指挥李长江率7000人投降日寇，一团参加了讨逆战斗，歼伪军600余人。4月，日军第十二混成旅团千余人和伪军5000余人分七路“扫荡”苏中地区，23日，一团在进攻日军据点的战斗中，歼日军加养义少尉和警备部队20余人，生俘日军2人，开创了苏中我军俘日军的先河。8月，日伪军1万余人对苏中进行报复性“扫荡”。一团机动灵活作战，9月14日歼伪军300余人，15日击毙日军80余人。
1942年至1943年是日寇最猖獗的一年。日伪军对苏中地区千人以上的大“扫荡”平均半月一次，500人的小“扫荡”几乎每周都有。一团作为分区唯一的主力团，灵活机动作战，抓住战机对敌发动进攻，毙伤日伪军40余人，俘伪军70人。1943年3月，他们袭击日伪据点，俘伪军团长以下334人，毙伤52人。
1944年3月，一团参加了车桥战役，担任打援，歼灭从淮安赶来增援的日军60余人，俘日军三泽大佐（后因伤重毙命）。一团政委曾如清指挥部队追击逃入芦苇荡和小土屋的日军，用火攻烧死敌多人，活捉日军12人。同年底，以一团（老六团）为基础，组建苏中军区教导旅，廖政国任旅长。1945年2月20日，廖政国指挥一团破冰乘船攻打敌据点沙沟，毙俘伪军900余人，缴枪400余支。
1945年4月，一师师长叶飞率教导旅渡江南下，进抵浙西长兴和粟裕会合，改任苏浙军区副司令员，老六团改称第四纵队第十支队，参加了天目山三次反顽战斗。7月31日，第十支队渡过富春江向金华进军，8月6日歼灭国民党忠义救国军2个营，12日远途奔袭金华重镇曹宅，准备向温州进军。
1945年11月10日，中央军委命令成立新四军第一纵队，叶飞任司令员，赖传珠（新四军参谋长）任政委，下辖3个旅，每旅各辖3个团，全纵队2.26万人。与1938年成立的老六团相比，人数扩大了20倍。