新四军1937年10月成立以后，针对抗战形势发展和部队实际，遵照中共中央军委、总政治部的训令，于1939年春至1940年底、1944年冬至1945年夏分别进行了两次大规模的军事、政治整训工作，大大提高了部队的军政素质和战斗力水平，对于坚持长期抗战、争取最后胜利发挥了重大作用。
新四军发展初期面临的问题
全面抗战爆发后，新四军在与敌人的作战中伤亡较大，且伤亡者多为红军时期的老战士，致使部队战斗力水平下滑。同时，随着敌后抗日根据地的开拓，兵力迅速扩充，至1940年底，新四军主力部队已发展到8万余人。然而，在部队迅猛扩大的情况下，也面临着一些新的问题。
一是政治工作受到弱化。伴随着部队的发展壮大，工人、农民、手工业者及其他新成分大量增加，新军阀主义、游击习气等不良倾向有所滋长；有些部队指导思想上的右倾现象还没有完全消除；一些人对统一战线的政策认识不清，认为新四军与国民党军队没什么区别，个别人以受国民党的委任为荣。特别严重的是，由于王明等人主张“建立全国统一的国防军”，放弃党对军队的绝对领导，致使新四军内也出现了忽视党的领导的错误倾向。
二是军事技术和战术落后。随着兵员的迅速扩充，新四军在作战技术上的表现与日军反差过大。军事技能与战斗动作不够熟练，在战场上“射击纪律不遵守，乱打枪，同时战场上随便乱移动，因而消耗弹药和损伤极大”。1941年，新四军参谋长赖传珠在总结新四军四年抗战经验教训时就明确指出，新四军在作战时“射击技能不高，射击指挥不精确，以致耗费弹药，而不能收得应有的杀伤效果”。
中央发出整训动员训令
在新四军挺进敌后作战期间，中央军委出于对形势的研判和部队未来发展的长远考虑，决定对全军各部队进行普遍整训。1938年9月29日，中共中央召开六届六中全会，毛泽东指出，目前应“提高主力军的战斗力”，“整理现有军队，补充缺额，同时增编新的军队，加紧教育训练，以利持久作战”。这一决策为新四军的整训工作指明了方向。
1939年2月，中央军委、总政治部发出训令，要求全面进行政治整训。除要求各部队利用战斗间隙整训外，还决定从1939年初至1940年底全军分期分批集中进行整训，每期3至4个月。同年6月，总政治部发出《关于加强部队党内教育的训令》，决定于3个月内对党龄1年及1年半以内的新党员，举行一次有计划大规模的训练，以提高军队中党组织的质量。9月30日，总政治部又发出《关于政治工作的传统与作风的训令》，强调加强各级干部的马列主义理论教育，提高政工干部的理论水平和工作能力；加强政治工作的集体领导与集体讨论，并注意改进工作方法和工作作风。在政治整训的基础上，同时要求全面加强军事整训，加强游击战的战术和射击、投弹、刺杀等技术训练。
军政整训全面提高部队素质
根据中共中央军委、总政治部训令要求，结合新四军实际，新四军各部队采取了一系列有力措施。
一是将完善党的组织建设和巩固党对军队绝对领导作为整训的关键。首先，普遍建立党的组织生活制度，进行党的新政策及组织原则教育。同时，建立健全各级党的组织系统，培养和提高党的干部。军教导队开办多期训练班，培训了大量党的和非党的干部。通过这些举措，部队中党员的数量和质量得到显著提高。到1939年底，新四军中的党员已占总人数的40%，每个班都有党员。
其次，在整训工作中坚定不移地坚持党对军队的绝对领导。1939年7月16日，新四军召开第一次党代表大会，全面总结了新四军成立以来党的工作成绩和经验，深入讨论了在新四军中坚持党的领导的重大意义，明确了新四军党组织在抗战新形势下的核心任务，即坚决贯彻执行中共中央的路线、方针、政策。这次会议，对坚持党对新四军的绝对领导起到了重要作用。
二是把强有力、不间断的思想政治工作贯穿始终。新四军分别于1938年6月和1939年2月召开政治工作会议，全面检查政治工作的成绩和缺点，确立战时政治工作的基本方针、工作制度和工作系统，并着重研究和部署了敌后游击战争中的政治工作任务，最终形成了《新四军政治工作组织纲要（草案）》，有力地推动了新四军政治工作的深入开展。
在1944年的整训中，新四军各部队主要学习了1929年12月古田会议决议和1944年4月谭政受中共中央委托，在西北局高干会议所作《关于军队政治工作问题的报告》，对部队政治工作现状进行严格检查，既充分肯定成绩，又严肃批评了某些轻视或忽视和不愿做政治工作的错误倾向。在此基础上，动员在管理教育方面存在错误和军阀作风的干部在大会上作检查，接受干部战士的批评。同时，启发有缺点错误的战士作自我检查，以克服部队中的不良倾向。这些做法，有效纠正了部队中存在的游击习气及各种不良思想倾向，巩固了纪律，形成了强大的政治优势，为战胜军事上强大的敌人打下了坚实的政治思想基础。
三是注重部队技术、战术提高和开展群众性大练兵。陈毅在《茅山一年》中曾深刻总结：“尤其部队经常分散作战，没有集中整训时间，新战士的战斗动作更不熟练，这些都是急待解决的问题。”
为此，新四军在随后的整训中高度注重加强战术训练。“短平快”成为主要训练手段。以项英的《一年来作战经验与本军建军工作》、陈毅的《茅山一年》 《论游击战争》等著作为教材，部队利用行军和作战间隙，普遍进行了单兵到班的战术训练和射击、刺杀、投弹等训练。根据华中敌后地形特点，重点进行了破坏交通、伏击反伏击、袭击反袭击、打敌据点等战术的研究和演练，并坚持贯彻“从战争中学习战争”的方针，运用实战的成功经验和失败教训，使广大指战员的军事素养得到明显提高。
四是整顿编制和健全规章制度。对所属部队进行编制整顿并建立健全各种规章制度，是新四军两次大规模整训的重要任务。中共中央军委在整训之初就明确提出“重新整理其编制，不足者扩大之，落后者提高之，缺乏干部者补充之”。据此，新四军把新组建的江北部队作为整顿的重点，开展了大规模整编。到1940年11月，新四军整顿后有52个团，约10万人，部队更加精干，战斗力得到了明显加强。除根据中共中央军委下达的编制表进行整编外，新四军还着重建立健全各项规章制度。尤其是重视加强各级干部的训练和司政机关、技术部门的建设，选调有一定实战经验和文化水平的干部充任参谋、干事，建立健全了机关各部门的工作职责和制度，克服首长包办代替现象，使机关真正成为一个高效率的战斗指挥部。
新四军通过政治整训，改进了部队思想政治工作，也为整个整训任务的完成提供了强有力的思想保证。在军事整训中，部队执行以技术为主、战术为辅、学用一致的方针，苦练射击、投弹、刺杀和爆破、土工作业等技术，以及近战、夜战、攻坚战等战术。在方法上，采取群众路线，即开展官教兵、兵教兵、兵教官的互教互学活动，使广大指战员的主动性和创造性得到充分发挥，涌现出一批特等射手、投弹手、刺杀手。新四军经过政治、军事整训，进一步加强了党的领导和部队的组织性、纪律性，提高了指战员的政治觉悟和技战术水平，为尔后军队的大发展与实行大反攻作了切实而有效的准备。