1985年3月，趙南起同志任解放軍總后勤部副部長兼副政治委員、總后勤部黨委副書記（1985年4月起）。1987年11月任解放軍總后勤部部長、總后勤部黨委書記。1988年4月任解放軍總后勤部部長、總后勤部黨委書記，中華人民共和國中央軍事委員會委員。在總后勤部工作時，他提出“以改革總攬全局”，全面推動軍隊后勤改革。主持制定《軍隊后勤保障體制改革的總體方案》、《全軍后勤改革五年規劃》、《“八五”期間全軍后勤工作的基本思路》，確定在10年內分三步走，實現全軍后勤保障工作根本好轉的目標。這些我軍后勤建設目標要求的提出并實施，使全軍后勤改革得以有序展開、整體推進、健康發展，全軍后勤建設成效顯著，在積極“忍耐”中有所作為，確保了軍事經濟效益和軍事效益的提高，增強了后勤保障能力和軍隊戰斗力。

趙南起同志善于總攬全局開拓創新。他提出將軍隊戰略物資儲備與國家物資儲備緊密結合，縮減軍隊儲備規模，節省人力、物力、財力；軍隊基礎設施建設盡可能與國家統籌規劃，統一建設，走軍民兼容、平戰結合的發展路子；強化全軍后勤的作戰保障機能，倡導并實現戰略、戰役、戰術三級保障體系；在軍隊員額大幅精簡后，提出按照“加強、開放、看守、淘汰”的原則，調整后勤基礎設施，收縮后勤攤子，打破“大而全”、“小而全”的模式和自我封閉格局；堅持走“科技興后勤”的路子，深化后勤科技體制改革，調整科技組織結構，擴大科研單位自主權，建立科研成果開發轉化機制；為打破我軍長期沿用的按建制關系各成體系的保障體制，探索三軍大聯勤保障體制，大力推進以“代供、代修、代醫”為主要內容的網絡化劃區保障，先行試點、逐步展開，有效提高了后勤保障效能，為全軍大聯勤的全面實現奠定了堅實基礎。

趙南起同志主張把“好鋼用在刀刃上”。他提出軍費分配要確保部隊生活水平不下降、確保戰略預備隊和應急作戰部隊戰斗力不降低，要向團以下部隊傾斜、向裝備傾斜，大力壓縮基本建設規模、大力壓縮各項公務費開支、大力壓縮集團購買力。“七五”期間全軍裝備失修率每年遞增幅度較大，他向中央軍委提出建議，并千方百計籌措資金，解決了軍隊大型裝備庫房建設問題，為空降兵裝備了大型運輸機，組織了空軍機場翻修和海軍軍港、基地整修工程，使多年制約軍隊發展的老大難問題得到解決。他心系基層官兵，提出對團以上機關少搞“錦上添花”，對營以下部隊多搞“雪中送炭”，組織實施全軍營以下部隊營房綜合治理工程，到1992年三分之二的建制營搬進了新營房，建立旅團生活服務中心，既方便了連隊，又改善了生活。他協調安排專項經費，解決駐邊遠地區部隊吃水、洗澡、照明、取暖等難題和駐青藏、新疆高寒地區部隊肉菜禽蛋自給問題。他主持制定《軍隊基層后勤管理暫行條例》并狠抓貫徹落實，到1991年年底全軍70%的基層單位后勤管理達標。

趙南起同志推進軍隊財務管理體制改革。他提出實行事業經費由業務部門和財務部門共同管理的“雙軌制”運行機制，有效克服了財務管理上的分散主義、本位主義傾向，使軍費使用管理逐步走上標準化、制度化軌道。他提出設立軍隊財務結算中心，有效發揮其聚財、生財、調劑、服務、監督的綜合作用，提高了資金的使用效益和安全性。

趙南起同志無私無畏狠抓從嚴治軍。在整頓以贏利為目的的經營性生產工作中，他深入調查研究，直面突出問題，主持制定了清理整頓軍隊生產經營的方針政策，在中央軍委的領導下，對全軍生產經營單位分三步進行清理整頓。他主持開展全軍房地產、團以上單位決算審計的清理整頓，組織全軍編外車輛、銀行賬號、油料供應管理檢查清理，產生了很好的經濟效益和政治影響，實現了中央軍委提出的從嚴治軍目標任務。

1992年10月，趙南起同志任解放軍軍事科學院院長、黨委書記，中華人民共和國中央軍事委員會委員（至1993年3月）。他提出發展中國軍事科學事業的新思路，確定史料的收集、匯編工作要與研究工作相結合，以研究工作為主；基礎理論、歷史研究要與國防建設、軍隊建設重大現實問題的研究相結合，以現實問題研究為主；注釋性、借鑒性、總結性的研究，要與面向未來、著眼發展的創造性超前研究相結合，以創造性的超前研究為主；低層次的一般性課題的零散研究，要與宏觀的戰略性課題的系統研究相結合，以宏觀的戰略性系統性研究為主。他倡導的“四個結合、四個為主”軍事科研新方法，受到中央軍委首長的充分肯定。僅1993年，軍事科學院重大現實課題研究就增加了66%，在“新時期軍事戰略方針論證”、“未來作戰問題研究”等重大課題中，軍事科學院都發揮了重要的理論支持和對策咨詢作用，使軍事科學院作為中央軍委決策咨詢機構的職能得到強化。他主持拍攝的《較量——抗美援朝戰爭實錄》，獲得“1995年度中國電影華表獎最佳紀錄片獎”和“中國電影金雞獎”。他堅持尊重知識、尊重人才的理念，重視人才和學科建設，深化改革科研管理體制，要求各項工作以科研為中心，以科研工作和科研人員為主體，千方百計為科研人員營造良好、舒心的工作生活環境，特別是解決了住房難等問題，得到科研人員的高度贊揚，至今仍傳為佳話。