20世纪50年代末至60年代初,赣南地区的高等教育蓬勃发展,工、农、医、师等9所高等学校在短短几年间先后创办,成为推动全区发展的重要力量,赣南工学院的成立正是这一时期教育事业大发展的生动写照。

1960年4月,中共江西省委对设立赣南工学院的报告予以批复,同意相关事项。
1960年春天,赣南工学院在国家经济困难时期正式成立。由于经济形势严峻,学院的创办者们面临诸多困难,学院起步极为艰难。除桌椅板凳是原区党委党校留下外,其余物资设备等资源均需自筹。但困难未能吓退教职员工和同学们,他们知难而进,凭借坚定信念和顽强毅力,一步一个脚印地推动着学院发展。
1960年6月,赣南工学院开学。此前,院长等领导带队前往江西工学院参观实习,学习教学方法与经验。在此基础上,学院制定了院规准则,拟定了教学计划,积极开展教学活动。学院的学生主要来源于厂矿单位的优秀人员和具有高中文化程度的社会青年。学生吃饭实行集体伙食,书籍由学院发放。
1960年冬,学院从赣州市(现章贡区)虎岗的原区党委学校迁至厚德路。当时的赣南工学院拥有约140名教职员工,由原区党委副书记兼工交部长薛经犹兼任院长,张元基任党委书记,佟守功任副院长。学院设有党群、行政等部门,党群方面包括党委办公室、共青团委员会;行政方面则涵盖行政办公室、教务处、人事处、总务处等,还设有医务室、图书馆及勤杂人员班。
赣南工学院拥有大学生及中等专业生共约600余名,其中包含在赣南师专认领的160名学生。当时学院采用“科”而非“系”的称谓,共设有七个科目。其中,采矿、选矿、机械、电机这四个科为大学班次,学制为四年;机械绘图、化工、交通这三个科为中等专业班次,学制为两年,而认领的学生大多被编入中专班。在这些科目中,分别配备了科主任、副主任及相关工作人员,同时还设有党的总支和团的支部。
由于国家经济困难、资金不足以及教育人员缺乏等原因,工学院不得不撤销。1962年8月,学院接到区党委的批示,宣布撤销赣南工学院。学院随后做好善后工作,厂矿企业单位的学生被安排回去工作,社会招收的学生被送往江西冶金学院等院校继续深造。任教老师被分配到各大专院校和中学任教,行政、党群人员也被分配到各单位工作。
赣南工学院虽存在时间短暂,但其在艰苦条件下培养人才、推动地区教育进步的历程值得铭记。学院的创办与撤销反映了特定历史时期教育事业的曲折探索,其积累的办学经验,对后来赣南地区的教育发展有重要启示意义,也为研究当时地方高校建设提供了珍贵样本。