南京师范大学的主源可追溯到1902年创办的三江师范学堂，后历经两江优级师范学堂、南京高等师范学校、国立东南大学、国立第四中山大学、江苏大学、国立中央大学、国立南京大学等时期；其另一源头为1888年创办的汇文书院，后发展为金陵大学，1951年与金陵女子文理学院（曾称金陵女子大学）合并，成立公立金陵大学。1952年全国高校院系调整，在原南京大学、金陵大学等有关院系的基础上组建南京师范学院，1984年改办成南京师范大学。
学校1902年至1952年期间的档案资料，除了金陵女子大学部分档案资料之外，主要保存在南京大学等有关高校。1952年南京师范学院成立后，开始建立档案室，归院长办公室领导，主要以管理文书档案为主。1984年划归党委办公室领导，1986年又归校长办公室领导。1990年在原档案室的基础上组建综合档案室，归校长办公室领导，主要管理学校的党政、教学、科研、基建、产品、出版、外事等档案。1992 年开始建立校办产业档案。1993年开始建立照片档案。
1956年学校成立人事处，下设档案科，后改为人事档案室。1981年学校组建了科技档案室，归科技处领导，1990年合并到学校综合档案室。1984年建立会计档案，并成立了会计档案室，归财务处领导，档案室负责档案业务的指导工作，1995年会计档案由综合档案室集中保存。2000年南京动力高等专科学校并入，档案及其工作人员划归学校综合档案室，接收档案资料11300余卷。
为了科学规范管理全校档案，2003年底学校将文书、人事、学生、教务、财务、科技、声像、实物等档案整合归口管理，在综合档案室基础上组建档案馆，作为直属单位，正处级建制，归学校直接领导。
2018年人事档案部划归人力资源处。
