南京市金陵中学前身为1888年由美国美以美(methodism)会创建的汇文书院。汇文书院是南京的第一所高等学府,英文名为Nanking University。1892年汇文书院始设大学堂、高等学堂、中学堂、小学堂,中学堂称成美馆。
1910年汇文书院与宏育书院(由益智书院、基督书院合并而成)合并为金陵大学,汇文书院的中学部博学馆,遂更名为金陵大学附属中学,简称金大附中、金陵中学。1937年抗日战争爆发后,西迁四川的师生先后创办了万县金陵中学及驻蓉分班;留守南京的师生们先后办起金陵补习学校、鼓楼中学、同伦中学和南京金陵中学。抗日战争胜利后,1946年,西迁四川万县的师生回宁,与南京金陵中学合并,仍名为金陵大学附属中学。
1951年金大附中与金陵女子文理学院附中合并,成立南京市第十中学。
1988年4月,经南京市人民政府批准,学校又更名为南京市金陵中学。
2003年9月,金陵中学与南京市河西开发指挥部合作创办了金陵中学河西分校。
2008年9月,金陵中学与鼓楼区教育局合作创办了南京金陵汇文学校,与建邺区教育局合作创办了金陵中学实验小学。同年,在校本部创办了“国际部”。
2012年9月,金陵中学与栖霞区教育局、南京大学合作创办了金陵中学仙林分校(小学部)。2014年9月,创办的金陵中学仙林分校(初中部)也将正式开学。
金陵中学与南京市政府合作的金陵中学岱山分校正在筹建中。同时,学校还将与六合区教育局合作创办金陵中学龙湖分校。