马关历史悠久。早在旧石器时代就有古人类在此生息。西汉元鼎六年(公元前111年)，马关属益州爿羊爿郡进桑县。东汉时改属进乘县。三国蜀汉建兴三年 (公元225年) 三月，属兴古郡进乘县。西晋永嘉四年(310年)，属宁州梁水郡新丰县。北周时，属西爨(白蛮)地。隋代属昆州。唐初马关属南宁州都督府郎州地。南诏时属通海都督僚子部。宋代大理国前期， 属通海都督矣部，后期属最宁镇矣尼迦部。
元初在云南实行军事统治。至元八年(1271年)，属南路总管府阿僰万户舍资千户。至元十三年属临安路矣尼迦部。
明代先属八寨长官司，直隶云南布政使司，后属临安府阿迷州教化三部长官司。从宋皇佑初年至清初，马关为龙氏土司领地达600余年。
清朝康熙六年（1667年）“改土归流”后，马关属开化府；雍正六年（1728年）9月，设马白关；雍正八年（1730年）设马白同知专理对外事务；嘉庆二十五年（1820年）设安平厅，改马白同知为安平抚彝同知，安平厅署设于开化（今文山）与知府衙门同城；光绪三十二年（1906年）9月，安平厅衙门由开化移致马白。
民国2年(1913年)改厅为县，先为安平县，因与贵州省安平县同名，后将“马白关”去掉中间的“白”字，留“马关”二字为县名。先属蒙自道管辖，后属云南省第二行政督察区（后改为第四区）行政督察文山专员公署。
