马关历史悠久。早在旧石器时代就有古人类在此生息。西汉元鼎六年(公元前111年),马关属益州爿羊爿郡进桑县。东汉时改属进乘县。三国蜀汉建兴三年 (公元225年) 三月,属兴古郡进乘县。西晋永嘉四年(310年),属宁州梁水郡新丰县。北周时,属西爨(白蛮)地。隋代属昆州。唐初马关属南宁州都督府郎州地。南诏时属通海都督僚子部。宋代大理国前期, 属通海都督矣部,后期属最宁镇矣尼迦部。
元初在云南实行军事统治。至元八年(1271年),属南路总管府阿僰万户舍资千户。至元十三年属临安路矣尼迦部。
明代先属八寨长官司,直隶云南布政使司,后属临安府阿迷州教化三部长官司。从宋皇佑初年至清初,马关为龙氏土司领地达600余年。
清朝康熙六年(1667年)“改土归流”后,马关属开化府;雍正六年(1728年)9月,设马白关;雍正八年(1730年)设马白同知专理对外事务;嘉庆二十五年(1820年)设安平厅,改马白同知为安平抚彝同知,安平厅署设于开化(今文山)与知府衙门同城;光绪三十二年(1906年)9月,安平厅衙门由开化移致马白。
民国2年(1913年)改厅为县,先为安平县,因与贵州省安平县同名,后将“马白关”去掉中间的“白”字,留“马关”二字为县名。先属蒙自道管辖,后属云南省第二行政督察区(后改为第四区)行政督察文山专员公署。