अमरकोषात मठाची व्याख्या ‘विद्यार्थ्यांच्या राहण्याची वास्तू’ अशी करण्यात आली आहे. ब्रह्मचारी, संन्यासी, बैरागी, भिक्षुक इत्यादी स्त्री अथवा पुरुषांच्या निवासस्थानाला मठ संबोधण्याची सामान्यत: प्रथा आहे. मठाला धार्मिक प्रतिष्ठा प्राप्त झालेली असते. येथे धार्मिक उपासना करणारे, गूढवादाचा अभ्यास करणारे, विरक्त जीवन व्यतीत करणारे, निष्काम, विकारविरहित साधू, धर्मगुरू इत्यादी व्यक्ती वास्तव्यास असतात. महाराष्ट्रात अशा प्राचीन व प्रसिद्ध मठांची संख्या हजारोंच्या घरात आहे. हिंगोली शहरातील खाकी बाबा मठ हा त्यापैकीच एक आहे.
हा मठ सुमारे ३५० वर्षे प्राचीन असल्याचे येथील महंत सांगतात. उत्तर प्रदेशातून हिंगोली शहरात आलेल्या रामदासी बाबांनी हा मठ स्थापन केला. ते खाकीबाबा म्हणून हिंगोली शहरात प्रसिद्ध होते. त्यांना हे नाव का पडले याविषयी कोणासही काही माहिती नाही. पाण्यावर चालणे, एकाच वेळी दोन ठिकाणी उपस्थित असणे, दररोज गुप्त रूपात काशीची वारी करणे इत्यादी अनेक चमत्कार खाकी बाबांच्या नावाने सांगितले जातात. असे सांगितले जाते की त्यांच्या चमत्कारांनी प्रभावित होऊन त्या काळातील राजाने मठासाठी बाराशे एकर जमीन दिली होती.
आजवर श्रीरामदास खाकी बाबा, जानकीदास महाराज, विष्णुदास महाराज, गोवर्धनदास महाराज, भगवानदास महाराज, शेवरीदास महाराज, रामस्वरूपदास महाराज, शिवरामदास महाराज, भरतदास महाराज, कौशल्यादास (कमलदास) महाराज असे दहा महंत या मठात होऊन गेले. या मठाची महंत परंपरा अखंडित सुरू आहे.
हिंगोली औंढा रस्त्यापासून जवळच कयाधू नदीच्या तटावर हा मठ आहे. मठास दुहेरी तटबंदी आहे. बाहेरील तटबंदी सुमारे बारा फूट उंचीची आहे. मठाच्या प्रशस्त प्रांगणात सेवेकरी, पुजारी व महंतांची निवासस्थाने आहेत. मठाची दुसरी तटबंदी अधिक प्राचीन आहे. तिची रचना वाड्यासारखी आहे. तटबंदीतील प्रवेशद्वारात पहारेकरी कक्ष आहेत. आतील प्रांगणात तटबंदीला लागून सेवेकऱ्यांच्या प्राचीन वास्तू आहेत, तर मधोमध खाकी बाबांचे मंदिर आहे. मंदिरासमोर तुलसी वृंदावन आहे.
सभामंडप, अंतराळ व गर्भगृह अशी खाकीबाबा मंदिराची रचना आहे. अर्धखुल्या स्वरूपाच्या सभामंडपात प्रत्येकी सहा दगडी स्तंभांच्या सहा रांगा आहेत. 
येथे एकूण ३६ स्तंभ आहेत. सर्व स्तंभ चौकोनी स्तंभपादावर उभे आहेत. त्यांच्या स्तंभदंडात चौकोन, अष्टकोन व वर्तुळ असे भौमितिक आकार आहेत. सभामंडपात जमिनीवर मध्यभागी कासव शिल्प आहे. तसेच उत्सवकाळात वापरली जाणारी पालखी छताला टांगलेली आहे. सभामंडपात खाकी बाबांचा खिळेपलंग आहे. असे सांगितले जाते की या टोकदार खिळे असलेल्या पलंगावर बाबा झोपत असत.
पुढे बंदिस्त स्वरूपाचे अंतराळ व गर्भगृह आहे. अंतराळाच्या दर्शनी भिंतीत प्रवेशद्वाराच्या दोन्ही बाजूला दोन देवकोष्ठके आहेत. त्यात दंडधारी द्विभुज द्वारपाल शिल्पे आहेत. प्रवेशद्वारात द्वारशाखांवर पर्णलता, पुष्पलता व स्तंभनक्षी आहे, तर ललाटबिंबावर गणपतीचे शिल्प आहे. मंडारकास चंद्रशिळा आहे. अंतराळात महंतांची आसने व काही तसबिरी आहेत. पुढे गर्भगृहाचे प्रवेशद्वार आहे. प्रवेशद्वारास तीन द्वारशाखा आहेत, ज्यावर पानाफुलांची नक्षी आहे. ललाटबिंबावर गणपती शिल्प आहे. तसेच मंडारकास चंद्रशिळा आहे. गर्भगृहात वज्रपीठावर खाकीबाबांची व त्यांच्या शिष्यांच्या मूर्ती, तसेच अनेक देवीदेवतांच्या लहान मूर्ती आहेत.
मंदिराच्या बाह्य बाजूने प्रदक्षिणा मार्ग आहे. सभामंडपाच्या छतावर चोहोबाजूनी सुरक्षाकठडा आहे. 
तसेच गर्भगृहाच्या छतावर सात थरांचे द्राविडी शैलीतील शिखर आहे. शिखराच्या प्रत्येक थरात देवकोष्ठके, देवी देवतांची शिल्पे व उरुशृंगी लघुशिखरे आहेत. शिखराच्या शीर्षभागी एकावर एक असे दोन आमलक आहेत. त्यावर कळस व ध्वजपताका आहे.
खाकीबाबा मंदिरासमोर प्राचीन हनुमान मंदिर आहे. फक्त गर्भगृह अशी रचना असलेल्या या मंदिरात वज्रपीठावर हनुमानाची शेंदूरचर्चित पाषाण मूर्ती आहे. हनुमान मंदिराच्या शेजारी महादेवाचे प्राचीन मंदिर आहे. मंदिरात जमिनीवर शिवपिंडी व समोर नंदी शिल्प आहे. शिवपिंडीवर जलधारा धरणारा कुंभ त्रिपाद मांडणीवर ठेवला आहे. शिवमंदिराच्या बाजूला दिवंगत महंतांचे प्राचीन समाधी मंदिर आहे. जाळीदार भिंती असलेल्या या समाधी मंदिराच्या छतावर चार थरांचे द्राविडी शैलीतील शिखर आहे. शिखराच्या शीर्षभागी आमलक व आमलकावर कळस आहे. समाधी मंदिराच्या बाजूला धुनीघर आहे. येथेच खाकी बाबा राहत असत असे सांगितले जाते. धुनीघरात जमिनीवर यज्ञकुंड आहे. त्यासमोर काही इंच उंच चौथऱ्यावर स्टेनलेस स्टीलचा कठडा लावला आहे. येथे बाबांचे आसन, पादुका व दंड आहेत. अलीकडील काळात धुनी घराचा जीर्णोद्धार केला गेला आहे. धुनीघरात भिंतीला लागून श्रीगणेशाची मूर्ती आहे.
मंदिराच्या प्रांगणात भूमिगत कक्ष आहे. येथे खाकीबाबा ध्यानधारणा करीत असत असे सांगितले जाते. प्रांगणात सुमारे चार चौरस फूट क्षेत्रफळ व तीन फूट खोल एक कुंड आहे. या कुंडात पाण्यावर तरंगणारा पाषाण आहे. असे म्हणतात की हा दगड लंकेला जोडलेल्या रामसेतू पुलाच्या बांधकामातील आहे. मंदिराच्या प्रांगणाबाहेर तटबंदीला लागून कयाधू नदीच्या तटावर काही ओवऱ्या आहेत. कयाधू नदीत तीर्थस्नान करणाऱ्या भाविकांसाठी या ओवऱ्या बांधल्या गेल्या आहेत.
भाद्रपद वद्य एकादशी हा खाकीबाबांचा पुण्यतिथी सोहळा, राम जन्मोत्सव, हनुमान जयंती, महाशिवरात्री हे येथील प्रमुख उत्सव आहेत. उत्सवांच्या वेळी पालखी सोहळा व रथ मिरवणूक काढली जाते. महाराष्ट्रासह इतर राज्यांतील हजारो भाविक उत्सवांच्या वेळी मंदिरात उपस्थित असतात. सर्व उत्सवांच्या वेळी मंदिरात भजन, कीर्तन, प्रवचन, संगीत, महाप्रसाद आदी कार्यक्रमांचे आयोजन केले जाते. दिवाळी पाडव्याच्या उत्सवात मारवाडी समाजाचा सहभाग अधिक असतो. गुरुवार, पौर्णिमा, अमावस्या व इतर सण उत्सवांच्या वेळी मंदिरात दर्शनाला येणाऱ्या भाविकांची संख्या मोठी असते.
