सातारा जिल्ह्यातील औंध येथे मूळ स्थान असलेली यमाई देवी ही परशुरामाची माता व जमदग्नी पत्नी रेणुका देवीचे रूप असल्याची मान्यता आहे. या देवीचे मार्डी येथील प्राचीन ठाणे विशेष महत्त्वास पावले आहे. कारण येथे महाराष्ट्राची कुलस्वामिनी तुळजाभवानी देवीची मोठी बहीण या स्वरूपात यमाई देवी विराजमान आहे. यामुळे साक्षात आदिशक्तीच्या वास्तव्यामुळे मार्डीला शक्तीपिठाचा वारसा लाभला आहे. तुळजाभवानीच्या दर्शनानंतर येथील यमाई देवीचे दर्शन घेण्याची परंपरा अनेक भाविक पाळतात.
‘केदारविजय’ ग्रंथामध्ये यमाई देवीबद्दलची आख्यायिका नमूद करण्यात आली आहे. ‘केदारविजय’ हा मूळचा संस्कृत ग्रंथ होता. हरि अंगारपूरकर यांनी १७७९ मध्ये तो मराठीत आणला. या ग्रंथात ३६ अध्याय आहेत व त्यातील २७व्या अध्यायात यमाईदेवीची कथा आहे ती अशी की प्राचीन काळी कोल्हासुर नावाच्या दैत्याने करवीरक्षेत्री उत्पात माजवला होता. तेथे वास्तव्यास असलेल्या लक्ष्मीला त्यामुळे तेथून स्थलांतर करावे लागले. हे पाहून केदारनाथाने लक्ष्मीला तेथे पुन्हा प्रतिष्ठापित करण्याचे कार्य स्वीकारले. त्या मोहिमेत केदारनाथांना साह्य करण्याकरीता मूळमाया स्वरूप यमाईदेवी औंधनजीकच्या कंठगिरी डोंगरावर प्रकट झाली. तिने कोल्हासुराच्या दैत्यसैन्यातील औंधासूर या दैत्याचा वध केला. मार्डी येथील यमाई देवीस छत्रपती शिवाजी महाराजांची कुलस्वामिनी असलेल्या देवी भवानीची मोठी बहिण मानण्यात येते.
देवी सप्तशती या ग्रंथाचे कर्ते, तसेच पद्मशाली समाजात कुलदैवताचा मान असलेले मार्कंडेय ऋषी यांची तपोभूमी म्हणून ‘मार्कंडेय पुराण’ या ग्रंथामध्ये मारोडी या गावाचा उल्लेख आढळतो. या मारोडीचा पुढे अपभ्रंश होऊन मार्डी असे नाव झाले. या गावातील देवीच्या मंदिराबद्दल कथा अशी की सुमारे ८०० वर्षांपूर्वी कर्नाटकमधील गुलबर्गा जिल्ह्यातील सेडम, चितापूर येथे रंगनाथस्वामी गोसावी नावाचे देवीचे निस्सिम भक्त होऊन गेले. त्यांनी मार्डी येथे हे मंदिर उभारून यमाई देवीची प्राणप्रतिष्ठा केली. 
या मंदिरातील पूजेचा मान गेल्या २७ पिढ्यांपासून येथील गुरव समाजाकडे आहे.
उत्तर सोलापूर तालुक्यातील मार्डी या गावच्या मध्यवर्ती ठिकाणी यमाई देवीचे हे प्राचीन व जागृत मंदिर आहे. मंदिराभोवती उंच किल्ल्याप्रमाणे दगडी तटबंदी आहे. तटबंदीतील प्रवेशद्वाराजवळ बाहेरच्या बाजूला मोठी दगडी पुष्करणी (चौकोनी विहीर) आहे. प्रवेशद्वाराच्या दोन्ही बाजूला तीन स्तंभशाखा व द्वारपालशिल्पे आहेत. कमानीकृती प्रवेशद्वाराच्या खालच्या बाजूला किर्तीमुख व वरच्या बाजूला चक्र नक्षी आणि मत्स्यशिल्पे आहेत. किल्ल्याप्रमाणे भासणाऱ्या या प्रवेशद्वारातून मंदिराच्या प्रांगणात प्रवेश होतो. प्रवेशद्वाराच्या आतील बाजूला द्वारपालकक्ष आहेत. प्रवेशद्वाराला लागून असलेल्या तटबंदीला आतील बाजूने ओवऱ्या आहेत.
मंडप, सभामंडप, अंतराळ व गर्भगृह अशी या हेमाडपंती स्थापत्यशैलीच्या मंदिराची संरचना आहे. येथील खुल्या स्वरूपाचा मंडप हा नंतरच्या काळात बांधलेला आहे. मंडपात भाविकांच्या गर्दीचे नियोजन व्हावे यासाठी दर्शनरांगेची व्यवस्था आहे. मंडपात मध्यभागी हवनकुंड आहे. सभामंडपाच्या प्रवेशद्वारावर दोन्ही बाजूला नक्षीदार स्तंभशाखा व त्याखाली द्वारपाल शिल्पे आहेत. सभामंडपात पिठा-मिठाच्या परड्या ठेवलेल्या असतात.
भाविकांकडून विविध प्रकारचे धान्य, पीठ व मीठ या परड्यांमध्ये अर्पण केले जाते.
सभामंडपात अंतराळाच्या समोर एका चौथऱ्यावर देवीचे वाहन असलेला सिंह व पादुका शिल्प आहेत. गर्भगृहात एका उंच वज्रपिठावर असलेल्या चांदीच्या मखरात देवी विराजमान आहे. असे सांगितले जाते की येथील देवीची मूर्ती ही सुमारे सात फूट उंचीची उभ्या स्थितीतील आहे. काही वर्षांपूर्वी या मूर्तीसमोर व्यासपिठ बांधल्याने मूर्तीचा केवळ वरचा भागच आता पाहता येतो. देवीला चांदीचा मुकुट, चांदीचे डोळे, नाकात मोत्यांची नथ, अंगावर विविध वस्त्रे व अलंकार आहेत. देवीच्या उजवीकडील वरच्या हातात डमरू आणि खालच्या हातात तलवार आहे. डावीकडील वरच्या हातात त्रिशूल आणि खालच्या डाव्या हातात पानपात्र आहे. तिच्या आसनाच्या डाव्या बाजूला राक्षसाचे शिर आणि उजव्या बाजूला म्हशीचे मुख कोरलेले आहे. या मंदिराच्या स्थापत्यरचनेचे वैशिष्ट्य असे की गुडीपाडव्याच्या दरम्यान तीन दिवस सूर्याची किरणे गर्भगृहातील या देवीच्या मूर्तीवर पडतात.
या मंदिरात एक वैशिष्ट्यपूर्ण अशी प्राचीन विष्णू मूर्ती आहे. असे सांगितले जाते की या मंदिर परिसरात बांधकाम सुरू असताना ही मूर्ती जमिनीखाली सापडली होती. अभ्यासकांच्या मते ही मूर्ती हजार ते बाराशे वर्षांपूर्वीची आहे. अखंड काळ्या पाषाणातील या कोरीव मूर्तीच्या पाठशिळेच्या वरच्या भागात विष्णूचे दशावतार कोरलेले आहेत. चतुर्भूज असणाऱ्या या मूर्तीच्या एका हातात सुदर्शन चक्र, दुसऱ्या हातात शंख, तिसऱ्या हातात गदा व चौथा हात आशिर्वाद मुद्रेत आहे. गर्भगृहावर सुंदर कलाकुसर असलेले उंच शिखर आहे. या शिखरावरील देवकोष्टकांत अनेक देवी देवतांच्या मूर्ती आहेत. मंदिर परिसरात अनेक प्राचीन शिल्पे आहेत.
मंदिरात वर्षभर विविध उत्सव आणि यात्रा मोठ्या उत्साहात साजऱ्या केल्या जातात. चैत्र वैद्य अष्टमीपासून पाच दिवस यमाई देवीची यात्रा असते. या यात्रा कालावधीत चार छबिना मिरवणुका काढल्या जातात. नवरात्रीचा उत्सवही येथे मोठ्या प्रमाणावर साजरा केला जातो. यावेळी दररोज होणाऱ्या आरतीला शेकडो भाविक उपस्थित असतात. दर पौर्णिमेला देवीची पालखीतून मिरवणूक काढली जाते. तसेच, दर मंगळवारी मंदिराभोवती प्रदक्षिणा घातली जाते. या यात्रा आणि उत्सवांमध्ये सोलापूर जिल्ह्यासह आंध्र आणि कर्नाटक राज्यांतील भाविकांची मोठी संख्या असते. दररोज सकाळी सात ते रात्री आठ वाजेपर्यंत भाविकांना या मंदिरात यमाई देवीचे दर्शन घेता येते.
