संत गोरा कुंभार यांच्या समाधीसाठी प्रसिद्ध असलेल्या धाराशिव तालुक्यातील तेर हे गाव दोन हजार वर्षांपूर्वी सातवाहनांची आर्थिक राजधानी होती. त्यावेळी पैठण ही सातवाहनांची राजधानी होती. त्या अनुषंगाने इतिहासकार डॉ. रा. श्री. मोरवंचीकर यांनी ‘पैठण ही दक्षिणेची काशी असेल तर तगर (तेर) ही दक्षिणेची मथुरा होय,’ असे तेर गावाबाबत वर्णन केलेले आहे. याच गावात गुप्त सिध्देश्वर हे प्राचीन व प्रसिद्ध मंदिर आहे. येथील जागृत देव नवसाला पावतो, अशी भाविकांची श्रद्धा आहे.
या मंदिराची निर्मिती सहाव्या ते सातव्या शतकातील असल्याचे सांगितले जाते. तथापि मंदिराच्या सभामंडपाची निर्मिती नंतरच्या काळात झाली असावी किंवा नंतर त्याचा जिर्णोद्धार केला असावा, असे भासते. मंदिराच्या बांधकामात काळ्या कोरीव दगडांसोबत पक्क्या विटांचा वापर केला असल्याने मंदिर वेगवेगळ्या कालखंडात बांधले गेले असल्याचा अंदाज व्यक्त केला जातो. मंदिर लिंगायत समाजाशी निगडीत असल्याने ते बाराव्या शतकातील असल्याचेही काही अभ्यासकांचे मत आहे.
हे मंदिर गावापासून काही अंतरावर असलेल्या टेकडीवर आहे.
मंदिराच्या प्रांगणात कोरीव दगडांत बांधलेली प्राचीन विहीर आहे. असे सांगितले जाते की या विहिरीचे पाणी कधीही आटत नाही. विहिरीच्या बाजूला असलेल्या चौथऱ्यावर गणपतीची व शेजारी स्थानीक देवतेची मूर्ती आहे. दोन्ही मूर्ती शेंदुरचर्चित, प्राचीन व काहीशा जीर्ण आहेत. सभामंडप, अंतराळ व गर्भगृह अशी रचना असलेल्या मंदिराच्या सभामंडपाच्या प्रवेशद्वारासमोर, प्रांगणात चौथऱ्यावर नंदीची काळ्या पाषाणातील मूर्ती आहे. प्रवेशद्वाराच्या दोन्ही बाजूला सभामंडपाच्या दर्शनी भिंतीत देवकोष्टके आहेत. सभामंडपाच्या द्वारशाखांवर खालील बाजूस चतुर्भुज भैरवद्वारपाल शिल्पे व वरील बाजूस स्तंभनक्षी आहे. ललाटबिंबावर गणपतीची मूर्ती व मंडारकास असलेल्या चंद्रशिलेवर वर्तुळाकार पुष्पनक्षी आहे. चंद्रशिलेच्या दोन्ही बाजूस गजराज, व्याल व चौकोनी पुष्पशिल्पे आहेत. प्रवेशद्वाराच्या दोन्ही बाजूला चौकोनी नक्षीदार स्तंभ व त्यांवरील तोरणात शिखरशिल्पे आहेत.
बंदिस्त स्वरूपाच्या सभामंडपात मध्यभागी चार नक्षीदार स्तंभ आहेत. स्तंभाचा खालील भाग चौकोनी व त्यावरील भागात षट्कोन, अष्टकोन, द्वादशकोन, वर्तुळ असे विविध भौमितिक आकार आहेत. स्तंभांवर विविध नक्षी कोरलेली आहे. स्तंभांच्या शीर्षभागी कणी व कणीवर हस्त आहेत. हस्तांवर चतुर्भुज यक्षशिल्पे आहेत. उत्तरेकडील दोन स्तंभांवरील यक्षांचे पुढील दोन हात गुडघ्यावर टेकलेले आहेत व त्यांनी मागील दोन हातांनी छताचा भार तोलून धरलेला आहे, असे भासते. दक्षिणेकडील स्तंभांवरील यक्ष छताचा भार तोलत असतानाच पशूयुद्ध करीत असल्याची शिल्पे कोरलेली आहेत. स्तंभ, कणी, हस्त व तुळईवर विविध नक्षीकाम आहे. अष्टकोनी वितानावर मध्यभागी झुंबर असलेली चक्राकार नक्षी आहे. सभामंडपाच्या भिंती प्राचीन भाजक्या विटा वापरून बांधण्यात आलेल्या आहेत. सभामंडपाचे एकंदर स्वरूप पाहता त्याची नंतरच्या काळात दुरुस्ती झाल्याचे जाणवते.
सभामंडपापेक्षा उंचावर असल्यामूळे अंतराळाच्या प्रवेशद्वारास एक पायरी आहे. अंतराळाच्या द्वारशाखा सपाट व साध्या आहेत. त्यांवर तैलरंगाने नक्षी चित्रीत केलेल्या आहेत. गर्भगृहाच्या प्रवेशद्वारावर एका बाजूला चामरधारीणी द्वारपालिका व व्याल शिल्पे आहेत तर दुसऱ्या बाजूला चतुर्भुज द्वारपाल व बाजूला गणेशशिल्प आहे. द्वारपालाशेजारी गणेश प्रतीमा असणे किंवा दोन्ही बाजूस वेगवेगळे द्वारपाल असणे ही रचना अनोखी आहे. द्वारशाखांवर स्तंभ नक्षी व ललाटबिंबावर गणेशमूर्ती आहे.
गर्भगृहात जमिनीवर मध्यभागी मोठी शिवपिंडी आहे. शिवपिंडीवर जलधारा धरलेले अभिषेक पात्र छताला टांगलेले आहे. शिवपिंडीतील शाळूंका चौकोनी आहे. गर्भगृहात वितानावर चक्राकार नक्षी आहेत. महाशिवरात्री हा येथील मुख्य वार्षिक उत्सव उत्साहाने साजरा केला जातो. या वेळी परिसरातील हजारो भाविक देवाच्या दर्शनासाठी येतात. महाशिवरात्री व श्रावणमासात मंदिरात महाअभिषेक, भजन, महाप्रसाद आदी कार्यक्रमांचे आयोजन केले जाते. सोमवार, पौर्णिमा, अमावस्या आदी दिवशी भाविकांची येथे जास्त वर्दळ असते. मंदिराचे स्थापत्यशास्त्र व शिल्पकला अभ्यासण्यासाठी अनेक अभ्यासक मंदिराला भेटी देतात.