此廟建於1889年，為知縣黃承乙在建臺灣省城期間任興建，廟址在今日的東區樂業里。日治時期因日本人欲在此地興建軍營而拆毀，但後來改設台中糖廠。
1919年，吳鸞旂發起重建，組織籌建委員會，並聘請吳子瑜、林子瑾、賴慶炎、林祖藩、林澄坡（林澄秋之兄）、林焰墩等人為籌建委員。傳說吳鸞旂當時夢見城隍託夢，因而興起建廟，但不久他就因事前往中國大陸，全部籌建事項留給各委員負責辦理。這些委員中推舉吳子瑜與林子瑾為正副主任委員，繼續籌建工作，但半途而廢。後，林焰墩較為熱心，繼續奔走，首先向彰化銀行借款四千日幣，擇址於有明町四丁目。但建廟經費不足，動工後不久即告停頓，直到1923年初具規模，次年即引請城隍入火奉香。
據廟旁賣香燭多年的余慶裕表示，風水上此地為龜穴，因而廟方在建廟後開始養烏龜。戰後，該廟組織管理委員會，聘各區區長及地方名人為管委員，林祖藩為主任委員，並曾有替1950年去世的林焰墩立像的打算。1955年12月5日舉行新建物落成典禮，由市長主祭。1961年管委會登記為財團法人台中市城隍廟。今址為合作街94巷50號。