聖徳太子自らが観世音菩薩像を造り、堂宇を建て創建した。当時は観世音寺と称し、中世以降は興隆を極めた。
1578(天正6)年、キリシタン大名・高山右近が改宗を求めたが応じなかったため、堂宇は焼き払われた。本尊である観音像のみが里人により難を逃れ草庵に安置され守られた。
1661(寛文元)年、高槻城主・永井直清が夢の中で聖徳太子から現在の地に観音像をまつるように告げられ、伽藍建設を志した。
龍渓性潜を開山として再興した。独量、櫟隠が諸堂宇を建設し、寺名も廣智寺と改めた。今でも「かんのんさん」とよばれる。