臺南市東山區圖書館於民國78年12月正式開館，館址位於活動中心2樓。當時的臺南縣東山鄉公所為充實鄉區文化資源，提升國民知識水準，故多方奔走努力爭取建設經費，終獲臺灣省政府暨臺南縣政府核定補助800萬元、內政部特別補助88萬5,000元，東山鄉公所自籌350萬元，財團法人火山碧雲寺捐贈350萬元及東山碧軒寺捐贈70萬元。於民國77年開始興建一棟包含活動中心(1樓)、圖書館(2樓)、老人休閒中心(地下1樓)的綜合大樓，於民國78年12月落成啟用。
臺南市東山區圖書館因獲「臺南市立圖書館104-105年度補助區圖書館閱讀環境優質化實施計畫」經費補助，修繕竣工後於民國107年2月11日重新啟用，成為擁有2層樓館室空間的嶄新圖書館。
館內空間設計，融合東山咖啡、蜂蜜、青山綠水等在地特色展現巧思創意；挑高的天花板、通透的空間與充足的自然光線令人身心舒展；舒適與設計感兼具的閱覽桌椅，讓人就像待在充滿書香的咖啡館裡流連忘返。
臺南市東山區圖書館是東山區內唯一公共圖書館，肩負培養及提升本區閱讀風氣之責；以「成為在地閱讀推廣與知識交流、藝文分享平台」為服務目標，歡迎蒞臨指教。