藥師寺는 천무천황이 황후(지통천황)의 병을 치유하기 위해 發願한 절인데, 천무조에 어느 정도 건립이 진행되었는지는 분명하지 않다. 持統紀 2년(688) 정월조에 藥師寺에서 無遮大會를 열었다고 하고 있기 때문에 무언가 건축시설이 완성되어 있었을 것이다. 나아가 지통기 11년(697) 7월조에는 천황의 병 치유를 기원하기 위해 만들어진 불상을 공경들이 藥師寺에서 개안 공양했다고 전하고 있어 본존·금당 등은 지통천황 때에 완성되었다고 생각되나, 사원으로서의 정비는 다음의 文武朝에까지 이어진 것으로 보인다. 『續日本紀』 문무천황 2년(698) 10월조에는 「藥師寺構作略了」라 전하고 있다.

寺蹟은 지금의 橿原市 城殿町이며, 平城京 천도(710년) 후 新京의 右京 6條 2坊의 현재지역으로 옮겨졌고 구지의 사원은 本寺 또는 本藥師寺라 불렸다. 평성경의 약사사에 현존하는 동탑 및 금당의 藥師三尊像에 대해서는 天平期에 새로 조영된 것으로 보는 설과 본약사사에서 옮긴 것이라는 설이 있다.