고구려의 아도(阿道)가 지었다는 설이 있으나 현재 사적비(寺蹟碑)가 허물어져 확실한 것은 알 수 없고, 418년(눌지왕 2)에 묵호자(墨胡子)가 경북 구미시에 있는 도리사(桃李寺)와 함께 창건했다고 전한다. 그 후 645년(선덕여왕 14)에 자장(慈藏)이, 930년(경순왕 4)에는 천묵(天默)이 중수하고, 936년(태조 19)에 능여(能如)가 고려 태조의 도움을 받아 중건하였는데, 임진왜란 때 불에 거의 타버려 1610년(광해군 2)에 복구에 들어가 60여 년 후 작업을 끝맺었다.

직지사라는 절 이름은 능여가 절터를 잴 때 자를 쓰지 않고 직접 자기 손으로 측량한 데서 붙여졌다고 한다. 조선시대에 학조(學祖)가 주지로 있었고, 유정(惟政)이 여기서 승려가 되었다.

경내에는 석조약사여래좌상(보물 319), 대웅전 앞 3층석탑(보물 606), 비로전 앞 3층석탑(보물 607), 대웅전 삼존불 탱화 3폭(보물 670), 청풍료(淸風寮) 앞 3층석탑(보물 1186) 등의 문화재가 있다.

소백산맥(小白山脈)의 준령(竣嶺)이 남쪽으로 뻗어 내려오다가 그 서쪽 추풍령(秋風嶺)에서 잠시 머물러 관문(關門)을 이루었고,다시 서남쪽으로 웅장(雄壯)한 산세(山勢)를 유지하며 달려와 힘차게 솟아오른 황악산(黃岳山) 동남쪽 산자수명(山紫水明) 한 곳에 대한불교 조계종 제8교구 본사 직지사(直指寺)가 자리해있다. 해발 1,111m에 달하는 황악산은 북쪽으로 충청도,서쪽으로 전라도, 동남쪽으로는 경상도에 연이은 삼도(三道)의 도계(道界)에 접하였으며, 이중심에 눌러 앉은 본사는 행정구역상으로는 경상북도 (慶尙北道) 김천시(金泉市) 대항면 (代項面) 운수리 (雲水里) 216번지이다.

황악산(黃岳山) 의 황자는 청(靑), 황(黃), 적(赤), 백(白), 흑(黑)의 5색(色) 중에서도 중앙색을 상징하는 글자이다. 따라서 예로부터 직지사는 해동(海東)의 중심부에 자리잡고 있는 으뜸가는 가람이라는 뜻에서 동국제일가람(東國第一伽藍)이라는 말이 전해지고 있다. 본사(本寺)로부터 김천까지는 12km이고, 다시 김천에서 서울까지의 거리는 230km, 부산까지는 218km로서 남한의 중앙지대에 위치하고 있다. 경부선(京釜線)을 비롯하여 태백산(太白山), 삼척(三陟)등 동해방면(東海方面)으로도 연결되는 한반도(韓半島) 교통의 요충지이며, 예로부터 길상지지(吉祥之地)로 전해져 내려오는 곳에 직지사는 정좌(定座)하고 있다.

따라서 절의 위치가 산곡(山谷)이면서도 높지 아니하고,야지(野地)인듯 하면서도 산사(山寺)의 풍취(風趣)가 항상 흘러 넘쳐서 4계절 내내 도량을 참배하는 신남신녀(信男信女)의 발길이 끊이지 않고 있다.
잠시 황악산의 산세와 지형을 살펴보면, 최상봉인 비로봉(毘盧峰)에서는 경상, 충청, 전라의 3도를 한눈으로 굽어볼 수 있으며, 바로 아래에는 선유봉(仙遊峰)을 비롯하여 천룡봉(天龍峰)과 운수봉(雲水峰)이 있고,조금 내려와서 절경대(絶景臺)가 있으며, 그 중턱에 운수암(雲水庵)이 있어 승경(勝景)을 이룬다.
운수봉(雲水峰)에서 다시 2km쯤 올라가면 백운봉(白雲峰)이 있고, 그 아래로 만경대(萬景臺)가 펼쳐진다.
다시 남서로 난 능선을 따라가면 망월봉(望月峰)과 함께 신선봉(神仙峰)을 만날 수 있으며, 그 위에 형제봉(兄弟峰)은 백운봉과 마주하여 아름다운 절경을 이루고 있다.

황악산은 대체로 3대 계곡으로 이루어져 있는데, 능여계곡(能如溪谷), 내원계곡(內院溪谷), 운수계곡(雲水溪谷)이 그것이다. 능여계곡에는 그 옛날 능여 대사(能如大師)가 황악산 계곡의 원천(源泉)을 찾았다는 멱원대(覓源臺)를 비롯하여 많은 대(臺)와 소(沼)가 있도, 두 곳의 폭포와 기암괴석이 어우러져 절경을 이루고 있다. 뿐만 아니라, 이곳은 능여천(能如泉)과 법수천(法水泉) 등의 약수가 있어 더욱 유명하다.