Još su stari Grci poznavali posebne registre u koje su se upisivali hipoteke. U rimskom pravu nije bilo zemljišnih knjiga u današnjem smislu riječi, a za stjecanje prava vlasništva bili su dovoljni sporazum stranaka i primopredaja nekretnine.
U starome germanskom pravu, međutim, prijenos vlasništva na nepokretnim stvarima obavljao se na svečani način pred svjedocima, a izjave stranaka su se poslije zapisivale u posebne knjige koje su se čuvale u sudovima. Zemljišne knjige slične današnjima pojavile su se u Češkoj u 13. stoljeću (zemske desky, odnosno zemljišne tablice).
U Pruskoj i Austriji se 1872. uvode prvi javni registar prava na nekretninama na osnovi općih izmjera zemljišta, odnosno katastra, i to su zemljišne knjige u današnjem značenju riječi. Do 1997., kad su usvojeni Zakon o vlasništvu i drugim stvarnim pravima i Zakon o zemljišnim knjigama, u Hrvatskoj su se primjenjivala pravna pravila na osnovi odredaba Zakona o unutarnjem uređenju, osnivanju i ispravljanju zemljišnih knjiga i Zakona o zemljišnim knjigama iz svibnja 1930. godine, kao i Zakona o zemljišnoknjžnim diobama, otpisima i prijepismima iz ožujka 1931. godine.
Zanimljivo je da su podaci o nacionalizacijama nakon 1945. godine uvedeno upisivani u zemljišne knjige, a nered je nastao kasnije, uvođenjem društvenog vlasništva nakon 1952. godine, tako da se 70-ih godina čak ozbiljno predlagalo ukidanje zemljišnih knjiga kao nepotrebnih u sustavu društvenog vlasništva.
