Historia Na Rusi gramoty były pisane na drewnianych i ołowianych tabliczkach, korze brzozy (patrz „gramoty na brzozowej korze”), pergaminie, a od XIV wieku także na papierze. Pierwsza wzmianka o gramocie pojawia się w Powieści minionych lat, gdzie autor wspomina o dokumencie fundacyjnym księcia Włodzimierza Swiatosławowicza na rzecz cerkwi Bogurodzicy. Jedną z najstarszych gramot, zachowanych do dziś, jest dokument o nadaniu ziemi monasterowi nowogrodzkiemu przez księcia Mścisława Włodzimirowicza. Dokument napisany został na pergaminie i pochodzi z XII wieku.
W okresie XIV–XVII wieku, wraz z rozwojem państwowości rosyjskiej, powstaje szereg różnego rodzaju gramot, których znaczna ilość to akty prawne. Status gramot miały niektóre kodeksy prawne, na przykład, nowgorodzki i pskowski. Wystawiane były listy pochwalne (похвальные грамоты) od cara z pochwałą za posługi albo darowizny dokonane przez osoby prywatne albo stany na korzyść państwa.
W XVIII stuleciu Piotr I wprowadził zachodnioeuropejską nomenklaturę dla określenia dokumentów o charakterze oficjalnym. Zakres używania terminu gramota został ograniczony.