Każda reguła, to para słów (lewe prawe), w których mogą występować symbole terminalne i nieterminalne.
Do tak opisanego języka należy każde słowo, dla którego potrafimy zbudować taki ciąg, że: pierwszym elementem ciągu jest słowo złożone z symbolu startowego, każde kolejne słowo w ciągu można uzyskać przez zastąpienie w poprzednim słowie fragmentu równego lewemu słowu jakiejś reguły przez prawe słowo tej reguły, ostatnim elementem ciągu jest dane słowo.
Przykładowa gramatyka alfabet składa się z symboli 0 i 1, symbole pomocnicze to i symbolem startowym jest reguły przepisywania to:
Przykładowe wyprowadzenie słowa w tej gramatyce:
Przynależność słowa do języka Nie istnieje ogólna metoda, która dla danej gramatyki formalnej i danego słowa pozwoliłaby stwierdzić, czy dane słowo należy do języka opisywanego przez tę gramatykę. Wynika to z faktu, że gramatyki formalne mogą w szczególności definiować zachowanie maszyny Turinga i powyższy problem wymagałby rozwiązania problemu stopu. Dlatego w praktycznych zastosowaniach używa się wybranych klas gramatyk, dla których taka weryfikacja jest możliwa do przeprowadzenia.