Eksperymenty w zakresie równania wagi zapisu typograficznego i przekazywanych treści oraz programowej dekonstrukcji tradycyjnego wiersza pojawiają się w twórczości futurystów – Christian Morgenstern Nocna pieśń ryb (1905); Siergiej Michajłowicz Trietiakow, Wachlarz, (1913) Wasilij Kamienski wiersz ferro-konkretystyczny Konstantynopol z tomu „Tango z krowami” (1914), Tytus Czyżewski Mechaniczny ogród (1920), Man Ray Wiersz bez tytułu (lub Paris may 1924), (1924).
Jako spójny kierunek w sztuce, poezja konkretna powstała jednak dopiero w latach 50. XX wieku. Zjawisko to zaistniało równolegle w Szwajcarii (Eugen Gomringer) i w Brazylii (członkowie grupy „Noihandres”: Décio Pignatarim oraz bracia de Campos). Członkowie grupy twierdzili, że ich twórczość zainspirowali Ezra Pound, James Joyce, EE Cummings i Siergiej Eisenstein.