Po otrzymaniu przekazu Dharmy Yaoshan odszedł od mistrza.

W okresie rywalizacji szkół caodong i linji w czasie panowania dynastii Song sporo zamieszania wprowadziła rozpowszechniona informacja o tym, że Yaoshan, prekursor szkoły caodong, osiągnął oświecenie u mistrza Mazu Daoyi, a nie Shitou, i pozostał u Mazu. Było to bardzo celne uderzenie w tradycję caodong, bowiem insynuowało, że skoro Mazu był zawsze łączony ze szkołą linji, to znaczyło, że caodong jest po prostu tylko filią tradycji linjiMorten Schlütter. How Zen Became Zen. s. 140–141..

Jego początki jako nauczyciela były bardzo skromne. Zamienił małą oborę na górze YaoYaoshan była położona w Liyangxian w Lizhou (dzisiejszy Hunan). na dom mnichów (chiń. sengtang). Po pewnym czasie wokół niego zaczęli się gromadzić uczniowie. Wkrótce miał ich ok. 50. Jak podaje Zutang ji, wśród przyciągniętych jego naukami był słynny prekursor odrodzenia konfucjańskiego w okresie dynastii Tang – minister Li Ao. Był on po takim wrażeniem nauk mistrza, że skomponował wiersz na cześć Yaoshana. Na Yaoshan mistrz przebywał przez ponad 30 lat.

W drugim miesiącu 828 r. mistrz nagle zaczął krzyczeć Hala Dharmy się wali!