Prowadził również zaciętą rywalizację z Sewillą Abbadytów (Abbadydów).
Sceną polityczną półwyspu w latach 1065–1066 wstrząsnęła śmierć Ferdynanda I Wielkiego, który po zjednoczeniu dwóch królestw chrześcijańskich na mocy swego testamentu ponownie je podzielił. Jego najstarszy syn, Sancho, otrzymał w spadku Kastylię, Alfons Królestwo Leonu, zaś najmłodszy Garcia – Galicję. Po śmierci ojca bracia zaczęli walczyć ze sobą, często sprzymierzając się z królestwami muzułmańskimi. Dwaj najstarsi bracia zawarli krótkie przymierze, mające na celu pozbawienie najmłodszego brata Galicji, jednak wkrótce Sancho zwrócił się przeciw Alfonsowi i pokonał jego wojska. Alfons udał się na wygnanie i schronił się przed bratem w taifacie Toledo, którym władał Yahya ibn Ismail al-Mamun (zm. 1075). Wcześniej pokonany Garcia udał się na wygnanie do muzułmańskiego królestwa Sewilli, będącego pod panowaniem Abbadytów. Rok później Sancho został zamordowany podczas tłumienia buntu w mieście Zamora. W 1075 roku również chroniący wcześniej Alfonsa Al-Mamun z Toledo padł ofiarą zdrady, co wywołało powstanie w mieście i okres krwawych zamieszek w walce o władzę. Wtedy wnuk Al-Mamuna, zwany Al-Kadar, zwrócił się z prośbą o wsparcie do Alfonsa, który był już królem zjednoczonych Kastylii i Leonu.