Kolejnym kluczowym wydarzeniem w dalszym rozwoju algebry było ogólne algebraiczne rozwiązanie równań trzeciego i czwartego stopnia, opracowane w XVI wieku (Scipione del Ferro, Niccolò Tartaglia, Girolamo Cardano, Lodovico Ferrari). Cardano oraz Rafael Bombelli opisali także jako pierwsi liczby zespolone. Praca François Viète’a nad nową algebrą u schyłku XVI wieku była ważnym krokiem w kierunku nowoczesnej algebry. W 1637 Kartezjusz opublikował La Géométrie, wymyślając geometrię analityczną i wprowadził nowoczesną notację algebraiczną.
Pomysł wyznacznika został opracowany przez japońskiego matematyka Kowa Sekiego w wieku XVII, co niezależnie kontynuował Gottfried Leibniz 10 lat później w rozwiązywaniu układów równań liniowych z wykorzystaniem macierzy.
XVIII wiek Gabriel Cramer również przysłużył się pracy nad macierzami i wyznacznikami (wzory Cramera).