Алгебра как искусство решать уравнения зародились очень давно в связи с потребностью практики, в результате поиска общих приёмов решения однотипных задач. Самые ранние дошедшие до нас рукописи свидетельствуют о том, что в Древнем Вавилоне и Древнем Египте были известны приёмы решения линейных уравнений.
Слово "алгебра" возникло после появления тракта "Китаб аль-джебр валь-мукабала" хорезмского математика и астронома Мухамеда Бен Муса аль Хорезми. Термин "аль-джерб", взятый из названия этой книги, в дальнейшем стал употребляться как алгебра.
До XVI в. изложение алгебры велось в основном словесно. Буквенные обозначения и математические знаки появлялись постепенно. Знаки + - впервые встречаются у немецких алгебраистов XVI в. Несколько позже вводится знак * для умножения. Знак деления ( : ) был введён лишь в XVII в. Решительный шаг в использовании алгебраической символики был сделан в XVI в., когда французский математик Франсуа Виет (1540-1603) и его современники стали применять буквы для обозначения не только неизвестных (что делалось и ранее), но и любых чисел. Однако эта символика ещё отличалась от современной. Так, Виет для обозначения Неизвестного числа применял букву N (Numerus-число), для квадрата и куба неизвестного буквы Q (Quadratus - квадрат) и C (Cubus - куб). Например, запись уравнения X в кубе, минус 8X в квадрате, плюс 16X, равно 40 у Виета выглядела бы так: 1C-8Q+16N aequ. 40 (aequali - равно).
В процессе развития алгебра из науки об уравнениях преобразовалось в науку об операциях, более или менее сходных с действиями над числами. Современная алгебра - один из основных разделов математики.