В «наиболее математическом разрезе» мне попадались только вот эти методические указания:
Там есть ссылки на движок, реализующий операции реляционной алгебры, но к сожалению, они уже недействительны.
Вообще, сама реляционная алгебра, как раздел математики мне видится тупиковой, потому что была рождена, по-видимому, только для того, чтобы выстроить сравнительно абстрактный понятийный и терминологический аппарат для совершенно прикладной сферы — операций над кортежами данных.
В ней операции не выведены, из уже известных в алгебре операций над матрицами, не выражены через них, а именно что просто взяты и определены как специальные «операции реляционной алгебры».
Т.е. это не фундаментальная теория родившая частное инженерное применение, а как бы наоборот, искусственная теория для приведения в порядок прикладной задачи.