при каком значении а векторы (-1,3) (5,а) образуют базис

Если векторы должны просто образовывать базис на плоскости, то единственное условие - они не должны быть коллинеарны, т.е. их коэффициенты не должны быть пропорциональны:
[tex] \frac{5}{-1} \neq \frac{a}{3}[/tex]
Ответ: а не равно (-15)

Если имеется в виду, что базис должен быть ортогональным, то векторы должны быть перпендикулярны. Это выполняется если их скалярное произведение равно 0:
(-1)*5+3*a=0
a=5/3
Ответ: a=5/3