Воспользуемся языком линейных операторов. Пусть дано некоторое представление Т группы G, действующее в векторном пространстве V. Каждому вектору vÎV оператор (g)ºсопоставляет вектор (v)=v1 этого же пространства. Пусть W – подпространство пространства V.

Определение 5. Подпространство W пространства V называется инвариантным подпространством действия , если, каковы бы ни были элементы gÎG и векторы wÎW, T(w)=w1, где w1ÎW.

Определение 6. Представление T группы G, действующее в векторном пространстве V над полем Р, называется приводимым представлением, если в этом пространстве существуют неприводимые инвариантные относительно этого действия подпространства. Представление Т называется неприводимым, если единственные его инвариантные подпространства – О и само пространство V.

Интерпретируем это определение на языке матриц. Пусть представление Т группы G приводимо. Значит, в пространстве V представления может быть найдено нетривиальное инвариантное подпространство W. Пусть e1, e2, …, ek – базис пространства W. Дополним его до базиса е1, е2, …, еk, ek+1, …, en всего пространства V. Так как W инвариантно, то (еi), где i=1, 2, …, k лежат в W. Поэтому

(еi)=a1ie1+a2ie2+…+akiek, i=1, 2, …, k.

Но так как эти векторы лежат и в пространстве V, то можно также написать

(еi)=a1ie1+a2ie2+…+akiek+0ek+1+…+0en, i=1, 2, …, k.

Что же касается отдельных базисных векторов ek+1, ek+2, …, en, то, поскольку они не принадлежат W, их образы выражаются через базис наиболее общим способом и получаем следующую картину:

(е1)=a11e1+a21e2+…+ak1ek+0ek+1+…+0en

(е2)=a12e1+a22e2+…+ak2ek+0ek+1+…+0en

(еk)=a1ke1+a2ke2+…+akkek+0ek+1+…+0en

(еk+1)=a1,k+1e1+a2,k+1e2+…+ak,k+1ek+ ak+1,k+1ek+1+…+an,k+1en

(еn)=a1ne1+a2ne2+…+aknek+ ak+1,nek+1+…+annen.

Отсюда видно, что матрицы всех элементов группы G в предствлении Т будут одновременно иметь следующий вид:

(6)

Поэтому на языке матриц матричное представление называется приводимым, если все матрицы его могут быть записаны при определенном выборе базиса в виде (6). Если же ни при каком выборе базиса матрицы представления нельзя записать в указанном виде, представления называются неприводимыми.