Произведение Кронекера
—
бинарная операция
над
матрицами
произвольного размера, обозначается
⊗
{\displaystyle \otimes }
. Результатом является
блочная матрица
.
Произведение Кронекера не следует путать с обычным
умножением матриц
. Операция названа в честь немецкого математика
Леопольда Кронекера
.
Определение
Если
A
— матрица размера
m
×
n
,
B
— матрица размера
p
×
q
, тогда произведение Кронекера есть блочная матрица размера
mp
×
nq
A
⊗
B
=
[
a
11
B
⋯
a
1
n
B
⋮
⋱
⋮
a
m
1
B
⋯
a
m
n
B
]
.
{\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}.}
В развёрнутом виде
A
⊗
B
=
[
a
11
b
11
a
11
b
12
⋯
a
11
b
1
q
⋯
⋯
a
1
n
b
11
a
1
n
b
12
⋯
a
1
n
b
1
q
a
11
b
21
a
11
b
22
⋯
a
11
b
2
q
⋯
⋯
a
1
n
b
21
a
1
n
b
22
⋯
a
1
n
b
2
q
⋮
⋮
⋱
⋮
⋮
⋮
⋱
⋮
a
11
b
p
1
a
11
b
p
2
⋯
a
11
b
p
q
⋯
⋯
a
1
n
b
p
1
a
1
n
b
p
2
⋯
a
1
n
b
p
q
⋮
⋮
⋮
⋱
⋮
⋮
⋮
⋮
⋮
⋮
⋱
⋮
⋮
⋮
a
m
1
b
11
a
m
1
b
12
⋯
a
m
1
b
1
q
⋯
⋯
a
m
n
b
11
a
m
n
b
12
⋯
a
m
n
b
1
q
a
m
1
b
21
a
m
1
b
22
⋯
a
m
1
b
2
q
⋯
⋯
a
m
n
b
21
a
m
n
b
22
⋯
a
m
n
b
2
q
⋮
⋮
⋱
⋮
⋮
⋮
⋱
⋮
a
m
1
b
p
1
a
m
1
b
p
2
⋯
a
m
1
b
p
q
⋯
⋯
a
m
n
b
p
1
a
m
n
b
p
2
⋯
a
m
n
b
p
q
]
.
{\displaystyle \mathbf {A} \otimes \mathbf {B} ={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}
Если
A
и
B
представляют собой линейные преобразования
V
1
→
W
1
и
V
2
→
W
2
, соответственно, то
A
⊗
B
представляет собой
тензорное произведение
двух отображений,
V
1
⊗
V
2
→
W
1
⊗
W
2
.
Пример
[
1
2
3
4
]
⊗
[
0
5
6
7
]
=
[
1
⋅
0
1
⋅
5
2
⋅
0
2
⋅
5
1
⋅
6
1
⋅
7
2
⋅
6
2
⋅
7
3
⋅
0
3
⋅
5
4
⋅
0
4
⋅
5
3
⋅
6
3
⋅
7
4
⋅
6
4
⋅
7
]
=
[
0
5
0
10
6
7
12
14
0
15
0
20
18
21
24
28
]
{\displaystyle {\begin{bmatrix}1&2\\3&4\\\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}={\begin{bmatrix}1\cdot 0&1\cdot 5&2\cdot 0&2\cdot 5\\1\cdot 6&1\cdot 7&2\cdot 6&2\cdot 7\\3\cdot 0&3\cdot 5&4\cdot 0&4\cdot 5\\3\cdot 6&3\cdot 7&4\cdot 6&4\cdot 7\\\end{bmatrix}}={\begin{bmatrix}0&5&0&10\\6&7&12&14\\0&15&0&20\\18&21&24&28\end{bmatrix}}}
.
Билинейность, ассоциативность и некоммутативность
A
⊗
(
B
+
C
)
=
A
⊗
B
+
A
⊗
C
,
{\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C,}
(
A
+
B
)
⊗
C
=
A
⊗
C
+
B
⊗
C
,
{\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C,}
(
k
A
)
⊗
B
=
A
⊗
(
k
B
)
=
k
(
A
⊗
B
)
,
{\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),}
(
A
⊗
B
)
⊗
C
=
A
⊗
(
B
⊗
C
)
,
{\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C),}
где
A
,
B
и
C
есть матрицы, а
k
— скаляр.
A
⊗
B
=
P
(
B
⊗
A
)
Q
.
{\displaystyle A\otimes B=P\,(B\otimes A)\,Q.}
Если
A
и
B
квадратные матрицы
, тогда
A
⊗
{\displaystyle \otimes }
B
и
B
⊗
{\displaystyle \otimes }
A
являются перестановочно
подобными
, то есть,
P
=
Q
T
.
Транспонирование
Операции
транспонирования
и
эрмитова сопряжения
можно переставлять с произведением Кронекера:
(
A
⊗
B
)
T
=
A
T
⊗
B
T
,
{\displaystyle (A\otimes B)^{T}=A^{T}\otimes B^{T},}
(
A
⊗
B
)
H
=
A
H
⊗
B
H
.
{\displaystyle (A\otimes B)^{H}=A^{H}\otimes B^{H}.}
Смешанное произведение
Если
A
,
B
,
C
и
D
являются матрицами такого размера, что существуют произведения
AC
и
BD
, тогда
(
A
⊗
B
)
(
C
⊗
D
)
=
A
C
⊗
B
D
.
{\displaystyle (A\otimes B)(C\otimes D)=AC\otimes BD.}
A
⊗
{\displaystyle \otimes }
B
является
обратимой
тогда и только тогда, когда
A
и
B
являются обратимыми, и тогда
(
A
⊗
B
)
−
1
=
A
−
1
⊗
B
−
1
.
{\displaystyle (A\otimes B)^{-1}=A^{-1}\otimes B^{-1}.}
(
A
⊗
B
)
⊙
(
C
⊗
D
)
=
(
A
⊙
C
)
⊗
(
B
⊙
D
)
{\displaystyle (A\otimes B)\odot (C\otimes D)=(A\odot C)\otimes (B\odot D)}
, где
⊙
{\displaystyle \odot }
-
произведение Адамара
A
⊗
B
=
(
I
⊗
B
)
(
A
⊗
I
)
{\displaystyle A\otimes B=(I\otimes B)(A\otimes I)}
, где
I
{\displaystyle I}
- единичная матрица.
Сумма и экспонента Кронекера
Пусть
A
— матрица размера
n
×
n
,
B
— матрица размера
m
×
m
и
E
k
{\displaystyle E_{k}}
—
единичная матрица
размера
k
×
k
. Тогда можно определить сумму Кронекера
⊕
{\displaystyle \oplus }
как
A
⊕
B
=
A
⊗
E
m
+
E
n
⊗
B
.
{\displaystyle A\oplus B=A\otimes E_{m}+E_{n}\otimes B.}
e
A
⊕
B
=
e
A
⊗
e
B
.
{\displaystyle e^{A\oplus B}=e^{A}\otimes e^{B}.}
Спектр, след и определитель
Если
A
и
B
квадратные матрицы размера
n
и
q
соответственно. Если λ
1
, …, λ
n
—
собственные значения матрицы
A
и μ
1
, …, μ
q
собственные значения матрицы
B
. Тогда собственными значениями
A
⊗
{\displaystyle \otimes }
B
являются
λ
i
μ
j
,
i
=
1
,
…
,
n
,
j
=
1
,
…
,
q
.
{\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,q.}
tr
(
A
⊗
B
)
=
tr
(
A
)
tr
(
B
)
,
{\displaystyle \operatorname {tr} (A\otimes B)=\operatorname {tr} (A)\,\operatorname {tr} (B),}
det
(
A
⊗
B
)
=
(
det
A
)
q
(
det
B
)
n
.
{\displaystyle \det(A\otimes B)=(\det A)^{q}(\det B)^{n}.}
Сингулярное разложение и ранг
σ
A
,
i
,
i
=
1
,
…
,
r
A
.
{\displaystyle \sigma _{A,i},\qquad i=1,\ldots ,r_{A}.}
Ненулевые сингулярные значения матрицы
B
:
σ
B
,
i
,
i
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{B,i},\qquad i=1,\ldots ,r_{B}.}
Тогда произведение Кронекера
A
⊗
{\displaystyle \otimes }
B
имеет
r
A
r
B
ненулевых сингулярных значений
σ
A
,
i
σ
B
,
j
,
i
=
1
,
…
,
r
A
,
j
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{A,i}\sigma _{B,j},\qquad i=1,\ldots ,r_{A},\,j=1,\ldots ,r_{B}.}
Ранг матрицы
равен количеству ненулевых сингулярных значений,
rank
(
A
⊗
B
)
=
rank
(
A
)
rank
(
B
)
.
{\displaystyle \operatorname {rank} (A\otimes B)=\operatorname {rank} (A)\,\operatorname {rank} (B).}
История
Произведение Кронекера названо в честь
Леопольда Кронекера
, несмотря даже на то, что существует мало свидетельств о том, что он был первым, кто определил и использовал эту операцию. В прошлом произведение Кронекера иногда называли
матрицей Зефусса
.
Блочные версии произведения Кронекера
В случае блочных матриц могут использоваться матричные операции, связанные c произведением Кронекера и отличающиеся порядком соответствующего перемножения блоков. Таковыми являются произведения Трейси – Сингха (
англ.
Tracy–Singh product
) и
произведение Хатри — Рао
.
Произведение Трейси-Сингха
Указанная операция перемножения блочных матриц заключается в том, что каждый блок левой матрицы умножается последовательно на блоки правой матрицы. При этом формируемая структура результирующей матрицы отличается от характерной для произведения Кронекера.
Произведение Трейси – Сингха определяется как
A
⊙
B
=
(
A
i
j
⊙
B
)
i
j
=
(
(
A
i
j
⊗
B
k
l
)
k
l
)
i
j
{\displaystyle \mathbf {A} \odot \mathbf {B} =\left(\mathbf {A} _{ij}\odot \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}}
Например:
A
=
[
A
11
A
12
A
21
A
22
]
=
[
1
2
3
4
5
6
7
8
9
]
,
B
=
[
B
11
B
12
B
21
B
22
]
=
[
1
4
7
2
5
8
3
6
9
]
,
{\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}
A
⊙
B
=
[
A
11
⊙
B
A
12
⊙
B
A
21
⊙
B
A
22
⊙
B
]
=
[
A
11
⊗
B
11
A
11
⊗
B
12
A
12
⊗
B
11
A
12
⊗
B
12
A
11
⊗
B
21
A
11
⊗
B
22
A
12
⊗
B
21
A
12
⊗
B
22
A
21
⊗
B
11
A
21
⊗
B
12
A
22
⊗
B
11
A
22
⊗
B
12
A
21
⊗
B
21
A
21
⊗
B
22
A
22
⊗
B
21
A
22
⊗
B
22
]
=
[
1
2
4
7
8
14
3
12
21
4
5
16
28
20
35
6
24
42
2
4
5
8
10
16
6
15
24
3
6
6
9
12
18
9
18
27
8
10
20
32
25
40
12
30
48
12
15
24
36
30
45
18
36
54
7
8
28
49
32
56
9
36
63
14
16
35
56
40
64
18
45
72
21
24
42
63
48
72
27
54
81
]
.
{\displaystyle {\begin{aligned}\mathbf {A} \odot \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {A} _{11}\odot \mathbf {B} &\mathbf {A} _{12}\odot \mathbf {B} \\\hline \mathbf {A} _{21}\odot \mathbf {B} &\mathbf {A} _{22}\odot \mathbf {B} \end{array}}\right]={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}
Произведение Хатри-Рао
Данный вариант умножения определён для матриц с одинаковой блочной структурой. Он предусматривает, что операция кронекеровского произведения выполняется поблочно, в пределах одноимённых матричных блоков по аналогии с поэлементным
произведением Адамара
, только при этом в качестве элементов фигурируют блоки матриц, а для умножения блоков используется кронекеровское произведение.
Примечания
Tracy, D. S.; Singh, R. P. (1972). "A New Matrix Product and Its Applications in Matrix Differentiation".
Statistica Neerlandica
.
26
(4): 143—157.
doi
:
.
Liu, S. (1999). "Matrix Results on the Khatri–Rao and Tracy–Singh Products".
Linear Algebra and Its Applications
.
289
(1—3): 267—277.
doi
:
.
Литература
Хорн Р. Матричный анализ: Пер. с англ. / Р. Хорн, Ч. Джонсон. – М.: Мир, 1989.– 655 с.