Используя матрицу Logits, полученную в результате решения предыдущей задачи, найдите выходную матрицу Result для механизма self-attention. Для этого нужно матрицу Logits нормировать с помощью softmax по строкам AttScores softmax (Logits, row: , в

Используя матрицу Logits, полученную в результате решения предыдущей задачи, найдите выходную матрицу Result $\in \mathbb{R}^{\text {InLen } \times \text { EmbSize }}$ для механизма self-attention.

Для этого нужно

1. матрицу Logits нормировать с помощью softmax по строкам AttScores $=$ softmax (Logits, row: , в результате $0 \leq$ AttScores $[i, j] \leq 1$ и $\sum_{j=0}^{I n \operatorname{Len}-1}$ AttScores $[i, j]=1$
2. найти взвешенную сумму исходных признаков с учётом найденых весов:\nResult $=$ AttScores $\cdot$ Input (c помощью матричного произведения)