Пусть $\varphi$ любая непрерывная сигмоидная функция, например, $\varphi(\xi) = 1 /(1 + e^{-\xi})$. Тогда если дана любая непрерывная функция действительных переменных $f$ на $[0,1]^n$ (или любое другое компактное подмножество $\mathbb{R}^n$) и $\varepsilon > 0$, то существуют векторы $w_1, w_2, ... w_n, \alpha$ и $\theta$ и параметризированная функция $G(\cdot, w, \alpha, \theta): [0, 1]^n \to \mathbb{R}$ такая, что для всех $x \in [0,1]^n$ выполняется $|G(x, w, \alpha, \theta) - f(x)| < \varepsilon$, где
$$ G(x, w, \alpha, \theta) = \sum_{i=1}^N\alpha_i\varphi(w_i^Tx + \theta_i), $$
$w_i \in \mathbb{R}^n,\ \alpha_i, \theta_i \in \mathbb{R}, \\ w = (w_1, w_2, ..., w_N),\\ \alpha = (\alpha_1, \alpha_2, ..., \alpha_N), \\ \theta= (\theta_1, \theta_2, ..., \theta_N).$
Confusion matrix - матрица ошибок:
| $TP$ | $FP$ |
|---|---|
| $FN$ | $TN$ |
$$ J(A,B) = \frac{|A \cap B|}{|A \cup B|}. $$
Receptive field - поле восприятия; размер входа, от которого зависит один выход.
Stride - пропуски; длина равна отступу между входными пикселями, сколько пропускаем.
Dilated convolutions - “раздутые свёртки”, центра ставим в каждый пиксель, но умножаемые на фильтр пиксели берутся с пропусками.
