Основы теории информации и криптографии

Если непрерывные случайные величины X, Y заданы плотностями распределения вероятностей p_X(t₁), p_Y(t₂) и p_XY(t₁,t₂), то количество информации, содержащейся в X относительно Y равно:

(Отметьте один правильный вариант ответа.)

Варианты ответа

$I(X,Y)=\int\limits_{\quad\bR^2}\!\!\!\!\!\int p_{XY}(t_1,t_2)\log_2{ p_X(t_1)p_Y(t_2) \over p_{XY}(t_1,t_2) }dt_1dt_2$

$I(X,Y)=\int\limits_{\quad\bR^2}\!\!\!\!\!\int p_{XY}(t_1,t_2)\log_2{p_{XY}(t_1,t_2) \over p_X(t_1)p_Y(t_2)}dt_1dt_2$ (Верный ответ)

$I(X,Y)=\int\limits_{\quad\bR^2}\!\!\!\!\!\int \log_2{p_{XY}(t_1,t_2) \over p_X(t_1)p_Y(t_2)}dt_1dt_2$

Похожие вопросы

Если дискретные случайные величины X и Y заданы законами распределения P(X=X_i)=p_i, P(Y=Y_j)=q_j и совместным распределением P(X=X_i,Y=Y_j)=p_ij, то количество информации, содержащейся в X относительно Y равно:

Определить характер зависимости между X₁ и Z, если задана дискретная случайная величина Z=(X₁+1)²-X₂, где независимые дискретные случайные величины X₁, X₂ могут с равной вероятностью принимать значение либо 0, либо 1:

Дискретные случайные величины X₁ и X₂ определяются подбрасыванием двух идеальных тетраэдров, грани которых помечены числами от 1 до 4. Дискретная случайная величина Y равна сумме чисел, выпавших при подбрасывании этих тетраэдров, т.е. Y=X₁+X₂. Вычислить I(X₁,Y):

Определить HZ, если задана дискретная случайная величина Z=(X₁+1)²-X₂, где независимые дискретные случайные величины X₁, X₂ могут с равной вероятностью принимать значение либо 0, либо 1:

Определить HX₁, если задана дискретная случайная величина Z=(X₁+1)²-X_2, где независимые дискретные случайные величины X₁, X_2 могут с равной вероятностью принимать значение либо 0, либо 1:

Составить арифметический код для сообщения BAABC, полученного от дискретной случайной величины X со следующим распределением вероятностей P(X=A)=1/4, P(X=B)=1/2, P(X=C)=1/4:

Составить арифметический код для сообщения BAABC, полученного от дискретной случайной величины X со следующим распределением вероятностей P(X=A)=1/3, P(X=B)=7/15, P(X=C)=1/5:

Дискретные случайные величины X₁ и X₂ определяются подбрасыванием двух идеальных тетраэдров, грани которых помечены числами от 1 до 4. Вычислить HX₁.

Вычислить длины кодов Хаффмена и арифметического для сообщения AAB, полученного от дискретной случайной величины X со следующим распределением вероятностей P(X=A)=1/3, P(X=B)=2/3: