Задачи по энтропии (5 из 5)

Задачи по энтропии (5 из 5)

Формула определения энтропии

 

1. Определить энтропию системы, состоящей из пяти подсистем, каждая из которых может иметь с равной вероятностью 4 состояния.

Энтропия системы равна сумме энтропии всех подсистем. Каждая подсистема может находится в 4 состояниях с равной вероятностью, то есть энтропия подсистемы равна

- log2(0,25)=2

Значит энтропия системы равна

2 * 5 = 10

Ответ: 10

2. Определить энтропию системы на примере трехкратного бросания шестигранной кости

По принципу аддитивности энтропии – энтропия трехкратного бросания в три раза больше однократного, то есть для решения необходимо вычислить энтропию бросания кости.

Так как в кости 6 граней и вероятность выпадения каждой грани одинакова, то энтропия равна

-log2(1/6) = log2(6) = 2,585

Ответ: 2,585

3. Определить энтропию системы на примере 64 экзаменационных билетов, каждый из которых состоит из 3 вопросов

Вероятность выпадения любого одного билета равна 1/64

То есть энтропия равна -1/64*log2(1/64)=6/64=0,09375

Так как в билете 3 вопроса, на каждый из которых необходимо дать ответ, то энтропия возрастает в три раза

Ответ: 0,28125

 

4. Определить энтропию системы на примере вопроса психологического теста, требующего ответа типа «да» - «не знаю» - «нет», причем частоты вариантов ответов при массовом тестировании оказались равными 0,3 – 0,5 – 0,2

Энтропия системы равна

-(0,3*log2(0,3)+0,5*log2(0,5)+0,2*log2(0,2))=-(-0,521-0,5-0,464)=1,485

Ответ: 1,485

5. Определить энтропию системы на примере выбора экзаменационного билета, если из 50 билетов 15 выучены хорошо, 30 – средне, 5 – плохо

Для вычисления энтропии необходимо определить вероятность выпадения билетов, выученных с разной степенью: хорошо, средне плохо.

Хорошо – 15 из 50, то есть 0,3

Средне – 30 из 50, то есть 0,6

Плохо – 5 из 50, то есть 0,1

Энтропия системы равна

-(0,3*log2(0,3)+0,6*log2(0,6)+0,1*log2(0,1))=-(-0,521-0,442-0,332)=1,295

Ответ: 1,295

Задачи по Переводу чисел (7 из 7)

Целая часть десятичных чисел находится путем деления числа на основание новой системы счисления, числа записываются справа налево

6. Перевести число 89 в троичную систему

89	3
-87	29	3
2	-27	9	3
	2	-9	3	3
		0	-3	1
			0

 

Ответ: 10022

7. Перевести число 37 в двоичную систему

37	2
-36	18	2
1	-18	9	2
	0	-8	4	2
		1	-4	2	2
			0	-2	1
				0

 

Ответ: 100101

8. Перевести число 612 в восьмеричную систему

612	8
-608	76	8
4	-72	9	8
	4	-8	1
		1

 

Ответ: 1144

9. Перевести число 100010101,11 в десятичную систему

100010101.11₂ = 1∙2⁸+0∙2⁷+0∙2⁶+0∙2⁵+1∙2⁴+0∙2³+1∙2²+0∙2¹+1∙2⁰+1∙2^-1+1∙2^-2 = 256+0+0+0+16+0+4+0+1+0.5+0.25 = 277.75₁₀

Ответ: 277,75

10. Перевести число 0,6752 из десятичной в двоичную систему до 4 знаков после запятой

Дробная часть числа находится умножением на основание новой

0	.6752
.	2
1	3504
	2
0	7008
	2
1	4016
	2
0	8032
	2

 

Целая часть равна 0

Ответ: 0,1010

11. Перевести число 10101001011 из двоичной системы в восьмеричную и шестнадцатеричную

Переводим число в десятичную систему

10101001011₂ = 1∙2¹⁰+0∙2⁹+1∙2⁸+0∙2⁷+1∙2⁶+0∙2⁵+0∙2⁴+1∙2³+0∙2²+1∙2¹+1∙2⁰ = 1024+0+256+0+64+0+0+8+0+2+1 = 1355₁₀

Далее переводим число в восьмеричную

1355	8
-1352	169	8
3	-168	21	8
	1	-16	2
		5

 

Переводим в шестнадцатеричную

1355	16
-1344	84	16
11=B	-80	5
	4

 

Ответ: 2513₈, 54B₁₆

12. Перевести число 152Е из шестнадцатеричной системы в двоичную и восьмеричную

Сначала переводим в десятичную систему

152E₁₆ = 1∙16³+5∙16²+2∙16¹+14∙16⁰ = 4096+1280+32+14 = 5422₁₀

Далее переводим в двоичную

5422	2
-5422	2711	2
0	-2710	1355	2
	1	-1354	677	2
		1	-676	338	2
			1	-338	169	2
				0	-168	84	2
					1	-84	42	2
						0	-42	21	2
							0	-20	10	2
								1	-10	5	2
									0	-4	2	2
										1	-2	1
											0

 

Переводим в восьмеричную

5422	8
-5416	677	8
6	-672	84	8
	5	-80	10	8
		4	-8	1
			2

 

Ответ: 1010100101110₂, 12456₈

 

Задачи по построению схем в базисе (2 из 2)

19. Построить схему в базисе И, ИЛИ, НЕ для функции (x1|x2)|(x2|x3)

Штрих Шеффера a|b=!(a*b)

(x1|x2)|(x2|x3)=!(!(x1*x2)*!(x2*x3))=!!(x1*x2)+!!(x2*x3)=x1*x2+x2*x3

20. Построить схему в базисе Пирса для функции (x1|x2)|(x2|x3)

(x1|x2)|(x2|x3)=!(!(x1*x2)*!(x2*x3))=!!(x1*x2)+!!(x2*x3)=x1*x2+x2*x3=x2*(x1+x3)=

=x2*((x1↓x3) ↓ (x1↓x3))=(x2↓x2) ↓(((x1↓x3) ↓ (x1↓x3))↓((x1↓x3) ↓ (x1↓x3)))

Задачи по контролю по модулю (2 из 2)

 

35. С помощью числового метода контролю по модулю для чисел А=118 и В=55 определить контрольные коды самих чисел, их суммы и разности, если модуль p=11

Ra=118mod11=8

Rb=55mod11=0

Ra+b=(118+55)mod11=173mod11=8

Ra-b=(118-55)mod11=63mod11=8

36. С помощью числового метода контролю по модулю для чисел А=89 и В=28 определить контрольные коды самих чисел, их суммы и разности, если модуль p=7

Ra=89mod7=5

Rb=28mod7=0

Ra+b=(89+28)mod7=117mod7=5

Ra-b=(89-28)mod7=61mod7=5

 

Задачи на определение веса и кодовых расстояний (2 из 2)

Вес – число единиц в последовательности, кодовое расстояние – число разрядов, в которых слова различаются

44. Определить вес и кодовые расстояния для 01101111 и 11101101

Ответ: вес равен 6, кодовое расстояние 2

45. Определить вес и кодовые расстояния для 01010101 и 10101010

Ответ: вес равен 4, кодовое расстояние 8

Задачи для нормального алгоритм Маркова (0 из 2)

48. Задача 1

49. Задача 2

Задачи по энтропии (5 из 5)

Формула определения энтропии

 

1. Определить энтропию системы, состоящей из пяти подсистем, каждая из которых может иметь с равной вероятностью 4 состояния.

Энтропия системы равна сумме энтропии всех подсистем. Каждая подсистема может находится в 4 состояниях с равной вероятностью, то есть энтропия подсистемы равна

- log2(0,25)=2

Значит энтропия системы равна

2 * 5 = 10

Ответ: 10

2. Определить энтропию системы на примере трехкратного бросания шестигранной кости

По принципу аддитивности энтропии – энтропия трехкратного бросания в три раза больше однократного, то есть для решения необходимо вычислить энтропию бросания кости.

Так как в кости 6 граней и вероятность выпадения каждой грани одинакова, то энтропия равна

-log2(1/6) = log2(6) = 2,585

Ответ: 2,585

3. Определить энтропию системы на примере 64 экзаменационных билетов, каждый из которых состоит из 3 вопросов

Вероятность выпадения любого одного билета равна 1/64

То есть энтропия равна -1/64*log2(1/64)=6/64=0,09375

Так как в билете 3 вопроса, на каждый из которых необходимо дать ответ, то энтропия возрастает в три раза

Ответ: 0,28125

 

4. Определить энтропию системы на примере вопроса психологического теста, требующего ответа типа «да» - «не знаю» - «нет», причем частоты вариантов ответов при массовом тестировании оказались равными 0,3 – 0,5 – 0,2

Энтропия системы равна

-(0,3*log2(0,3)+0,5*log2(0,5)+0,2*log2(0,2))=-(-0,521-0,5-0,464)=1,485

Ответ: 1,485

5. Определить энтропию системы на примере выбора экзаменационного билета, если из 50 билетов 15 выучены хорошо, 30 – средне, 5 – плохо

Для вычисления энтропии необходимо определить вероятность выпадения билетов, выученных с разной степенью: хорошо, средне плохо.

Хорошо – 15 из 50, то есть 0,3

Средне – 30 из 50, то есть 0,6

Плохо – 5 из 50, то есть 0,1

Энтропия системы равна

-(0,3*log2(0,3)+0,6*log2(0,6)+0,1*log2(0,1))=-(-0,521-0,442-0,332)=1,295

Ответ: 1,295

12345Следующая ⇒

Поделиться: