ВОПРОСЫ К ЭКЗАМЕНУ ПО КУРСУ "ПРИКЛАДНАЯ ТЕОРИЯ ИНФОРМАЦИИ" (для групп 2451, 2420, 2421) 1. Информация. Сообщение. Структура дискретного канала связи. 2. Два вида информации. 3. Основные характеристики дискретного канала связи. 4. Формирование элементов дискретных сообщений. Источник. 5. Оценка количества информации дискретного источника, свойства количества информации. 6. Энтропия, её свойства. Энтропия бинарного источника сообщения. 7. Избыточность, примеры источников сообщений с разной избыточностью. Избыточность источника сообщения при укрупнении алфавита. 8. Производительность источника сообщения. 9. Структура дискретного канала с кодированием и соотношения, характеризующие передачу - приём дискретной информации. 10. Соотношения для дискретного канала связи, характеризующие изменение количества информации в разных устройствах канала. 11. Скорость передачи количества информации по дискретному каналу связи. 12. Понятие пропускной способности дискретного канала. 13. Пропускная способность дискретного канала связи при действии помех. 14. Пропускная способность дискретного канала связи без помех и эффективное кодирование. 15. Понятие эффективного кодирования и связь средней длительности кодовой комбинации с избыточностью кодового источника. 16. Методы уменьшения избыточности источника. 17. Избыточность при кодировании и процесс кодирования, позволяющий приблизиться к кодированию в смысле Шеннона, когда действуют помехи. 18. Общий принцип случайного кодирования и декодирования. Структура организации кодера и декодера. 19. Идея построения первой решающей схемы на примере регистрации радиоимпульса. 20. Построение решающей схемы в случае приёма в целом. 21. Преимущества и недостатки эффективного кодирования. 22. Идея построения кодового дерева при эффективном кодировании. 23. Принцип организации структур кодера и декодера при эффективном кодировании. 24. Особенности корректирующих кодов. Их классификация. 25. Использование критерия максимального правдоподобия для построения различения кодовой комбинации по минимуму кодового расстояния. 26. Связь между кратностью обнаруживаемых ошибок и минимальным кодовым расстоянием. 27. Связь кратности исправляемых ошибок с минимальным кодовым расстоянием. 28. Структурная схема декодера, построенного на основе вычисления кодовых расстояний, принятых и записанных в память. 29. Общие характеристики кода Хемминга. Разновидности методов декодирования. 30. Принцип матричного метода кодирования и декодирования кода Хемминга. 31. Полиномиальное представление блочных кодов на примере бинарных кодовых комбинаций. 32. Свойства циклических кодов. 33. Алгебраические действия с полиномом. 34. Производящий (порождающий) полином. Принцип построения блочных кодов с использованием производящего полинома. 35. Структура декодера при использовании метода умножения на производящий полином. 36. Структура декодера при использовании метода деления на производящий полином. 37. Циклические коды БЧХ. 38. Циклические коды Рида-Соломона. 39. Особенности непрерывных (свёрточных) кодов. Принцип построения. 40. Принцип кодирования и декодирования простейших непрерывных кодов.