Теория информационных процессов

Материаловедение
Электропроводность твёрдых
диэлектриков
Пределы
Курс лекций по ТОЭ
и типовые задания
Информационные процессы
и технологии
Архитектура персонального компьютера
Операционная система Windows
Microsoft Word работа с документами
Microsoft Access СУБД
Microsoft Excel работа с электронными таблицами
Локальные сети Работа пользователя в сети
Работа в Интернет Электронная почта
Защита компьютерной информации
Алгоритмы и программирование Паскаль
Натуральные и комплексные
числа
Теория информационных
процессов
Эффективная организация обмена информации
Непрерывный или аналоговый сигналы
Дискретизированный или дискретно непрерывные сигналы
Дискретные по уровню или квантованные сигналы
Дискретные по уровню и по времени сигналы
Совокупность технических средств
Количество информации в дискретном сообщении
Энтропия
Свойства энтропии
Энтропия объединения нескольких источников
Условная энтропия и взаимная информация
Дискретные источники сообщений с памятью
Производительность источника дискретных сообщений
Пропускная способность дискретного канала
Задача согласования дискретного источника с дискретным каналом без шума
Кодирование
Теорема Шеннона для канала без шума
Второй способ доказательства прямой теоремы Шеннона
Цифровые сети для
передачи речи и данных
Задача согласования дискретного источника
Теорема Шеннона для дискретного канала с шумом
Методика построения помехоустойчивых кодов
Непрерывные сообщения. Квантование и дискретизация
АИМ - сигнал и его спектр
Математическая модель дискретизированного сигнала
Теорема Котельникова
Оценка ошибок дискретизации
Спектр реального сигнала
Интерполирующий фильтр
Информация в непрерывных сообщениях
Дифференциальная энтропия
Наибольшая дифференциальная энтропия
Энтропия и производительность
Пропускная способность непрерывного канала
Информационный подход
Оценка ошибок квантования
Дифференцирование и
интегральное исчисление
Уязвимость операционных
систем
Узлы компьютера БП
Анализ систем безопасности
Обьектовая концепция Delphi
Встроенные типы данных
Объектно-ориентированное
программирование
Классы-оболочки
графический интерфейс
Основные компоненты
Изображения и звук
Инженерная графика

Эффективная организация обмена информации Эффективная организация обмена информации приобретает все большее значение как условие пешной практической деятельности людей. Объем информации необходимый для нормального функционирования современного общества растет примерно пропорционально квадрату развития промышленного потенциала.

Непрерывный или аналоговый сигналы

Дискретизированный или дискретно непрерывные сигналы Теория информации представляет собой ветвь статистической теории связи. Для того чтобы более конкретно обозначить предмет этой науки введем некоторые понятия и определения.

Дискретные по уровню или квантованные сигналы

Дискретные по уровню и по времени сигналы Под сообщением понимают совокупность знаков или первичных сигналов содержащих информацию. Иначе говоря, сообщение - это информация представленная в какой-либо форме. Пример сообщений: текст телеграммы, данные на выходе ЭВМ, речь, музыка и т.д.

Совокупность технических средств

КОЛИЧЕСТВЕННЫЕ ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ ДИСКРЕТНЫХ ИСТОЧНИКОВ СООБЩЕНИЙ И КАНАЛОВ

Количество информации в дискретном сообщении. Предположим, что источник сообщений может в каждый момент времени случайным образом принять одно из конечного множества возможных состояний.

Энтропия

Свойства энтропии Энтропия любого дискретного ансамбля не отрицательна

Энтропия объединения нескольких источников

Условная энтропия и взаимная информация Определенная равенством энтропия характеризует информационные свойства одного дискретного источника или ансамбля.

Дискретные источники сообщений с памятью

Производительность источника дискретных сообщений Обычно источники передают сообщения, с некоторой скоростью, затрачивая в среднем время Т на передачу одного сообщения

Пропускная способность дискретного канала

СОГЛАСОВАНИЕ ДИСКРЕТНОГО ИСТОЧНИКА С ДИСКРЕТНЫМ КАНАЛОМ

Задача согласования дискретного источника с дискретным каналом без шума Предположим, что мы имеем дискретный канал вероятность возникновения ошибки, в котором близка к нулю (в идеале = 0). Такой канал называют идеальным каналом или каналом без шума

Кодирование

Теорема Шеннона для канала без шума Предельные возможности статистического кодирования раскрывается в теореме Шеннона для канала без шума, которая является одним из основных положений теории передачи информации.

Второй способ доказательства прямой теоремы Шеннона для канала без шума. Метод Фано.

Задача согласования дискретного источника с дискретным каналом с шумом Рассмотрим теперь ситуацию, когда в процессе передачи сигнал искажается шумом , т.е. некоторым случайным процессом. Предположим, что в соответствии с обозначениями, что Z - ансамбль сигналов на входе дискретного канала, а Z* - ансамбль сигналов на его выходе.

Теорема Шеннона для дискретного канала с шумом

Методика построения помехоустойчивых кодов. Информационный предел избыточности Кодирование с помощью которого можно устранять ошибки обусловленные наличием шума в канале называется помехоустойчивым. Коды способные исправлять и обнаруживать ошибки называется помехоустойчивым кодом. К сожалению основная теорема кодирования Шеннона не конструктивна, она не указывает способ построения конкретного оптимального помехоустойчивого кода, обеспечивающего предельное согласование сигнала с каналом, существование которого доказывает.

ПРОБЛЕМЫ ПЕРЕДАЧИ НЕПРЕРЫВНОЙ ИНФОРМАЦИИ

Непрерывные сообщения. Квантование и дискретизация. Теорема Котельникова

Непрерывные сообщения. Квантование и дискретизация

АИМ - сигнал и его спектр

Математическая модель дискретизированного сигнала. Спектр дискретизированного сигнала

Теорема Котельникова

Оценка ошибок дискретизации

Оценка погрешности дискретизации обусловленной неограниченностью спектра реального сигнала Реальные процессы конечной длительности имеют бесконечно широкий спектр.

Оценка погрешности дискретизации, обусловленной неидеальностью интерполирующего фильтра

Оценка погрешности дискретизации, обусловленной конечной длительностью отсчетных импульсов Длительность от счетных импульсов  всегда является конечной величиной. При этом, если исходная функция с ограниченным спектром восстанавливается идеальным ФНЧ по АИМ - сигналу

Оценка ошибок квантования

Информация в непрерывных сообщениях Для того, чтобы оценить потенциальные возможности передачи сообщений по непрерывным каналам, необходимо вести количественные информационные характеристики непрерывных сообщений и каналов. Обобщим с этой целью понятие энтропии и взаимной информации на ансамбли непрерывных сигналов.

Дифференциальная энтропия обладает следующими свойствами

Наибольшая дифференциальная энтропия

Энтропия и производительность источника непрерывных сообщений Как было показано, в одном отсчете любого непрерывного сообщения содержится бесконечное количество собственной информации. И тем не менее, непрерывные сообщения (телефонные разговоры, телепередачи) успешно передаются по каналам связи.

Пропускная способность непрерывного канала. Теорема Шеннона

Информационный подход к оценке качества функционирования систем связи Под системой связи будем понимать совокупность технических средств, обеспечивающих передачу информации с заданными свойствами от различных источников различным получателям. Целенаправленная разработка системы связи может осуществляться при условии наличия критериев эффективности ее функционирования.

 

Курсовая по электронике http://school70.ru/
Информатика Помехоустойчивые коды и их основные параметры Цифровые сети для передачи речи и данных