Предисловие...................................................... 3 Глава 1. Введение................................................ 5 1.1. Системы передачи сообщений........................... 5 1.2. Теория информации и ее предмет....................... 10 1.3. Некоторые основополагающие понятия и результаты классической теории информации....................... 16 1.4. О содержании данной книги............................ 19 1.5. Выводы................................................. 24 1.6. Литература............................................ 25 Глава 2. Дискретизация и восстановление непрерывных фушащй 27 2.1. Теорема отсчетов. Формулировка и доказательство теоремы.................................................... 28 2.2. Анализ ошибок в теории дискретизации и восстановления непрерывных функций............................ 39 2.3. Разновидности и обобщения теоремы отсчетов.......... 42 2.4. Области применения теоремы отсчетов.................. 45 2.5. Дискретизация и восстановление функций на основе использования полиномов Лагранжа...................... 49 2.6. Амплитудно-импульсная и кодово-импульсная модуляции..................................................... 53 2.7. Приложение. Гауссовский случайный процесс. Белый гауссов шум............................................. 61 2.8. Выводы................................................. 73 2.9. Литература............................................. 74 Глава 3. Энтропия и информация................................ 76 3.1. Постановка задачи. Основной и вспомогательный опыты. Адресат. Тождественные опыты................. 76 3.2. Энтропия исхода и энтропия опыта. Информация I[Ai,Bj. Энтропия сложного опыта На0. Условная энтропия опыта Н [0 а]................................. 85 3.3. Информация об опыте /3, содержащаяся в опыте а, Ф,/3]................................................... 124 3.4. Пропускная способность алфавита...................... 146
3.5. Некоторые обобщения и обсуждение полученных результатов................................................... 147
3.6. Энтропия и информация для непрерывных случайных величин................................................. 161
3.7. О различиях в подходе к определению информации..... 169
3.8. Единицы измерения объема запоминающих устройств и скорости передачи данных.............................. 174
3.9. Приложение. Опыт, ансамбль, случайная величина, алфавит, вероятность..................................... 177
3.10. Приложение. Расширенная система вещественных чисел 180
3.11. Приложение. Явление «дефицита алфавита»............ 181
3.12. Приложение. Образование дольных единиц измерения энтропии и информации................................ 184
3.13. Приложение. Соответствие между множествами и отображение множеств...................................... 185
3.14. Выводы................................................. 186
3.15. Литература............................................. 187
Глава 4. Кодирование сообщений ансамбля при отсутствии шума 189
4.1. Префиксные последовательности. Лемма Крафта. Кодовое дерево.............................................. 189
4.2. Основная теорема о кодировании сообщений ансамбля при отсутствии шума................................... 200
4.3. Метод кодирования Фано............................... 205
4.4. Метод кодирования Хаффмана......................... 210
4.5. Доказательство оптимальности префиксного кода Хаффмана.............................................. 241
4.6. Выводы................................................. 263
4.7. Литература............................................. 264
Глава 5. Источники информации................................. 265
5.1. Определения и основные соотношения.................. 265
5.2. Дискретные стационарные источники................... 275
5.3. Избыточность языка..................................... 279
5.4. Кодирование дискретных стационарных источников
с управляемой скоростью при отсутствии шума......... 280
5.5. Марковские источники. Эргодические источники........ 284
5.6. Выводы................................................. 309
5.7. Литература............................................. 310
Глава 6. Каналы связи........................................... 312
6.1. Основные понятия и определения....................... 312
6.2. Дискретные каналы без шума........................... 315
6.3. Дискретный стационарный без памяти канал........... 320
6.4. Непрерывный канал с аддитивным гауссовым шумом... 351
6.5. Пропускная способность реальных каналов............. 365
6.6. Основная теорема о кодировании и декодировании сообщений при передаче их по СБПК....................... 365
6.7. Обращение основной теоремы кодирования............. 398
6.8. Приложение. Некоторые каналы и их пропускные способности................................................ 408
6.9. Приложение. Выпуклая область. Вектор вероятностей. Выпуклая функция. Взаимная информация I[X, Y] как выпуклая функция вектора вероятностей на входе канала. Нахождение экстремумов выпуклых функций..... 410
6.10. Приложение. Вывод соотношения
dI[X,Y]/dq{xk) = I[xk,Y] - ld(e)........................ 416
6.11. Приложение. Сводка понятий и формул, используемых
в теореме 6.6 К. Шеннона............................... 418
6.12. Приложение. Иллюстрация к основной теореме кодирования К. Шеннона и к теореме обращения.............. 418
6.13. Приложение. К вопросу введения понятия информации. 419
6.14. Выводы................................................. 426
6.15. Литература............................................. 427
Послесловие...................................................... 429
Именной указатель............................................... 430
Предметный указатель............................................ 431
|
URSS. 2024. 800 с. Мягкая обложка. 37.9 EUR
ВЕРСАЛЬ: ЖЕЛАННЫЙ МИР ИЛИ ПЛАН БУДУЩЕЙ ВОЙНЫ?. 224 стр. (ТВЁРДЫЙ ПЕРЕПЛЁТ) 11 ноября 1918 года в старом вагоне неподалеку от Компьеня было подписано перемирие, которое означало окончание Первой мировой войны. Через полгода, 28 июня 1919 года, был подписан Версальский договор — вердикт, возлагавший... (Подробнее) URSS. 2024. 704 с. Твердый переплет. 26.9 EUR
В новой книге профессора В.Н.Лексина подведены итоги многолетних исследований одной из фундаментальных проблем бытия — дихотомии естественной неминуемости и широчайшего присутствия смерти в пространстве жизни и инстинктивного неприятия всего связанного со смертью в обыденном сознании. Впервые... (Подробнее) URSS. 2023. 272 с. Мягкая обложка. 15.9 EUR
Настоящая книга посвящена рассмотрению базовых понятий и техник психологического консультирования. В ней детально представлены структура процесса консультирования, описаны основные его этапы, содержание деятельности психолога и приемы, которые могут быть использованы на каждом из них. В книге... (Подробнее) URSS. 2024. 344 с. Мягкая обложка. 18.9 EUR
Мы очень часто сталкиваемся с чудом самоорганизации. Оно воспринимается как само собой разумеющееся, не требующее внимания, радости и удивления. Из случайно брошенного замечания на семинаре странным образом возникает новая задача. Размышления над ней вовлекают коллег, появляются новые идеи, надежды,... (Подробнее) 2023. 696 с. Твердый переплет в суперобложке. 99.9 EUR
Опираясь на новейшие исследования, историк Кристофер Кларк предлагает свежий взгляд на Первую мировую войну, сосредотачивая внимание не на полях сражений и кровопролитии, а на сложных событиях и отношениях, которые привели группу благонамеренных лидеров к жестокому конфликту. Кларк прослеживает... (Подробнее) URSS. 2024. 576 с. Мягкая обложка. 23.9 EUR
Эта книга — самоучитель по военной стратегии. Прочитав её, вы получите представление о принципах военной стратегии и сможете применять их на практике — в стратегических компьютерных играх и реальном мире. Книга состоит из пяти частей. Первая вводит читателя в мир игр: что в играх... (Подробнее) URSS. 2024. 248 с. Мягкая обложка. 14.9 EUR
В книге изложены вопросы новой области современной медицины — «Anti-Ageing Medicine» (Медицина антистарения, или Антивозрастная медицина), которая совмещает глубокие фундаментальные исследования в биомедицине и широкие профилактические возможности практической медицины, а также современные общеоздоровительные... (Подробнее) URSS. 2024. 240 с. Твердый переплет. 23.9 EUR
Предлагаемая вниманию читателей книга, написанная крупным биологом и государственным деятелем Н.Н.Воронцовым, посвящена жизни и творчеству выдающегося ученого-математика, обогатившего советскую науку в области теории множеств, кибернетики и программирования — Алексея Андреевича Ляпунова. Книга написана... (Подробнее) 2023. 416 с. Твердый переплет. 19.9 EUR
Вам кажется, что экономика — это очень скучно? Тогда мы идем к вам! Вам даже не понадобится «стоп-слово», чтобы разобраться в заумных формулах — их в книге нет! Все проще, чем кажется. Автор подаст вам экономику под таким дерзким соусом, что вы проглотите ее не жуя! Вы получите необходимые... (Подробнее) 2022. 560 с. Твердый переплет. 35.9 EUR
После мирового финансово-экономического кризиса 2008-2009 гг. интерес в мире и в России к теоретическому наследию Карла Маркса и классической политической экономии резко возрос, но современной, отвечающей на вызовы экономики XXI века учебной литературы ничтожно мало. Учебник впервые на... (Подробнее) |