Министерство образования и науки Российской Федерации

ФГБОУ ВПО «Уральский государственный лесотехнический

университет»

Кафедра Информационных технологий и моделирования

Одобрена: Утверждаю:

кафедра ИТиМ Декан ФЭУ

протокол от 11.01.2012 г. № 6 _ В.П. Часовских

/Зав.кафедрой _ В.А. Попов «30» мая 2012 г Методической комиссией ФЭУ протокол от 14.05.2012 г. № 34 Председатель Д.Ю. Захаров

ПРОГРАММА УЧЕБНОЙ ДИСЦИПЛИНЫ

Б1.В.1 «Теория информации и кодирования»

Направление подготовки: 230700.62 – Прикладная информатика Квалификация – бакалавр прикладной информатики Количество зачетных единиц (Трудоемкость, час) – 2 з.е. (72 ч.) Разработчик программы Екатеринбург 2012 г.

СОДЕРЖАНИЕ

Содержание

Пояснительная записка

Введение

Цели и задачи дисциплины

МЕСТО ДИСЦИПЛИНЫ В УЧЕБНОМ ПРОЦЕССЕ

ПО НАПРАВЛЕНИЮ 230700

Требования к знаниям, владениям и навыкам

ТЕМАТИЧЕСКИЙ ПЛАН ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ И

КОДИРОВАНИЯ»

СОДЕРЖАНИЕ РАЗДЕЛОВ И ТЕМ ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ И

КОДИРОВАНИЯ»

Перечень и содержание практических и лабораторных занятий

САМОСТОЯТЕЛЬНАЯ РАБОТА ОБУЧАЮЩИХСЯ

Примерные контрольные задания по дисциплине

Учебно-методическое обеспечение дисциплины

Лист контрольных мероприятий………………………………………………………………. Требования к ресурсам

Лист изменений

Затраты времени обучающегося на изучение дисциплины Затраты времени при форме Вид учебных занятий учебных занятий очная заочная Аудиторные всего, 36 в том числе:

лекции 18 практические занятия 18 Самостоятельные всего, 36 в том числе:

текущая проработка лекций 10 подготовка к практическим занятиям 10 написание реферата 10 подготовка к зачету 6 Всего по учебному плану 72 1. Пояснительная записка

ВВЕДЕНИЕ

Рабочая программа составлена на основании Федерального государственного образовательного стандарта высшего профессионального образования и с учетом рекомендаций Примерной основной образовательной программы по направлению подготовки бакалавров 230700.62 «Прикладная информатика».

Актуальность дисциплины: дисциплина «Теория информации и кодирования» дает возможность расширения и (или) углубления знаний, умений и навыков, определяемых содержанием базовых (обязательных) дисциплин (модулей), позволяет студенту получить углубленные знания и навыки для успешной профессиональной деятельности и (или) для продолжения профессионального образования в магистратуре.

Область применения: эффективное и надежное функционирование информационных систем невозможно без знания основных теоретических принципов получения, преобразования, передачи, хранения и представления информации. Изучение этих принципов и составляет основное содержание дисциплины «Теория информации и кодирования». Теория информации и кодирования исследует общие закономерности информационных процессов, позволяет оценить качество функционирования информационных систем.

Дисциплина «Теория информации и кодирования» относится к вариативной части, которая опирается на ряд специальных дисциплин.

При очной форме обучения по дисциплине предусмотрены прослушивание лекций, выполнение практических заданий, написание реферата и сдача зачета. Дисциплина изучается во 2 семестре 1 курса.

ЦЕЛИ И ЗАДАЧИ ДИСЦИПЛИНЫ

Целью дисциплины «Теория информации и кодирования информации»

призван содействовать знакомству и более углубленному изучению студентов с понятиями и методами теории информации и кодирования информации, а также овладение такими, понятиями об энтропии и количественных мерах измерения информации, основными теоремами теории информации для дискретных каналов связи, сведениями о принципах оптимального и помехоустойчивого кодирования.

Бакалавр по направлению 230700.62 «Прикладная информатика» должен решать следующие профессиональные задачи в соответствии с видами профессиональной деятельности:

педагогическая деятельность:

проведение обследования прикладной области в соответствии с профилем подготовки;

моделирование прикладных и информационных процессов;

формирование требований к информатизации и автоматизации прикладных процессов;

технико-экономического обоснование проектных решений, составление технических заданий на автоматизацию и информатизацию решения прикладных задач.

производственно-технологическая деятельность;

автоматизированное решение прикладных задач операционного и аналитического характера;

информационное обеспечение прикладных процессов.

организационно-управленческая деятельность:

участие в организации и управлении информационными процессами;

использование функциональных и технологических стандартов.

аналитическая деятельность:

анализ прикладных процессов, разработка вариантов автоматизированного решения прикладных задач;

анализ и выбор методов и средств автоматизации и информатизации прикладных процессов на основе современных информационно-коммуникационных технологий;

научно-исследовательская деятельность:

применение системного подхода к автоматизации и информатизации решения прикладных задач;

подготовка обзоров, аннотаций, составление рефератов, научных докладов, публикаций, и библиографии по научно-исследовательской работе в области прикладной информатики.

Выпускник должен обладать следующими общекультурными компетенциями (ОК):

ОК-1: способен использовать, обобщать и анализировать информацию, ставить цели и находить пути их достижения в условиях формирования и развития информационного общества;

ОК-2: логически верно, аргументировано и ясно строить устную и письменную речь, владеть навыками ведения дискуссии и полемики.

ОК-5: способен самостоятельно приобретать и использовать в практической деятельности новые знания и умения, стремится к саморазвитию;

ОК-7: способен понимать сущность и проблемы развития современного информационного общества;

ОК-13: способность понимать сущность и значение информации в развитии современного информационного общества, сознавать опасности и угрозы, возникающие в этом процессе, соблюдать основные требования информационной безопасности, в том числе защиты государственной тайны.

Выпускник должен обладать следующими профессиональными компетенциями (ПК):

общепрофессиональными:

ПК-2: способен при решении профессиональных задач анализировать социально-экономические проблемы и процессы с применением методов системного анализа и математического моделирования.

ПК-3: способен использовать основные законы естественнонаучных дисциплин в профессиональной деятельности и эксплуатировать современное электронное оборудование и информационно коммуникационные технологии в соответствии с целями образовательной программы бакалавра;

проектная деятельность:

ПК-4: способен ставить и решать прикладные задачи с использованием современных информационно-коммуникационных технологий;

ПК-5: способен осуществлять и обосновывать выбор проектных решений по видам обеспечения информационных систем;

ПК-9: способен моделировать и проектировать структуры данных и знаний, прикладные и информационные процессы.

аналитическая деятельность:

ПК-18: способен анализировать и выбирать методы и средства обеспечения информационной безопасности;

ПК-20: способен выбирать необходимые для организации информационные ресурсы и источники знаний в электронной среде.

научно-исследовательская деятельность:

ПК-21: способен применять системный подход и математические методы в формализации решения прикладных задач;

ПК-22: способен готовить обзоры научной литературы и электронных информационно-образовательных ресурсов для профессиональной деятельности.

МЕСТО ДИСЦИПЛИНЫ В УЧЕБНОМ ПРОЦЕССЕ

До начала изучения дисциплины студент должен:

Знать основные понятия и свойства информации, математику, основы математической логики;

Уметь грамотно работать на персональном компьютере;

Иметь представление об основных терминах и понятиях данных, информации, знаниях.

После окончания изучения дисциплины студент должен:

Знать: основные понятия и теоремы теории информации и кодирования;

Уметь: использовать основные теоретические принципы теории информации и кодирования для обеспечения эффективной и надежной передачи информации;

Иметь представление о различных алгоритмах и методах кодирования;

об основных алгоритмах сжатия информации;

Владеть получением количественных оценок информации, расчета информационных характеристик основных элементов систем передачи информации, построения кодов

ПРИМЕРНЫЙ ПЕРЕЧЕНЬ ПРАКТИЧЕСКИХ ЗАНЯТИЙ

информации. Основная теорема о кодировании при отсутствии помех. Метод блокирования. Метод Шеннона-Фэно. Арифметическое кодирование;

особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS. Сжатие данных с потерями без ущерба для конфиденциальной и основную теорему о кодировании при наличии помех. Помехозащитное кодирование. Коды с исправлением и обнаружением ошибок.

обобщать и анализировать информацию, ставить цели и находить пути их достижения в сфере прикладной информатики;

логически верно, аргументировано и ясно строить устную и письменную речь, владеть навыками ведения дискуссии и полемики в сфере прикладной информатики;

самостоятельно приобретать и использовать в практической деятельности новые знания и умения, стремится к саморазвитию;

применять последовательные коды, матричное кодирование, групповой код;

определять минимальное расстояние между кодовыми словами которых равно заданному числу;

понимать сущность и проблемы развития современного информационного общества;

понимать сущность и значение информации в развитии современного информационного общества, сознавать опасности и угрозы, возникающие в этом процессе, соблюдать основные требования информационной безопасности, в том числе защиты государственной тайны;

Владеть:

решением профессиональных задач анализировать социально-экономические проблемы и процессы с применением методов системного анализа и математического моделирования.

основными законами естественнонаучных дисциплин в профессиональной деятельности и эксплуатировать современное электронное оборудование и информационно коммуникационные технологии;

методами и средствами обеспечения информационной безопасности;

необходимыми для организации информационными ресурсами и источниками знаний в электронной среде;

системным подходом и математическими методами в формализации решения прикладных задач;

умением готовить обзоры научной литературы и электронных информационнообразовательных ресурсов для профессиональной деятельности.

ТЕМАТИЧЕСКИЙ ПЛАН ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ

И КОДИРОВАНИЯ»

дела компег) ОК-2 информации. Теория инОК-7 формации рассматривается как существенная часть кибернетики. Характеристики непрерывной и редачи информации. Схема передачи информации.

практике. Базовые понятия: информация, канал ПК-20 кодировании при отсутПК-20 ствии помех. Метод блокирования.

3. ОК-1 Математическая модель ОК-7 исправлением ошибок.

ПК-4 формы представления деПК-22 терминированных сигналов.

4. ОК-1 Кодирование информаОК-2 ции.

ОК-5 Основные задачи кодироОК-7 вания. Эффективное и ПК-5 вании. Эффективные коПК-20 ды: код Шеннона-Фано, ПК-20 код Хаффмана, и их хаПК-22 рактеристики.

ПК-18 вторением, код Хэмминга.

СОДЕРЖАНИЕ РАЗДЕЛОВ И ТЕМ ДИСЦИПЛИНЫ «ТЕОРИЯ

ИНФОРМАЦИИ И КОДИРОВАНИЯ»

Раздел 1. Теория информации. Базовые понятия теории информации.

1.1. Теория информации рассматривается как существенная часть кибернетики. Характеристики непрерывной и дискретной информации.

1.2. Принципы хранения, измерения, обработки и передачи информации. Схема передачи информации. Сущность работы ЦВМ и АВМ и их применение на практике.

1.3. Базовые понятия: информация, канал связи, шум, кодирование Раздел 2. Энтропия Шеннона.

2.1 Энтропия дискретной случайной величины. Понятие префиксного кодирования.

2.2 Сжатие информации. Основная теорема о кодировании при отсутствии помех.

2.3 Метод блокирования.

Раздел 3. Математическая модель системы связи.

3.1 Коды с исправлением ошибок. Коды с обнаружением ошибок.

3.2 Понятие сигнала и его модели. Различные формы представления детерминированных сигналов.

Раздел 4. Кодирование информации.

4.1 Основные задачи кодирования.

4.2 Эффективное и помехоустойчивое кодирование. Основные теоремы Шеннона о 4.3 Эффективные коды: код Шеннона-Фано, код Хаффмана, и их характеристики.

Раздел 5. Методики построения помехоустойчивых кодов.

5.1 Код с проверкой четности, код с тройным повторением, код Хэмминга.

ПЕРЕЧЕНЬ И СОДЕРЖАНИЕ ПРАКТИЧЕСКИХ И ЛАБОРАТОРНЫХ

ЗАНЯТИЙ

теории информации Раздел 2. Энтро- Формы предпия Шеннона ставления

САМОСТОЯТЕЛЬНАЯ РАБОТА ОБУЧАЮЩИХСЯ

Самостоятельная работа студентов по изучаемой дисциплине призвана, не только, закреплять и углублять знания, полученные во время аудиторных занятий, но и способствовать развитию у студентов творческих навыков, инициативы, умению организовывать свое время.

Все виды самостоятельной работы и планируемые на их выполнение затраты времени в часах исходят из того, что студент достаточно активно работал в аудитории, слушая лекции и решая задачи на практических занятиях. В случае пропуска лекций и практических занятий студенту потребуется сверхнормативное время на освоение пропущенного материала.

На самостоятельную работу студентов выносится: изучение лекционного материала (18 часов), подготовка к проведению практических занятий ( часов), написание реферата (10 часов), подготовка к зачету (6 часа).

Форма зачета: зачет по учебной дисциплине проводится при предъявлении конспекта лекций по теоретической части курса, при наличии выполненных практических заданий, написания реферата, а также при выполнении текущих контрольных мероприятий.

1. Теория информации. Базовые понятия теории информации.

2. Способы измерения информации. Вероятностный подход к измерению дискретной и непрерывной информации.

3. Понятие энтропии. Энтропия дискретной случайной величины.

4. Понятие префиксного кодирования. Сжатие информации. Основная теорема о кодировании при отсутствии помех.

5. Метод блокирования.

6. Метод Шеннона-Фэно.

7. Арифметическое кодирование.

8. Адаптивные алгоритмы сжатия информации. Адаптивное арифметическое кодирование.

9. Алгоритмы LZ77, LZ78, LZSS, LZW.

10. Особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS.

11. Сжатие данных с потерями без ущерба для конфиденциальной и важной информации. Основная теорема о кодировании при наличии помех. Помехозащитное кодирование.

12. Коды с исправлением и обнаружением ошибок.

КОНТРОЛЬ РЕЗУЛЬТАТИВНОСТИ УЧЕБНОГО ПРОЦЕССА

ПО ДИСЦИПЛИНЕ

Текущий контроль учебного процесса заключается в проверке отчётов по практическим работам. Возможен опрос на лекциях для контроля знаний теоретического материала в виде тестирования. Оценивается также защита презентации по дисциплине. Промежуточный контроль проводится в форме экзамена по балльно-рейтинговой системе, принятой в вузе. Зачет проводится в виде теста по лекционному материалу, а также по практическим занятиям.

Примерные контрольные задания по дисциплине 1 – 10. Определить количество информации (по Хартли), содержащееся в системе, информационная емкость которой характеризуется десятичным числом Q. Закодировать это число по двоичной системе счисления.

11 – 20. Определить среднее количество информации, содержащееся в сообщении, используемом три независимых символа S1, S2, S3. Известны вероятности появления символов p(S1)=p1, p(S2)=p2, p(S3)=p3. Оценить избыточность сообщения.

21 – 30. В условии предыдущей задачи учесть зависимость между символами, которая задана матрицей условных вероятностей P(Sj / Si).

31 – 40. Провести кодирование по одной и блоками по две буквы, используя метод Шеннона – Фано. Сравнить эффективности кодов. Данные взять из задач №11 –20.

41 – 50. Алфавит передаваемых сообщений состоит из независимых букв Si. Вероятности появления каждой буквы в сообщении заданы. Определить и сравнить эффективность кодирования сообщений методом Хаффмана при побуквенном кодировании и при кодировании блоками по две буквы.

41 (0,6;0,2;0,08;0,12) 46 (0,7;0,2;0,06;0,04) 42 (0,7;0,1;0,07;0,13) 47 (0,6;0,3;0,08;0,02) 43 (0,8;0,1;0,07;0,03) 48 (0,5;0,2;0,11;0,19) 44 (0,5;0,3;0,04;0,16) 49 (0,5;0,4;0,08;0,02) 45 (0,6;0,2;0,05;0,15) 50 (0,7;0,2;0,06;0,04) 51 – 60. Декодировать полученное сообщение c, если известно, что использовался (7, 4) – код Хэмминга. Провести кодирование кодом с проверкой четности.

61 – 70. Определить пропускную способность канала связи, по которому передаются сигналы Si. Помехи в канале определяются матрицей условных вероятностей P(Sj / Si). За секунду может быть передано N = 10 сигналов.

Сдача зачета – 2 з.е.

Защита реферата – 0,5 з.е.

Распределение баллов рейтинга:

по тематике дисциплины

ОБРАЗОВАТЕЛЬНЫЕ ТЕХНОЛОГИИ

При реализации аудиторной учебной работы используются следующие интерактивные образовательные технологии:

презентации с использованием различных вспомогательных средств:

мультимедийной презентации, раздаточных материалов, видеофильмов, слайдов;

деловые игры;

«мозговой штурм»;

выступление в роли обучающего;

контрольный тест.

При реализации самостоятельной учебной работы используются следующие интерактивные образовательные технологии:

работа в группах;

разработка проекта.

Использование указанных интерактивных методов обучения позволяет:

пробуждать у обучающихся интерес к знаниям, умениям и навыкам, формируемым в процессе освоения данной дисциплины;

поощрять активное участие каждого в учебном процессе;

повышать эффективность усвоения учебного материала;

осуществлять обратную связь (ответная реакция аудитории);

формировать у обучающихся мнения, отношения, жизненные навыки.

10. Оценочные средства для текущего контроля успеваемости, промежуточной аттестации по итогам освоения дисциплины и учебнометодическое обеспечение самостоятельной работы студентов Оценочными средствами для проведения текущего контроля успеваемости и контроля самостоятельной работы студентов являются: контрольные вопросы для практических занятий, тесты, контрольные работы, домашние задания, рефераты (презентации).

УЧЕБНО-МЕТОДИЧЕСКОЕ ОБЕСПЕЧЕНИЕ ДИСЦИПЛИНЫ

Студенту доступна любая книга из межбиблиотечной компьютерной системы Екатеринбурга и Свердловской области и электронные журналы.

Основная литература Информатика [Текст] : учебник / В. В. Трофимов [и др.] ;

под ред. В. В. Трофимова ; С.Петерб. гос. ун-т экономики и финансов. - М. : Юрайт, 2011.

- 911 с. : ил. - (Основы наук). Библиогр. в конце разд.

Информатика [Текст] : учебник / В. В. Трофимов [и др.] ;

под ред. В. В. Трофимова ; С.Петерб. гос. ун-т экономики и финансов (СПбГУЭФ). - М. :

Юрайт : Высшее образование, 2010. - 911 с. : ил. - (Университеты России) (Высшее образование). - Библиогр. в конце Основы теории информации [Текст] : учебное пособие / Г.

И. Хохлов. - М. : Академия, Информатика 2002/ А. П.

Алексеев. - М.: СОЛОН-Р, 2002. - 400 с.: ил.. - Библиогр.:

с. 394. электронное обеспечение Информатика. Базовый курс:

учеб. пособие для втузов/ под ред. С. В. Симоновича. - 2-е изд.. - СПб.: Питер, 2005. - с.: ил.. - (Учебник для вузов). Библиогр.: с. 631. электронное обеспечение Дополнительная литература Информатика. Учебник / Под ред. проф. Макаровой.- М.:

И74 Финансы и статистика, 2001. - 768с.

Элементы систем автоматики [Текст] : учебное пособие для студентов вузов, обучающихся по специальности "Электропривод и автоматика пром. установок и технолог.

комплексов" направления подготовки 140600 "Электротехника, электромеханика и электротехнологии" / А. М.

Водовозов. - 2-е изд., стер. М. : Академия, 2008. - 224 с. Высшее профессиональное образование. Электротехника). - Библиогр.: с. 217.

Максимально возможный балл по виду учебной работы Перечень и содержание тем учебной дисциях Тема 1. Теория информации. Базовые понятия теории информации Шеннона связи Тема 4. Кодирование информации чивых кодов чету

ТРЕБОВАНИЯ К РЕСУРСАМ

1. Оснащение лекционных аудиторий.

интерактивная доска + ноутбук (по возможности).

2. Лабораторная база.

Компьютерный класс, оснащенный компьютерами со следующими характеристиками:

Pentium 4, CPU 2,8 GHz, DDR 512 Mb, HDD 40 Gb Сервер Pentium 4, CPU 2,8 GHz, DDR 512 Mb, HDD 40 Gb Принтер HP LaserJet 3. Программное обеспечение.

Операционная среда Window NT Программная среда для тестирования (АСКО, FEPO)

ЛИСТ ИЗМЕНЕНИЙ

ИСКЛЮЧИТЬ ДОБАВИТЬ

Изменения внес преподаватель _ Внесенные изменения утверждаю Зав кафедрой