Министерство образования и науки Российской Федерации
ФГБОУ ВПО «Уральский государственный лесотехнический
университет»
Кафедра Информационных технологий и моделирования
Одобрена: Утверждаю:
кафедра ИТиМ Декан ФЭУ
протокол от 11.01.2012 г. № 6 _ В.П. Часовских
/Зав.кафедрой _ В.А. Попов «30» мая 2012 г Методической комиссией ФЭУ протокол от 14.05.2012 г. № 34 Председатель Д.Ю. Захаров
ПРОГРАММА УЧЕБНОЙ ДИСЦИПЛИНЫ
Б1.В.1 «Теория информации и кодирования»Направление подготовки: 230700.62 – Прикладная информатика Квалификация – бакалавр прикладной информатики Количество зачетных единиц (Трудоемкость, час) – 2 з.е. (72 ч.) Разработчик программы Екатеринбург 2012 г.
СОДЕРЖАНИЕ
СодержаниеПояснительная записка
Введение
Цели и задачи дисциплины
МЕСТО ДИСЦИПЛИНЫ В УЧЕБНОМ ПРОЦЕССЕ
ПО НАПРАВЛЕНИЮ 230700
Требования к знаниям, владениям и навыкам
ТЕМАТИЧЕСКИЙ ПЛАН ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ И
КОДИРОВАНИЯ»
СОДЕРЖАНИЕ РАЗДЕЛОВ И ТЕМ ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ И
КОДИРОВАНИЯ»Перечень и содержание практических и лабораторных занятий
САМОСТОЯТЕЛЬНАЯ РАБОТА ОБУЧАЮЩИХСЯ
Примерные контрольные задания по дисциплине
Учебно-методическое обеспечение дисциплины
Лист контрольных мероприятий………………………………………………………………. Требования к ресурсам
Лист изменений
Затраты времени обучающегося на изучение дисциплины Затраты времени при форме Вид учебных занятий учебных занятий очная заочная Аудиторные всего, 36 в том числе:
лекции 18 практические занятия 18 Самостоятельные всего, 36 в том числе:
текущая проработка лекций 10 подготовка к практическим занятиям 10 написание реферата 10 подготовка к зачету 6 Всего по учебному плану 72 1. Пояснительная записка
ВВЕДЕНИЕ
Рабочая программа составлена на основании Федерального государственного образовательного стандарта высшего профессионального образования и с учетом рекомендаций Примерной основной образовательной программы по направлению подготовки бакалавров 230700.62 «Прикладная информатика».Актуальность дисциплины: дисциплина «Теория информации и кодирования» дает возможность расширения и (или) углубления знаний, умений и навыков, определяемых содержанием базовых (обязательных) дисциплин (модулей), позволяет студенту получить углубленные знания и навыки для успешной профессиональной деятельности и (или) для продолжения профессионального образования в магистратуре.
Область применения: эффективное и надежное функционирование информационных систем невозможно без знания основных теоретических принципов получения, преобразования, передачи, хранения и представления информации. Изучение этих принципов и составляет основное содержание дисциплины «Теория информации и кодирования». Теория информации и кодирования исследует общие закономерности информационных процессов, позволяет оценить качество функционирования информационных систем.
Дисциплина «Теория информации и кодирования» относится к вариативной части, которая опирается на ряд специальных дисциплин.
При очной форме обучения по дисциплине предусмотрены прослушивание лекций, выполнение практических заданий, написание реферата и сдача зачета. Дисциплина изучается во 2 семестре 1 курса.
ЦЕЛИ И ЗАДАЧИ ДИСЦИПЛИНЫ
Целью дисциплины «Теория информации и кодирования информации»призван содействовать знакомству и более углубленному изучению студентов с понятиями и методами теории информации и кодирования информации, а также овладение такими, понятиями об энтропии и количественных мерах измерения информации, основными теоремами теории информации для дискретных каналов связи, сведениями о принципах оптимального и помехоустойчивого кодирования.
Бакалавр по направлению 230700.62 «Прикладная информатика» должен решать следующие профессиональные задачи в соответствии с видами профессиональной деятельности:
педагогическая деятельность:
проведение обследования прикладной области в соответствии с профилем подготовки;
моделирование прикладных и информационных процессов;
формирование требований к информатизации и автоматизации прикладных процессов;
технико-экономического обоснование проектных решений, составление технических заданий на автоматизацию и информатизацию решения прикладных задач.
производственно-технологическая деятельность;
автоматизированное решение прикладных задач операционного и аналитического характера;
информационное обеспечение прикладных процессов.
организационно-управленческая деятельность:
участие в организации и управлении информационными процессами;
использование функциональных и технологических стандартов.
аналитическая деятельность:
анализ прикладных процессов, разработка вариантов автоматизированного решения прикладных задач;
анализ и выбор методов и средств автоматизации и информатизации прикладных процессов на основе современных информационно-коммуникационных технологий;
научно-исследовательская деятельность:
применение системного подхода к автоматизации и информатизации решения прикладных задач;
подготовка обзоров, аннотаций, составление рефератов, научных докладов, публикаций, и библиографии по научно-исследовательской работе в области прикладной информатики.
Выпускник должен обладать следующими общекультурными компетенциями (ОК):
ОК-1: способен использовать, обобщать и анализировать информацию, ставить цели и находить пути их достижения в условиях формирования и развития информационного общества;
ОК-2: логически верно, аргументировано и ясно строить устную и письменную речь, владеть навыками ведения дискуссии и полемики.
ОК-5: способен самостоятельно приобретать и использовать в практической деятельности новые знания и умения, стремится к саморазвитию;
ОК-7: способен понимать сущность и проблемы развития современного информационного общества;
ОК-13: способность понимать сущность и значение информации в развитии современного информационного общества, сознавать опасности и угрозы, возникающие в этом процессе, соблюдать основные требования информационной безопасности, в том числе защиты государственной тайны.
Выпускник должен обладать следующими профессиональными компетенциями (ПК):
общепрофессиональными:
ПК-2: способен при решении профессиональных задач анализировать социально-экономические проблемы и процессы с применением методов системного анализа и математического моделирования.
ПК-3: способен использовать основные законы естественнонаучных дисциплин в профессиональной деятельности и эксплуатировать современное электронное оборудование и информационно коммуникационные технологии в соответствии с целями образовательной программы бакалавра;
проектная деятельность:
ПК-4: способен ставить и решать прикладные задачи с использованием современных информационно-коммуникационных технологий;
ПК-5: способен осуществлять и обосновывать выбор проектных решений по видам обеспечения информационных систем;
ПК-9: способен моделировать и проектировать структуры данных и знаний, прикладные и информационные процессы.
аналитическая деятельность:
ПК-18: способен анализировать и выбирать методы и средства обеспечения информационной безопасности;
ПК-20: способен выбирать необходимые для организации информационные ресурсы и источники знаний в электронной среде.
научно-исследовательская деятельность:
ПК-21: способен применять системный подход и математические методы в формализации решения прикладных задач;
ПК-22: способен готовить обзоры научной литературы и электронных информационно-образовательных ресурсов для профессиональной деятельности.
МЕСТО ДИСЦИПЛИНЫ В УЧЕБНОМ ПРОЦЕССЕ
До начала изучения дисциплины студент должен:Знать основные понятия и свойства информации, математику, основы математической логики;
Уметь грамотно работать на персональном компьютере;
Иметь представление об основных терминах и понятиях данных, информации, знаниях.
После окончания изучения дисциплины студент должен:
Знать: основные понятия и теоремы теории информации и кодирования;
Уметь: использовать основные теоретические принципы теории информации и кодирования для обеспечения эффективной и надежной передачи информации;
Иметь представление о различных алгоритмах и методах кодирования;
об основных алгоритмах сжатия информации;
Владеть получением количественных оценок информации, расчета информационных характеристик основных элементов систем передачи информации, построения кодов
ПРИМЕРНЫЙ ПЕРЕЧЕНЬ ПРАКТИЧЕСКИХ ЗАНЯТИЙ
информации. Основная теорема о кодировании при отсутствии помех. Метод блокирования. Метод Шеннона-Фэно. Арифметическое кодирование;особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS. Сжатие данных с потерями без ущерба для конфиденциальной и основную теорему о кодировании при наличии помех. Помехозащитное кодирование. Коды с исправлением и обнаружением ошибок.
обобщать и анализировать информацию, ставить цели и находить пути их достижения в сфере прикладной информатики;
логически верно, аргументировано и ясно строить устную и письменную речь, владеть навыками ведения дискуссии и полемики в сфере прикладной информатики;
самостоятельно приобретать и использовать в практической деятельности новые знания и умения, стремится к саморазвитию;
применять последовательные коды, матричное кодирование, групповой код;
определять минимальное расстояние между кодовыми словами которых равно заданному числу;
понимать сущность и проблемы развития современного информационного общества;
понимать сущность и значение информации в развитии современного информационного общества, сознавать опасности и угрозы, возникающие в этом процессе, соблюдать основные требования информационной безопасности, в том числе защиты государственной тайны;
Владеть:
решением профессиональных задач анализировать социально-экономические проблемы и процессы с применением методов системного анализа и математического моделирования.
основными законами естественнонаучных дисциплин в профессиональной деятельности и эксплуатировать современное электронное оборудование и информационно коммуникационные технологии;
методами и средствами обеспечения информационной безопасности;
необходимыми для организации информационными ресурсами и источниками знаний в электронной среде;
системным подходом и математическими методами в формализации решения прикладных задач;
умением готовить обзоры научной литературы и электронных информационнообразовательных ресурсов для профессиональной деятельности.
ТЕМАТИЧЕСКИЙ ПЛАН ДИСЦИПЛИНЫ «ТЕОРИЯ ИНФОРМАЦИИ
И КОДИРОВАНИЯ»
дела компег) ОК-2 информации. Теория инОК-7 формации рассматривается как существенная часть кибернетики. Характеристики непрерывной и редачи информации. Схема передачи информации.практике. Базовые понятия: информация, канал ПК-20 кодировании при отсутПК-20 ствии помех. Метод блокирования.
3. ОК-1 Математическая модель ОК-7 исправлением ошибок.
ПК-4 формы представления деПК-22 терминированных сигналов.
4. ОК-1 Кодирование информаОК-2 ции.
ОК-5 Основные задачи кодироОК-7 вания. Эффективное и ПК-5 вании. Эффективные коПК-20 ды: код Шеннона-Фано, ПК-20 код Хаффмана, и их хаПК-22 рактеристики.
ПК-18 вторением, код Хэмминга.
СОДЕРЖАНИЕ РАЗДЕЛОВ И ТЕМ ДИСЦИПЛИНЫ «ТЕОРИЯ
ИНФОРМАЦИИ И КОДИРОВАНИЯ»
Раздел 1. Теория информации. Базовые понятия теории информации.1.1. Теория информации рассматривается как существенная часть кибернетики. Характеристики непрерывной и дискретной информации.
1.2. Принципы хранения, измерения, обработки и передачи информации. Схема передачи информации. Сущность работы ЦВМ и АВМ и их применение на практике.
1.3. Базовые понятия: информация, канал связи, шум, кодирование Раздел 2. Энтропия Шеннона.
2.1 Энтропия дискретной случайной величины. Понятие префиксного кодирования.
2.2 Сжатие информации. Основная теорема о кодировании при отсутствии помех.
2.3 Метод блокирования.
Раздел 3. Математическая модель системы связи.
3.1 Коды с исправлением ошибок. Коды с обнаружением ошибок.
3.2 Понятие сигнала и его модели. Различные формы представления детерминированных сигналов.
Раздел 4. Кодирование информации.
4.1 Основные задачи кодирования.
4.2 Эффективное и помехоустойчивое кодирование. Основные теоремы Шеннона о 4.3 Эффективные коды: код Шеннона-Фано, код Хаффмана, и их характеристики.
Раздел 5. Методики построения помехоустойчивых кодов.
5.1 Код с проверкой четности, код с тройным повторением, код Хэмминга.
ПЕРЕЧЕНЬ И СОДЕРЖАНИЕ ПРАКТИЧЕСКИХ И ЛАБОРАТОРНЫХ
ЗАНЯТИЙ
теории информации Раздел 2. Энтро- Формы предпия Шеннона ставленияСАМОСТОЯТЕЛЬНАЯ РАБОТА ОБУЧАЮЩИХСЯ
Самостоятельная работа студентов по изучаемой дисциплине призвана, не только, закреплять и углублять знания, полученные во время аудиторных занятий, но и способствовать развитию у студентов творческих навыков, инициативы, умению организовывать свое время.Все виды самостоятельной работы и планируемые на их выполнение затраты времени в часах исходят из того, что студент достаточно активно работал в аудитории, слушая лекции и решая задачи на практических занятиях. В случае пропуска лекций и практических занятий студенту потребуется сверхнормативное время на освоение пропущенного материала.
На самостоятельную работу студентов выносится: изучение лекционного материала (18 часов), подготовка к проведению практических занятий ( часов), написание реферата (10 часов), подготовка к зачету (6 часа).
Форма зачета: зачет по учебной дисциплине проводится при предъявлении конспекта лекций по теоретической части курса, при наличии выполненных практических заданий, написания реферата, а также при выполнении текущих контрольных мероприятий.
1. Теория информации. Базовые понятия теории информации.
2. Способы измерения информации. Вероятностный подход к измерению дискретной и непрерывной информации.
3. Понятие энтропии. Энтропия дискретной случайной величины.
4. Понятие префиксного кодирования. Сжатие информации. Основная теорема о кодировании при отсутствии помех.
5. Метод блокирования.
6. Метод Шеннона-Фэно.
7. Арифметическое кодирование.
8. Адаптивные алгоритмы сжатия информации. Адаптивное арифметическое кодирование.
9. Алгоритмы LZ77, LZ78, LZSS, LZW.
10. Особенности программ архиваторов. Непосредственное применение алгоритмов кодирования в архиваторах для обеспечения продуктивной работы в MS-DOS и WINDOWS.
11. Сжатие данных с потерями без ущерба для конфиденциальной и важной информации. Основная теорема о кодировании при наличии помех. Помехозащитное кодирование.
12. Коды с исправлением и обнаружением ошибок.
КОНТРОЛЬ РЕЗУЛЬТАТИВНОСТИ УЧЕБНОГО ПРОЦЕССА
ПО ДИСЦИПЛИНЕ
Текущий контроль учебного процесса заключается в проверке отчётов по практическим работам. Возможен опрос на лекциях для контроля знаний теоретического материала в виде тестирования. Оценивается также защита презентации по дисциплине. Промежуточный контроль проводится в форме экзамена по балльно-рейтинговой системе, принятой в вузе. Зачет проводится в виде теста по лекционному материалу, а также по практическим занятиям.Примерные контрольные задания по дисциплине 1 – 10. Определить количество информации (по Хартли), содержащееся в системе, информационная емкость которой характеризуется десятичным числом Q. Закодировать это число по двоичной системе счисления.
11 – 20. Определить среднее количество информации, содержащееся в сообщении, используемом три независимых символа S1, S2, S3. Известны вероятности появления символов p(S1)=p1, p(S2)=p2, p(S3)=p3. Оценить избыточность сообщения.
21 – 30. В условии предыдущей задачи учесть зависимость между символами, которая задана матрицей условных вероятностей P(Sj / Si).
31 – 40. Провести кодирование по одной и блоками по две буквы, используя метод Шеннона – Фано. Сравнить эффективности кодов. Данные взять из задач №11 –20.
41 – 50. Алфавит передаваемых сообщений состоит из независимых букв Si. Вероятности появления каждой буквы в сообщении заданы. Определить и сравнить эффективность кодирования сообщений методом Хаффмана при побуквенном кодировании и при кодировании блоками по две буквы.
41 (0,6;0,2;0,08;0,12) 46 (0,7;0,2;0,06;0,04) 42 (0,7;0,1;0,07;0,13) 47 (0,6;0,3;0,08;0,02) 43 (0,8;0,1;0,07;0,03) 48 (0,5;0,2;0,11;0,19) 44 (0,5;0,3;0,04;0,16) 49 (0,5;0,4;0,08;0,02) 45 (0,6;0,2;0,05;0,15) 50 (0,7;0,2;0,06;0,04) 51 – 60. Декодировать полученное сообщение c, если известно, что использовался (7, 4) – код Хэмминга. Провести кодирование кодом с проверкой четности.
61 – 70. Определить пропускную способность канала связи, по которому передаются сигналы Si. Помехи в канале определяются матрицей условных вероятностей P(Sj / Si). За секунду может быть передано N = 10 сигналов.
Сдача зачета – 2 з.е.
Защита реферата – 0,5 з.е.
Распределение баллов рейтинга:
по тематике дисциплины
ОБРАЗОВАТЕЛЬНЫЕ ТЕХНОЛОГИИ
При реализации аудиторной учебной работы используются следующие интерактивные образовательные технологии:презентации с использованием различных вспомогательных средств:
мультимедийной презентации, раздаточных материалов, видеофильмов, слайдов;
деловые игры;
«мозговой штурм»;
выступление в роли обучающего;
контрольный тест.
При реализации самостоятельной учебной работы используются следующие интерактивные образовательные технологии:
работа в группах;
разработка проекта.
Использование указанных интерактивных методов обучения позволяет:
пробуждать у обучающихся интерес к знаниям, умениям и навыкам, формируемым в процессе освоения данной дисциплины;
поощрять активное участие каждого в учебном процессе;
повышать эффективность усвоения учебного материала;
осуществлять обратную связь (ответная реакция аудитории);
формировать у обучающихся мнения, отношения, жизненные навыки.
10. Оценочные средства для текущего контроля успеваемости, промежуточной аттестации по итогам освоения дисциплины и учебнометодическое обеспечение самостоятельной работы студентов Оценочными средствами для проведения текущего контроля успеваемости и контроля самостоятельной работы студентов являются: контрольные вопросы для практических занятий, тесты, контрольные работы, домашние задания, рефераты (презентации).
УЧЕБНО-МЕТОДИЧЕСКОЕ ОБЕСПЕЧЕНИЕ ДИСЦИПЛИНЫ
Студенту доступна любая книга из межбиблиотечной компьютерной системы Екатеринбурга и Свердловской области и электронные журналы.Основная литература Информатика [Текст] : учебник / В. В. Трофимов [и др.] ;
под ред. В. В. Трофимова ; С.Петерб. гос. ун-т экономики и финансов. - М. : Юрайт, 2011.
- 911 с. : ил. - (Основы наук). Библиогр. в конце разд.
Информатика [Текст] : учебник / В. В. Трофимов [и др.] ;
под ред. В. В. Трофимова ; С.Петерб. гос. ун-т экономики и финансов (СПбГУЭФ). - М. :
Юрайт : Высшее образование, 2010. - 911 с. : ил. - (Университеты России) (Высшее образование). - Библиогр. в конце Основы теории информации [Текст] : учебное пособие / Г.
И. Хохлов. - М. : Академия, Информатика 2002/ А. П.
Алексеев. - М.: СОЛОН-Р, 2002. - 400 с.: ил.. - Библиогр.:
с. 394. электронное обеспечение Информатика. Базовый курс:
учеб. пособие для втузов/ под ред. С. В. Симоновича. - 2-е изд.. - СПб.: Питер, 2005. - с.: ил.. - (Учебник для вузов). Библиогр.: с. 631. электронное обеспечение Дополнительная литература Информатика. Учебник / Под ред. проф. Макаровой.- М.:
И74 Финансы и статистика, 2001. - 768с.
Элементы систем автоматики [Текст] : учебное пособие для студентов вузов, обучающихся по специальности "Электропривод и автоматика пром. установок и технолог.
комплексов" направления подготовки 140600 "Электротехника, электромеханика и электротехнологии" / А. М.
Водовозов. - 2-е изд., стер. М. : Академия, 2008. - 224 с. Высшее профессиональное образование. Электротехника). - Библиогр.: с. 217.
Максимально возможный балл по виду учебной работы Перечень и содержание тем учебной дисциях Тема 1. Теория информации. Базовые понятия теории информации Шеннона связи Тема 4. Кодирование информации чивых кодов чету
«