Коды Хаффмана: взгляд с точки зрения теории информации.

Коды Хаффмана — одно из важнейших открытий в области сжатия данных. При первом знакомстве с ними, задним числом, они кажутся почти очевидными, главным образом из-за простоты и элегантности алгоритма. Но за этим стоит история открытия кодов Хаффманом и развития этой идеи на основе ранних концепций теории информации, которая часто упускается из виду. Это видео посвящено тому, как теория информации вдохновила на создание первых алгоритмов сжатия данных, которые впоследствии заложили основу для знакового открытия Хаффмана. Исправления: В 9:34 энтропия была рассчитана с использованием логарифма по основанию 10 вместо ожидаемого логарифма по основанию 2. Правильные значения должны быть H(P) = 1,49 бит и H(P) = 0,47 бит. В 16:23 все логарифмы следует перевернуть, автор совсем забыл про знак минус. В 27:24 следовало сказать, что наименее вероятные символы должны иметь *самую длинную кодировку*. Это видео было бы невозможно без библиотеки с открытым исходным кодом manim, созданной 3blue1brown:https://github.com/3b1b/manim Вот ссылка на репозиторий, содержащий код, использованный для создания анимации в этом видео:https://github.com/nipunramk/Reducible Оригинал видео:https://www.youtube.com/watch?v=B3y0RsVCyrw Автор:Reducible