섀넌 부호화

데이터 압축 분야에서 섀넌 부호화는 작성자인 클로드 섀넌의 이름을 딴 무손실 데이터 압축 기술로 기호 집합과 그 확률(추정 또는 측정)에 기초한 프리픽스 코드를 구축합니다.이것은 Huffman 부호화처럼 가능한 가장 낮은 코드 워드 길이를 달성하지 못하고 섀넌-파노 부호화와는 전혀 비슷하지 않다는 점에서 차선책입니다.

이 방법은 최초의 방법이며, 1948년 샤논의 논문 "소통의 수학적 이론"^[1]에서 샤논의 잡음 부호화 정리를 증명하기 위해 사용되었으며, 따라서 정보 시대의 중심축이다.

이 부호화 방법은 정보 이론의 분야를 일으켰고, 그 기여가 없었다면 섀넌-파노 부호화, 허프만 부호화, 산술 부호화 등 많은 후계자가 세상에 존재하지 않았을 것이다.일상 생활의 대부분은 디지털 데이터에 의해 크게 영향을 받고 있으며, 섀넌 코딩과 그 방법의 지속적인 ^[2]진화가 없었다면 이것은 불가능했을 것입니다.

Shannon 부호화에서 심볼은 가장 가능성이 높은 것부터 가장 낮은 것 순으로 배열되며, 누적 확률 $\sum \limits _{k=1}^{i-1}p_{k}.$ $\sum \limits _{k=1}^{i-1}p_{k}.$ $\sum \limits _{k=1}^{i-1}p_{k}.$ - $\sum \limits _{k=1}^{i-1}p_{k}.$ i의 이진수 $\sum \limits _{k=1}^{i-1}p_{k}.$ 에서 첫 번째 $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ - $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ 2 $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ $⌉$ { $display l_{i$ } = \ left \ $lceil -$ \ $log _$ ${$ i } p_ ${i } 비트$ 를 $l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil$ 취함으로써 코드워드를 $\sum \limits _{k=1}^{i-1}p_{k}.$ 한다. $splaystyle \sum \sum _{k=1}^{i-1}p_{k}.$ } 여기서 $\sum \limits _{k=1}^{i-1}p_{k}.$ $\lceil x\rceil$ x ${\$ { display \ $lceil$ x \ $rceil$ }는 $\lceil x\rceil$ (x { $display$ style x }를 $x$ 다음 정수값으로 $반올림$ 하는) 천장함수를 나타냅니다 $.$