무손실 압축같은 분야에서 애용되는 기법으로
여기서 엔트로피(entropy)는
<통신> 정보량의 기대치를 이르는 말. [비슷한 말] 평균 정보량.
이라는 의미로 사용된다.
말그대로 기대되는 정보량에대해 부호화(encoding)을 한다는것이다.
예를들면
10001010110101001111010100000
같은걸
1(0, 3개)(10,2개)1(10,2개).....(0,5개)
와 같이 부호화 해준다는 거다.
대표적 엔트로피 인코딩 기법으론 허프만 부호화
, 범위 부호화
와 산술 부호화
, 런 렝스 코딩
등이 있다.