Không tồn tại thuật toán nén được mọi tệp: nếu chuỗi nào cũng ngắn đi thì phải có hai chuỗi khác nhau cho cùng một kết quả, và lúc giải nén không biết chọn cái nào. Giới hạn thật nằm ở entropy Shannon của phân bố ký hiệu. Khi một ký hiệu chiếm áp đảo, cây Huffman lệch hẳn một bên và ký hiệu đó nhận mã chỉ một bit; khi mọi ký hiệu xuất hiện ngang nhau, entropy chạm trần log₂N nên mã dài bằng nhau và gần như không lời. Ảnh với âm thanh đi xa hơn được là nhờ vứt bớt chi tiết mà mắt và tai khó nhận ra.
Không tồn tại thuật toán nén được mọi tệp: nếu chuỗi nào cũng ngắn đi thì phải có hai chuỗi khác nhau cho cùng một kết quả, và lúc giải nén không biết chọn cái nào. Giới hạn thật nằm ở entropy Shannon của phân bố ký hiệu. Khi một ký hiệu chiếm áp đảo, cây Huffman lệch hẳn một bên và ký hiệu đó nhận mã chỉ một bit; khi mọi ký hiệu xuất hiện ngang nhau, entropy chạm trần log₂N nên mã dài bằng nhau và gần như không lời. Ảnh với âm thanh đi xa hơn được là nhờ vứt bớt chi tiết mà mắt và tai khó nhận ra.
Chủ đề liên quan trong Tư duy & Máy