Lý thuyết thông tin

Nó xác định có bao nhiêu thông tin trong một thông điệp, và các ký hiệu tạo nên thông điệp đó có thể xuất hiện với xác suất bằng bao nhiêu.
Tại sao nó lại quan trọng?
Đó là phương trình mở ra thời đại thông tin. Nó xác lập các giới hạn về hiệu quả truyền thông, cho phép các kỹ sư dừng tìm kiếm các mã quá hiệu quả không thể tồn tại. Nó là co sở đối với truyền thông số ngày hôm nay - điện thoại, đĩa CD, DVD, internet.
Nó đã dẫn tới những gì?
Các mã phát hiện sai và sửa sai hiệu quả được dùng trong mọi thứ, từ các đĩa CD tới các con tàu thăm dò không gian. Các ứng dụng bao gồm: thống kê, trí tuệ nhân tạo, mật mã học, rút ra ý nghĩa của các chuỗi ADN.