آنتروپی اطلاعات
از ویکیپدیا، دانشنامهٔ آزاد.
مفهوم اساسی آنتروپی اطلاعات در نظریه اطلاعات در ارتباط با این مطلب است که یک سیگنال یا یک رخداد اتفاقی تا حد تصادفی است. آنتروپی اطلاعات که به نام انتروپی شانون هم شناخته میشود (متاثر از نام Claude E. Shannon ریاضیدان امریکایی) در واقع میزان تصادفی بودن را به صورت یک سنجهٔ ریاضی گزارش میکند.

