Энтропийн мэдээллийн олз гэж юу вэ?
Энтропийн мэдээллийн олз гэж юу вэ?

Видео: Энтропийн мэдээллийн олз гэж юу вэ?

Видео: Энтропийн мэдээллийн олз гэж юу вэ?
Видео: Мэдээллийн энтропи | Мэдээллийн онол руу аялал | Компьютерийн шинжлэх ухаан | Хан академи 2024, Арваннэгдүгээр
Anonim

Мэдээллийн олз = хэр их Энтропи бид хассан, тэгэхээр

Энэ нь утга учиртай: илүү өндөр Мэдээллийн олз = илүү Энтропи устгасан нь бидний хүсч байгаа зүйл юм. Төгс тохиолдолд салбар бүр нь хуваагдсаны дараа зөвхөн нэг өнгө байх бөгөөд энэ нь тэг болно энтропи !

Үүнээс гадна шийдвэрийн модонд мэдээллийн олз, энтропи гэж юу вэ?

Мэдээллийн олз : The мэдээлэл олж авах -ийн бууралт дээр суурилдаг энтропи өгөгдлийн багцыг шинж чанарт хуваасны дараа. Барилга барих a шийдвэрийн мод Энэ нь хамгийн ихийг буцаадаг шинж чанарыг олох явдал юм мэдээлэл олж авах (өөрөөр хэлбэл, хамгийн нэгэн төрлийн салбарууд). Алхам 1: Тооцоолох энтропи зорилтот.

Үүний нэгэн адил өгөгдөл дэх энтропи гэж юу вэ? Мэдээлэл энтропи нь стохастик эх сурвалжаас мэдээлэл үйлдвэрлэх дундаж хурд юм өгөгдөл . Мэдээллийн хэмжүүр энтропи боломж бүртэй холбоотой өгөгдөл утга нь утгын магадлалын массын функцийн сөрөг логарифм юм: энд магадлалаар тодорхойлогдсон хүлээлт байна.

Үүнтэй холбогдуулан мэдээлэл олж авах нь юу гэсэн үг вэ?

Мэдээллийн ашиг өгөгдлийн багцыг ямар нэг байдлаар хувиргаснаар энтропи эсвэл гэнэтийн бууралтыг тооцдог. Мэдээллийн ашиг Энэ нь өгөгдлийн багцыг хувиргах замаар энтропи буюу гэнэтийн бууралт бөгөөд шийдвэрийн мод бэлтгэхэд ихэвчлэн ашиглагддаг.

Шийдвэрлэх модонд энтропийн тодорхойлолт аль нь вэ?

Тодорхойлолт : Энтропи бохирдол, эмх замбараагүй байдал, тодорхойгүй байдлын хэмжүүрүүд нь олон жишээн дээр байдаг.

Зөвлөмж болгож буй: