MAP side join in spark гэж юу вэ?
MAP side join in spark гэж юу вэ?

Видео: MAP side join in spark гэж юу вэ?

Видео: MAP side join in spark гэж юу вэ?
Видео: How to enter the new MERMAID TOWN | SAKURA SCHOOL SIMULATOR | Version 1.038.14 2024, May
Anonim

Газрын зургийн хажуугаар нэгдэх хаана үйл явц юм нэгддэг хоёр хүснэгтийн хооронд хийгддэг Газрын зураг Reduce фазын оролцоогүйгээр үе шат. Газрын зураг - тал нэгддэг Хүснэгтийг санах ойд ачаалах боломжийг олгодог бөгөөд энэ нь маш хурдан ажиллах боломжийг олгодог нэгдэх үйл ажиллагаа нь бүхэлдээ зурагчны дотор хийгдсэн бөгөөд хоёуланг нь ашиглах шаардлагагүй газрын зураг болон үе шатуудыг багасгах.

Мөн MAP хажуугийн нэгдэх ба багасгах хажуугийн нэгдэл гэж юу болохыг мэдэх үү?

Газрын зургийн хажуугаар нэгдэх нэг өгөгдлийн багц том, нөгөө өгөгдлийн багц нь бага байх үед ихэвчлэн ашиглагддаг. Харин Хажуугийн холболтыг багасгах чадна нэгдэх том өгөгдлийн багц хоёулаа. The Газрын зургийн хажуугаар нэгдэх өмнөх шиг бүх зураглагчид дуусахыг хүлээх шаардлагагүй тул илүү хурдан байдаг бууруулагч . Тиймээс хажуугийн холболтыг багасгах удаан байна.

MAP талын нэгдэл ашиглахын давуу тал юу вэ? Газрын зургийн хажуугийн нэгдлийг ашиглахын давуу тал : Газрын зураг - хажуугийн нэгдэл Холимог болон үе шатыг багасгахад ангилах, нэгтгэхэд гарах зардлыг багасгахад тусалдаг. Газрын зураг - хажуугийн нэгдэл Мөн даалгаврыг дуусгах хугацааг багасгах замаар даалгаврын гүйцэтгэлийг сайжруулахад тусалдаг.

Дараа нь "Spark" гэж юу вэ гэдэг асуулт гарч ирнэ.

Оч SQL ашигладаг нэвтрүүлэгт нэгдэх (aka нэвтрүүлэг хэш нэгдэх ) хэшийн оронд нэгдэх оновчтой болгох нэгдэх нэг талын өгөгдлийн хэмжээ доор байх үед асуулга оч . Энэ нь том хүснэгтийн бүх өгөгдлийг сүлжээгээр дамжуулахаас зайлсхийх боломжтой.

Өргөн нэвтрүүлгийн нэгдэл гэж юу вэ?

Нэвтрүүлэг нэгдэж байна Үнэний өгөгдлийн файлуудын харьцангуй жижиг нэг эх сурвалжид хадгалагдсан өгөгдлийг том DataFrames-д хавсаргах гайхалтай арга юм. 2 ГБ хүртэлх DataFrames дамжуулах боломжтой тул хэдэн арван, бүр хэдэн зуун мянган мөр бүхий өгөгдлийн файл нь нэвтрүүлэг нэр дэвшигч.

Зөвлөмж болгож буй: