hdfsToS3
Definition
HDFS ํ์ผ/ํด๋๋ฅผ S3์ ๋ณต์ฌ ํ๋ ๋
ธ๋์
๋๋ค.
์ข์ธก [Flow๊ตฌ์ฑ]๋
ธ๋ ์ค [hdfsToS3]๋
ธ๋๋ฅผ drag & drop ํ ํ Property ํญ๋ชฉ์ ์
๋ ฅํฉ๋๋ค.
Property ํจ๋์ [๋๋ณด๊ธฐ+] ๋ฒํผ์ ๋๋ฅด๋ฉด ์
๋ ฅ๊ฐ๋ฅํ ์ ์ฒด Property ํญ๋ชฉ์ ๋ณผ ์ ์์ต๋๋ค.
Set
[setting], [scheduler], [parameter] ์ค์ ์ [์ํฌํ๋ก์ฐ] > [์์ฑ] > [๊ธฐ๋ณธ๊ตฌ์ฑ]์ ์ฐธ๊ณ ํฉ๋๋ค.
property
[Node Description] ์์ฑ ์ค์ธ ๋ ธ๋๋ช ์ ๋ ฅ
- HDFS ํ์ผ ๊ฒฝ๋ก(๋ถ๋ฌ์ค๊ธฐ) : ๋ณต์ฌํ ํ์ผ ๊ฒฝ๋ก ์ ํ
- S3 ํ์ผ ๊ฒฝ๋ก(์ ์ฅ๊ฒฝ๋ก) : ์ ์ฅํ S3 ํ์ผ ๊ฒฝ๋ก ์ ํ
- ETL ๊ฒฐ๊ณผํ์ผ ์ฌ๋ถ : ETL ๊ฒฐ๊ณผํ์ผ์ ๋ก๋ํ๋ ค๋ ๊ฒฝ์ฐ์ True ์ ํ
- Credential : S3 ์์ธ์ค ์ ๋ณด(S3 ํ์ผ๊ฒฝ๋ก ์ ํ์ ์๋์ ํ ๋จ)
Example
HDFS ํ์ผ์ ์ ์ฌ๋ ๋ฐ์ดํฐ๋ฅผ S3์ ๋ณต์ฌํฉ๋๋ค.
- [1.hdfsํ์ผ๊ฒฝ๋ก(๋ถ๋ฌ์ค๊ธฐ)]์์ [ํ์ ์ด๊ธฐ] ๋ฒํผ์ ๋๋ฌ ํด๋ฌ์คํฐ์ ๋ฐ์ดํฐ ์ ํ
- [2.S3 ํ์ผ๊ฒฝ๋ก(์ ์ฅ๊ฒฝ๋ก)]์์ [ํ์
์ด๊ธฐ] ๋ฒํผ์ ๋๋ฌ Bucket ๋ฐ ์ ์ฅ๊ฒฝ๋ก ์ ํ, ์ฐ์ธก [Bucket๊ด๋ฆฌ] ๋ฒํผ์ ๋๋ฌ ๋ฒํท์ ์ถ๊ฐ ๊ฐ๋ฅ
- [Bucket๊ด๋ฆฌ] ๋ฒํผ์ ๋๋ฌ ์ ๊ท๋ฒํท ์์ฑ ๊ฐ๋ฅ
- [Bucket๊ด๋ฆฌ] ๋ฒํผ์ ๋๋ฌ ์ ๊ท๋ฒํท ์์ฑ ๊ฐ๋ฅ
- ETL ๊ฒฐ๊ณผํ์ผ ์ฌ๋ถ๋ True ์ ํ