hdfsToIcos
Definition
HDFS ํ์ผ/ํด๋๋ฅผ ICOS์ ๋ณต์ฌ ํ๋ ๋
ธ๋์
๋๋ค.
์ข์ธก [Flow๊ตฌ์ฑ]๋
ธ๋ ์ค [hdfsToIcos]๋
ธ๋๋ฅผ drag & drop ํ ํ Property ํญ๋ชฉ์ ์
๋ ฅํฉ๋๋ค.
Property ํจ๋์ [๋๋ณด๊ธฐ+] ๋ฒํผ์ ๋๋ฅด๋ฉด ์
๋ ฅ๊ฐ๋ฅํ ์ ์ฒด Property ํญ๋ชฉ์ ๋ณผ ์ ์์ต๋๋ค.
Set
[setting], [scheduler], [parameter] ์ค์ ์ [์ํฌํ๋ก์ฐ] > [์์ฑ] > [๊ธฐ๋ณธ๊ตฌ์ฑ]์ ์ฐธ๊ณ ํฉ๋๋ค.
property
[Node Description] ์์ฑ ์ค์ธ ๋ ธ๋๋ช ์ ๋ ฅ
- HDFS ํ์ผ ๊ฒฝ๋ก(๋ถ๋ฌ์ค๊ธฐ) : ์ด๋ ๋์ ํ์ผ์ HDFS ๊ฒฝ๋ก
- ICOS ํ์ผ ๊ฒฝ๋ก(์ ์ฅ๊ฒฝ๋ก) : ์ ์ฅํ ํ์ผ์ ICOS ๊ฒฝ๋ก ์ ํ
- ETL ๊ฒฐ๊ณผํ์ผ ์ฌ๋ถ : ETL ๋
ธ๋๋ฅผ ํตํด ์์ฑ๋ ๋ชจ๋ ํ์ผ์ ๋์์ผ๋ก ํ ์ง ์ฌ๋ถ
- HDFS ํ์ผ์ ์๋์ ๊ฐ์ด ์ ๋ ฅํ๊ฒฝ์ฐ, ํ์ part*ํด๋นํ์ผ ๋ชจ๋ ์ด๋
- hdfs://OOO.OOO.OOO.OOO:8020/user/sample_user/source_data/
- Credential : ICOS ์์ธ์ค ์ ๋ณด(ICOS ํ์ผ๊ฒฝ๋ก ์ ํ ์ ์๋ ์ค์ ๋จ)
Example
hdfs์ ์ ์ฅ๋ csvํ์ผ์ icos๋ก ์ด๋ํ๋ ์์ ์ ๋๋ค.
setting ํจ๋์์ ์ํฌํ๋ก์ฐ ์คํ ํด๋ฌ์คํฐ ์ ํ
[1.HDFS ํ์ผ ๊ฒฝ๋ก(๋ถ๋ฌ์ค๊ธฐ)] property ์ค์
[2.ICOS ํ์ผ ๊ฒฝ๋ก(์ ์ฅ๊ฒฝ๋ก)] property ์ค์
[3.ETL ๊ฒฐ๊ณผํ์ผ์ฌ๋ถ]๋ FALSE๋ก ์ ํ, [2.ICOS ํ์ผ ๊ฒฝ๋ก(์ ์ฅ๊ฒฝ๋ก)] ์ค์ ํ๋ฉด [4.credential] ํญ๋ชฉ์ ์๋ ์ค์
์ํฌํ๋ก์ฐ ์ ์ฅ ๋ฐ ์คํ ํ ICOS ์คํ ๋ฆฌ์ง์ csvํ์ผ ์ ์ฅ ํ์ธ