hdfsToIcos

Definition

HDFS ํŒŒ์ผ/ํด๋”๋ฅผ ICOS์— ๋ณต์‚ฌ ํ•˜๋Š” ๋…ธ๋“œ์ž…๋‹ˆ๋‹ค.
์ขŒ์ธก [Flow๊ตฌ์„ฑ]๋…ธ๋“œ ์ค‘ [hdfsToIcos]๋…ธ๋“œ๋ฅผ drag & drop ํ•œ ํ›„ Property ํ•ญ๋ชฉ์„ ์ž…๋ ฅํ•ฉ๋‹ˆ๋‹ค. Property ํŒจ๋„์˜ [๋”๋ณด๊ธฐ+] ๋ฒ„ํŠผ์„ ๋ˆ„๋ฅด๋ฉด ์ž…๋ ฅ๊ฐ€๋Šฅํ•œ ์ „์ฒด Property ํ•ญ๋ชฉ์„ ๋ณผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Set

[setting], [scheduler], [parameter] ์„ค์ •์€ [์›Œํฌํ”Œ๋กœ์šฐ] > [์ƒ์„ฑ] > [๊ธฐ๋ณธ๊ตฌ์„ฑ]์„ ์ฐธ๊ณ ํ•ฉ๋‹ˆ๋‹ค.

property

[Node Description] ์ž‘์„ฑ ์ค‘์ธ ๋…ธ๋“œ๋ช… ์ž…๋ ฅ

hdfstoicos01

  1. HDFS ํŒŒ์ผ ๊ฒฝ๋กœ(๋ถˆ๋Ÿฌ์˜ค๊ธฐ) : ์ด๋™ ๋Œ€์ƒ ํŒŒ์ผ์˜ HDFS ๊ฒฝ๋กœ
  2. ICOS ํŒŒ์ผ ๊ฒฝ๋กœ(์ €์žฅ๊ฒฝ๋กœ) : ์ €์žฅํ•  ํŒŒ์ผ์˜ ICOS ๊ฒฝ๋กœ ์„ ํƒ
  3. ETL ๊ฒฐ๊ณผํŒŒ์ผ ์—ฌ๋ถ€ : ETL ๋…ธ๋“œ๋ฅผ ํ†ตํ•ด ์ƒ์„ฑ๋œ ๋ชจ๋“  ํŒŒ์ผ์„ ๋Œ€์ƒ์œผ๋กœ ํ• ์ง€ ์—ฌ๋ถ€
    • HDFS ํŒŒ์ผ์„ ์•„๋ž˜์™€ ๊ฐ™์ด ์ž…๋ ฅํ•œ๊ฒฝ์šฐ, ํ•˜์œ„ part*ํ•ด๋‹นํŒŒ์ผ ๋ชจ๋‘ ์ด๋™
    • hdfs://OOO.OOO.OOO.OOO:8020/user/sample_user/source_data/
  4. Credential : ICOS ์—‘์„ธ์Šค ์ •๋ณด(ICOS ํŒŒ์ผ๊ฒฝ๋กœ ์„ ํƒ ์‹œ ์ž๋™ ์„ค์ •๋จ)

Example

hdfs์— ์ €์žฅ๋œ csvํŒŒ์ผ์„ icos๋กœ ์ด๋™ํ•˜๋Š” ์˜ˆ์ œ์ž…๋‹ˆ๋‹ค.

  1. setting ํŒจ๋„์—์„œ ์›Œํฌํ”Œ๋กœ์šฐ ์‹คํ–‰ ํด๋Ÿฌ์Šคํ„ฐ ์„ ํƒ

  2. [1.HDFS ํŒŒ์ผ ๊ฒฝ๋กœ(๋ถˆ๋Ÿฌ์˜ค๊ธฐ)] property ์„ค์ • hdfstoicos02

  3. [2.ICOS ํŒŒ์ผ ๊ฒฝ๋กœ(์ €์žฅ๊ฒฝ๋กœ)] property ์„ค์ • hdfstoicos03

  4. [3.ETL ๊ฒฐ๊ณผํŒŒ์ผ์—ฌ๋ถ€]๋Š” FALSE๋กœ ์„ ํƒ, [2.ICOS ํŒŒ์ผ ๊ฒฝ๋กœ(์ €์žฅ๊ฒฝ๋กœ)] ์„ค์ •ํ•˜๋ฉด [4.credential] ํ•ญ๋ชฉ์€ ์ž๋™ ์„ค์ • hdfstoicos04

  5. ์›Œํฌํ”Œ๋กœ์šฐ ์ €์žฅ ๋ฐ ์‹คํ–‰ ํ›„ ICOS ์Šคํ† ๋ฆฌ์ง€์— csvํŒŒ์ผ ์ €์žฅ ํ™•์ธ hdfstoicos05