serverToHdfs
Definition
์๋ฒ์ ์์นํ ํ์ผ์ HDFS๋ก ๋ณต์ฌํ๋ ๋ ธ๋์ด๋ค. [Flow๊ตฌ์ฑ]๋ ธ๋ ์ค [serverToHdfs]๋ ธ๋๋ฅผ drag & drop ํ ํ Property ํญ๋ชฉ์ ์ ๋ ฅํ๋ค.
Set
[setting], [scheduler], [parameter] ์ค์ ์ [์ํฌํ๋ก์ฐ ์์ฑ] > [์ค์ ]์ ์ฐธ๊ณ ํ๋ค.
property
[Node Description] ์์ฑ ์ค์ธ ๋ ธ๋๋ช ์ ๋ ฅ
- ์๊ฒฉ ์๋ฒ IP : IP์ฃผ์์ Port์ ๋ณด๋ฅผ ์
๋ ฅํ๋ค. [์ฐ๊ฒฐ๊ด๋ฆฌ] ์ ๋ชฉ ์ฐ์ธก์ [๋ชฉ๋ก์ด๊ธฐ] ๋ฒํผ์ ๋๋ฌ ๊ธฐ์ ์ฅ๋ ์๊ฒฉ์๋ฒ ์ ๋ณด๋ฅผ ์ ํํ ์ ์๋ค.
- IP์ฃผ์ : ์๋ฒ IP
- PORT : ์๋ฒ PORT
- sourceFolder : source ํ์ผ ๊ฒฝ๋ก ec) /home/dpcore
- sourceFile : source ํ์ผ ๋ช ex) target.csv
- user : SSH User ID
- password : SSH User Password
- hdfsFilePath : ์ ์ฅํ HDFS ๊ฒฝ๋ก ex) /tmp
Example
์๊ฒฉ์๋ฒ /home/dpcore ๊ฒฝ๋ก์ ์์นํ servertohdfs.csvํ์ผ์ HDFS์ ์ ์ฌํ๊ณ ์ ํ๋ค.
- ๋ชฉ๋ก์ด๊ธฐ ๋ฒํผ์ ํ์ฉํ์ฌ ์๊ฒฉ์๋ฒ ์ ๋ณด๋ฅผ ์ ํํ๋ค. ์๋ฒ์ ๋ณด๋ฅผ ์ ํํ๋ฉด [์๊ฒฉ์๋ฒIP], [user], [passwird]๊ฐ ์๋ ์ ๋ ฅ๋๋ค. ์๊ฒฉ์๋ฒ ๋ฑ๋ก๋ฐฉ๋ฒ์ ๋งค๋ด์ผ [์๊ฒฉ์๋ฒ๊ด๋ฆฌ]๋ฅผ ์ฐธ๊ณ ํ๋ค.
- sourceFolder์ "/home/dpcore"๋ฅผ sourceFile์ "servertohdfs.csv"๋ฅผ ์ ๋ ฅํ๋ค.
- hdfsFilePath ์ ๋ณด๋ฅผ ์ ๋ ฅํ๋ค. [๋ธ๋ผ์ฐ์ ] > [HDFS๋ธ๋ผ์ฐ์ ]๋ก ์ด๋ํ์ฌ ํด๋ฌ์คํฐ์ ์ ์ฅ๊ฒฝ๋ก๋ฅผ ์ ํํ ํ ์ฐ์ธก ์๋จ์ [HDFS ๊ฒฝ๋ก ๋ณต์ฌ]๋ฅผ ์ ํํ๋ค. HDFS๊ฒฝ๋ก๊ฐ ์๋ ๋ณต์ฌ๋๋ค.
์ํฌํ๋ก์ฐ ์คํ๊ฒฐ๊ณผ๋ ์๋์ ๊ฐ๋ค.