Property

Property

๋ฐ์ดํ„ฐ ๋ถˆ๋Ÿฌ์˜ค๊ธฐ, ์ฒ˜๋ฆฌํ•˜๊ธฐ, ๋‚ด๋ณด๋‚ด๊ธฐ๋ฅผ ์ˆ˜ํ–‰ํ•˜๋Š” ETL ๋…ธ๋“œ์˜ ๊ฒฝ์šฐ ์ถ”๊ฐ€๋กœ property ์„ค์ •์„ ํ•  ์ˆ˜ ์žˆ๋‹ค.

  1. appName : ETL name์„ ์ •ํ•  ์ˆ˜ ์žˆ๋‹ค(ํ•„์ˆ˜).
  2. source : ์ž‘์„ฑ๋œ ์›Œํฌํ”Œ๋กœ์šฐ์— ๋Œ€ํ•œ pyspark ์†Œ์Šค๋ฅผ ๋ณผ ์ˆ˜ ์žˆ๋‹ค.
  3. argument : ์ธ์ˆ˜๋ฅผ ์ง€์ • ํ•  ์ˆ˜ ์žˆ๋‹ค.
  4. sparkOpts : spark ์‹คํ–‰ options์„ ์ •ํ•  ์ˆ˜ ์žˆ๋‹ค(ex: executor ์ˆ˜, executor ๋ฉ”๋ชจ๋ฆฌ ๋“ฑ).
  5. master : spark master URL
  6. mode : spark deploy mode๋ฅผ ์˜๋ฏธํ•˜๋ฉฐ ์ž…๋ ฅํ•˜์ง€ ์•Š์„ ๊ฒฝ์šฐ cluster mode๋กœ ์ˆ˜ํ–‰๋œ๋‹ค.
  7. forceOK : ํ•ด๋‹น ๋ถ€๋ถ„์ด ์˜ค๋ฅ˜๊ฐ€ ๋‚˜๋„ ๋‹ค์Œ ๋…ธ๋“œ๋กœ ๋„˜์–ด๊ฐ„๋‹ค.