๐ปTech160 [๋ฆฌ๋ ์ค] ant ์ค์น ๋ฐ ์ค์ ant๋ Java ๊ธฐ๋ฐ์ ๋น๋ํด๋ก ๋ฆฌ๋ ์ค์์ make ์ ์ ์ฌํ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค. 1. ์๋ ์ฃผ์์์ ant ์ต์ ๋ฒ์ ํ์ธ apache-ant-1.10.5-bin.tar.gz ํ์ผ ํ์ธ https://archive.apache.org/dist/ant/binaries/ 2. ๋ค์ด๋ก๋ wget https://archive.apache.org/dist/ant/binaries/apache-ant-1.10.5-bin.tar.gz 3. ์์ถ ํด์ tar -zxvf apache-ant-1.10.5-bin.tar.gz 4. ํจ์ค ์ค์ ๋ณธ์ธ์ด ์์ถํด์ ํ bin ๊ฒฝ๋ก๋ฅผ ์ค์ ํ๋ฉด ๋ฉ๋๋ค vi ~/.bash_profile -- ์๋ ๋ด์ฉ ์ถ๊ฐ export ANT_HOME=/usr/bin/ant export PATH=$PA.. 2019. 8. 20. [๋ฆฌ๋ ์ค] MySQL ์ ์ ๋ฐ ์ฟผ๋ฆฌ ์คํ ๋ช ๋ น์ด mysql -h'$hostname' -u'$user' -p'$password' $TABLE_NM -e "์คํ์ฟผ๋ฆฌ" h : ํธ์คํธ๋ช u : ๊ณ์ p : ํจ์ค์๋ TABLE_NM : ํ ์ด๋ธ๋ช e : ์คํ ์ฟผ๋ฆฌ ๋ด์ฉ ๐ ์ฐธ๊ณ ์ฟผ๋ฆฌ ๊ฒฐ๊ณผ๋ฅผ ์ ๋ณ์์ ์ ์ฅํ๊ณ ์ถ๋ค๋ฉด -N ์ต์ ์ ๋ถ์ฌ์ ์ฌ์ฉ 2019/09/04 - [Programming/Linux] - [๋ฆฌ๋ ์ค] mysql ์ฟผ๋ฆฌ ๊ฒฐ๊ณผ ์ ๋ณ์์ ์ ์ฅ 2019. 8. 5. [Java] ์ํ๋ ํฌ๋งท์ผ๋ก ํ์ฌ ๋ ์ง ์ถ๋ ฅ ์ํ๋ ๋ ์ง ํฌ๋งท(yyyyMMdd,yyyyMMddHH ๋ฑ)์ ์ ๋ ฅํ์ฌ ํ์ฌ๋ ์ง๋ฅผ ์ถ๋ ฅํฉ๋๋ค. public static String getCurrent(String format) { SimpleDateFormat sdf = new SimpleDateFormat(format); return sdf.format(Calendar.getInstance().getTimeInMillis()); } 2019. 7. 5. [๋ฆฌ๋ ์ค] ์ํ๋ ํ์ผ ์ฐพ๊ธฐ(find ๋ช ๋ น์ด) ํ์ฌ ์์น์์ aa๋ก ์์ํ๋ ํ์ผ ๋ชจ๋ ์ฐพ๊ธฐ find . -name 'aa*' -print 2019. 7. 5. [๋ฆฌ๋ ์ค] ์๋์ฐ ํ ์คํธ๋ฅผ ์ ๋์ค ํ ์คํธ๋ก ๋ณํ ๋ฆฌ๋ ์ค์ ์ต์ํ์ง ์์ ๋ ๋ง์ด ํ๋ ์ค์๋ก ์๋์ฐ์์ ํธ์ง๊ธฐ๋ก ์์ ํ ํ ์คํธ ํ์ผ์ ๋ฆฌ๋ ์ค๋ก ์ ๋ก๋ ํ ์ฌ์ฉํ๋ฉด ์ฌ์ฉ์ด ์๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด ์ ํ์ผ์ ์๋์ฐ์์ ์์ ํ ๋ฆฌ๋ ์ค์์ ์คํํ๋ ค๊ณ ํ๋ฉด ์๋ฌ๊ฐ ๋ฐ์ํ๋๋ฐ ๋ฆฌ๋ ์ค ์ฌ์ฉ ์ด๊ธฐ์ ํ์ฐธ ๊ณ ์ ํ๋ค์. ๐ฅ vi๋ก ํ์ผ ์ด์ด์ ์๋ ๋ช ๋ น์ด ์คํํ๋ฉด ๋ฉ๋๋ค. ์ด ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ๋ฉด ํ์ผ์ ์ค ๋ฐ๊ฟ ๋ฌธ์ ํ์์ ๋ณ๊ฒฝํ ์ ์์ผ๋ฉฐ, ์ฃผ๋ก Windows ์คํ์ผ(CR+LF)์ด๋ Mac ์คํ์ผ(CR)๋ก ์์ฑ๋ ํ์ผ์ Unix ์คํ์ผ(LF)๋ก ๋ณํํ ๋ ์ฌ์ฉํฉ๋๋ค. :se ff=unix 2019. 7. 5. Oozie ๋ช ๋ น์ด ์ ๋ฆฌ oozie๋ Apache Hadoop ์์ ์ ๊ด๋ฆฌํ๋ ์ํฌํ๋ก์ฐ ์ค์ผ์ค๋ฌ ์์คํ ๋ฐ์ดํฐ ์ถ์ถ,๋ณํ,์ ์ฌ ์์ ์ธ ETL(Extraction Transformation Loading)์ ์ํํ๊ธฐ ์ํด ์ฌ์ฉํฉ๋๋ค. โพ coordinator ๋ฑ๋ก coordinator job์ ์คํ oozie job -config $job.properties -run โพ coordinator ์กฐํ ๋ฑ๋ก๋์ด ์๋ coordinator job ๋ชฉ๋ก์ ์กฐํ oozie jobs -jobtype coord โพ coordinator update coordinator์ ๋ด์ฉ(coordinator.xml) ์์ ํ ์ ๋ฐ์ดํธ oozie job -config $job.properties -update $coordinator_job_id) ex) .. 2019. 7. 5. [Java] ์๋ฃ๊ตฌ์กฐ,์๊ณ ๋ฆฌ์ฆ ์ฉ์ด/๊ฐ๋ ์ ๋ฆฌ ์๋ฃ๊ตฌ์กฐ,์๊ณ ๋ฆฌ์ฆ ์ฉ์ด/๊ฐ๋ ์ ๋ฆฌ ์๋ฃ๊ตฌ์กฐ ์ฝ๋์์์ ๋ฐ์ดํฐ๋ฅผ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ๊ธฐ ์ํด ๋ฐ์ดํฐ๋ฅผ ๊ตฌ์กฐํ ํ ๊ฒ ์๊ณ ๋ฆฌ์ฆ ์ด๋ค ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํ ์ ์ฐจ ๋๋ ๋ฐฉ๋ฒ ๋ฐฐ์ด(Array) ๋ฐ์ดํฐ๋ฅผ ๋์ดํ๊ณ , ๊ฐ ๋ฐ์ดํฐ๋ฅผ ์ธ๋ฑ์ค์ ๋์ํ๋๋ก ๊ตฌ์ฑํ ๋ฐ์ดํฐ ๊ตฌ์กฐ ํ(Queue) ๋จผ์ ๋ฃ์ ๋ฐ์ดํฐ๋ฅผ ๋จผ์ ๊บผ๋ผ ์ ์๋ ๋ฐ์ดํฐ ๊ตฌ์กฐ (FIFO, LILO) ์คํ(Stack) ๋์ค์ ๋ฃ์ ๋ฐ์ดํฐ๋ฅผ ๋จผ์ ๊บผ๋ผ ์ ์๋ ๋ฐ์ดํฐ ๊ตฌ์กฐ (FILO, LIFO) ๋งํฌ๋๋ฆฌ์คํธ(LinkedList) ๋จ์ด์ ธ ์๋ ๋ฐ์ดํฐ๋ฅผ ํฌ์ธํฐ๋ก ์ฐ๊ฒฐํด์ ๊ด๋ฆฌํ๋ ๋ฐ์ดํฐ ๊ตฌ์กฐ LinkedList LinkedList๋ ๋ฐ์ดํฐ์ ๋ค์ ๋ ธ๋์ ์ฃผ์๋ฅผ ๊ฐ์ง๊ณ ์๋(ํฌ์ธํฐ) ๊ตฌ์กฐ ArrayList์ ๊ฐ์ด ๋ฐ์ดํฐ์ ์ถ๊ฐ,์ญ์ ์ ๋ถํ์ํ ๋ฐ์ดํฐ์ ๋ณต์ฌ๊ฐ ์์ด ๋ฐ์ดํฐ.. 2019. 6. 20. [Apache Hadoop] ๋ฐ์ดํฐ ๋ ธ๋ ์ถ๊ฐ/์ ๊ฑฐ ๋ฐฉ๋ฒ โพ DataNode ์ถ๊ฐ 1. NameNode์ hosts ํ์ผ์ ์ถ๊ฐํ DataNode ์ ๋ณด (ip, host) ์ถ๊ฐ vi /etc/hosts 2. NameNode์ includes ํ์ผ์ ์์ฑ ๋๋ ํธ์งํ์ฌ ์ถ๊ฐํ node์ hostname์ ์ถ๊ฐ vi /hadoop์ค์น๊ฒฝ๋ก/etc/hadoop/dfs.hosts 3. ์ถ๊ฐํ ์๋ฒ ์ ์ ํ ๋ ธ๋ ์คํ hadoop-daemon.sh start datanode yarn-daemon.sh start nodemanager 4. Namonde ์๋ฒ์์ node refresh ๋ช ๋ น ์ํ hdfs dfsadmin -refreshNodes โพ DataNode ์ ๊ฑฐ 1. $HADOOP_HOME/etc/hadoop/hdfs.site.xml ํ์ผ์ ์๋ ๋ด์ฉ ์ถ๊ฐ dfs... 2019. 6. 17. ์ด์ 1 ยทยทยท 9 10 11 12 13 14 15 ยทยทยท 20 ๋ค์