๐ปTech160 [๋ฆฌ๋ ์ค] I/O Error ๋์คํฌ ์ฐพ๋ ๋ช ๋ น์ด ๋ฆฌ๋ ์ค ์๋ฒ ์๋น์ค ์๋์ ๋ฌธ์ ๊ฐ ์๊ธฐ๊ฑฐ๋ ์๋ฌ๊ฐ ๋ฐ์ํ์ฌ ์ฐพ์๋ณด๋ฉด ์ฆ์ ๊ฒฝ์ฐ๋ก Disk I/O Error๊ฐ ๋ฐ์ํฉ๋๋ค. ์๋ ๋ช ๋ น์ด๋ฅผ ์ฌ์ฉํ๋ฉด ํด๋น ๋์คํฌ ์ ์ํด์ ls ๋ช ๋ น์ด๋ก ์ผ์ผ์ด ์กฐํํด๋ณด์ง ์๊ณ Error ๊ฒฝ๋ก๊ฐ ๋ฐ๋ก ํ์ธ๋ฉ๋๋ค. ๐ก dmesg ๋ช ๋ น์ด๋ก ํ ๋ฒ์ i/o error ๊ฐ ๋ฐ์ํ๋ Disk(/dev/sde) ํ์ธ dmesg๋ ์์คํ ๋ถํ ๋ฐ ๋์ ์ค์ ์ปค๋(kernel)์์ ์์ฑ๋ ๋ก๊ทธ ๋ฉ์์ง๋ฅผ ํ์ํ๋๋ฐ ์ฌ์ฉ $ dmesg -T | grep 'I/O error' -------------------------------------------------------------------- EXT4-fs (sde): previous I/O error to superblock detected.. 2019. 5. 16. [Hive] header ์ ๊ฑฐ ์ต์ hive์์ ๋ฐ์ดํฐ ์กฐํ ์ ํ์ผ์ ํค๋๊ฐ ์๋ ๊ฒฝ์ฐ ํ์ผ์์ ์ง์ ํค๋๋ฅผ ์ ๊ฑฐํ์ง ์๊ณ ์๋ ์ต์ ์ผ๋ก ๋์ฒด ๊ฐ๋ฅํฉ๋๋ค. ์คํค๋ง ๋ง์ง๋ง ์ค์ ์๋ ์ต์ ์ถ๊ฐ ํ๊ฑฐ๋ ALTER TABLE ๋ช ๋ น์ด๋ก ์ ์ฉํด ์ค๋๋ค. โพ ํค๋ ์ ๊ฑฐ ์ต์ ์ค์ 1๋ฒ์งธ ๋ผ์ธ ์ ๊ฑฐํ๊ณ ๋ฐ์ดํฐ ์กฐํ ๋ฉ๋๋ค. ALTER TABLE db_nm.tb_nm set tblproperties("skip.header.line.count"="1"); โพ ์ถ๊ฐํ ์ต์ ์ ๊ฑฐ ALTER TABLE db_nm.tb_nm UNSET TBLPROPERTIES('skip.header.line.count'); 2019. 5. 16. [๋ฆฌ๋ ์ค] ๊ณผ๊ฑฐ ๋ฐ์ดํฐ ๊ธฐ๊ฐ๋ณ ์ญ์ ๋ช ๋ น์ด (find์ฌ์ฉ) ๋ฆฌ๋ ์ค ์๋ฒ ๊ด๋ฆฌํ ๋ ํน์ ๊ฒฝ๋ก์ ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ธฐ์ ์ผ๋ก ์ญ์ ํ๊ณ ์ถ์ ๋ ์๋ ๋ช ๋ น์ด crontab์ ๋ฑ๋กํ์ฌ ์ฌ์ฉํ์๋ฉด ์ข์ต๋๋ค. ## 7์ผ ์ ํ์ผ ์ญ์ find /data1/data/log/* -type f -mtime +7 -exec rm -rf {} \; find /var/log/service/ -type f -mtime +7 -delete ## 7์ผ ์ ๋๋ ํ ๋ฆฌ ์ญ์ find /data1/data/log/* -type d -mtime +7 -exec rm -rf {} \; 2019. 5. 16. [๋ฆฌ๋ ์ค] shell ์คํฌ๋ฆฝํธ ๋ก๊ทธ ์ถ๋ ฅ์์ด ๋ฐฑ๊ทธ๋ผ์ด๋ ์คํ โพ ์คํ ๋ช ๋ น์ด์ &>/dev/null ๋ถ์ฌ ์ฃผ์๋ฉด ๋ก๊ทธ ์ถ๋ ฅ ์์ด ์คํฌ๋ฆฝํธ ์คํ๋ฉ๋๋ค $ sh test.sh &>/dev/null & โพ CLI์ ๋ก๊ทธ ๋จ๊ธฐ์ง ์๊ณ ํ์ผ์ ๋ก๊ทธ ์ ์ฅํ๋ 2๊ฐ์ง ๋ฐฉ๋ฒ ์ง์ ํ ํ์ผ์ ๋ก๊ทธ ์ ์ฅ nohup ํ์ผ์ ๋ก๊ทธ ์ ์ฅ $ sh test.sh > test.log 2>&1 & $ nohup sh test.sh & 2019. 5. 16. [MySQL] Workbench ๋ซ์ ํญ์ด ๊ณ์ํด์ ์ด๋ฆฌ๋ ํ์ ํด๊ฒฐ Mysql Workbench ์์ ์ ํญ์ ๋ซ๊ณ ์ฌ์์ํ์ ๋ ๊ณ์ํด์ ์ด์ ์ ์์ ํ ํญ์ด ์ด๋ฆฌ๋ ๊ฒฝ์ฐ๊ฐ ์๋๋ฐ์ ์๋ ์ค์ ์ ์ฉํ์๋ฉด ๋ฉ๋๋ค Edit -> Preferences -> SQL Editor -> Save snapshot of open editors on close (์ฒดํฌ ํด์ ) 2017. 12. 16. [Hadoop] ๋ช ๋ น์ด GC overhead limit exceeded hadoop ๋ช ๋ น์ด ์ํ ์ค GC overhead limit exceeded ์ ๊ฐ์ ์๋ฌ ๋ฐ์๋ ๊ฒฝ์ฐ hadoop-env.sh ์ค์ ํ์ผ์์ ๋ฉ๋ชจ๋ฆฌ ๋ณ๊ฒฝ export HADOOP_CLIENT_OPTS="-XX:-UseGCOverheadLimit -Xmx1024m" 2017. 10. 18. Hive ๋ช ๋ น์ด ์ ๋ฆฌ โพ ๋ฐ์ดํฐ๋ฒ ์ด์ค ์์ฑ CREATE DATABASE IF NOT EXISTS db_nm; โพ ํ ์ด๋ธ ์์ฑ External : hive์์ ํ ์ด๋ธ dropํ ๊ฒฝ์ฐ hdfs ๊ฒฝ๋ก ๋ฐ ํ์ผ ๋ณด์กด HDFS ๊ฒฝ๋ก์ ๋ฐ์ดํฐ ๋ฟ๋ง ์๋๋ผ Amazon, Azure ๋ฑ์ ํด๋ผ์ฐ๋ ์คํ ๋ฆฌ์ง๋ก ์ง์ ๊ฐ๋ฅ Managed : hive์์ ํ ์ด๋ธ dropํ ๊ฒฝ์ฐ hdfs ๊ฒฝ๋ก ๋ฐ ํ์ผ ์ญ์ -- External Table CREATE EXTERNAL TABLE IF NOT EXISTS db_nm.table_nm ( a string comment 'a', b string comment 'b', c string comment 'c' ) comment 'table comment' PARTITIONED BY (DT STRING) ROW .. 2017. 2. 15. [svn] java is out of date disable ์ดํด๋ฆฝ์ค์์ svn commit ์๋๋ฉด์ java is out of date disable ์ ๊ฐ์ ์๋ฌ๊ฐ ๋ ๊ฒฝ์ฐ ํ๋ก์ ํธ ์ค๋ฅธ์ชฝ ๋ฒํผ > Team > CleanUP 2017. 2. 9. ์ด์ 1 ยทยทยท 13 14 15 16 17 18 19 20 ๋ค์