๐ปTech160 [SOLVED] This account is currently not available root ๊ณ์ ์์ ํ ๊ณ์ ์ผ๋ก ์ ํ ์๋๋ ๋ฌธ์ ํด๊ฒฐ ๋ฐฉ๋ฒ์ ๋๋ค. ๐ซ ERROR /etc/passwd์์ ํด๋น ๊ณ์ ์ด nologin์ผ๋ก ์ค์ ๋์ด ์์ด์ ๊ณ์ ์ ํ์ด ๋์ง ์์ $ su - hdfs This account is currently not available $ cat /etc/passwd | grep hdfs hdfs:x:986:979:Hadoop HDFS:/var/lib/hadoop-hdfs:/sbin/nologin ๐ก SOLVED chsh๋ก ๊ณ์ shell์ ๋ณ๊ฒฝ ํ su - hdfs ๋ช ๋ น์ด ์ ์ ์๋ ## ์ผ์์ ์ผ๋ก ๋ณ๊ฒฝํ์ฌ hdfs๋ก ๊ณ์ ์ ์ ๋ฐฉ๋ฒ $ su - hdfs -s /bin/bash ## ์๊ตฌ์ ์ผ๋ก ๋ณ๊ฒฝํ๋ ๋ฐฉ๋ฒ $ chsh -s /bin/bash hdfs $ cat /etc.. 2020. 1. 14. Unable to issue query: the Host Monitor is not running ๐ซ ERROR Unable to issue query: the Host Monitor is not running ๐ก SOLVED you can install Cloudera Management Serviceor or CM -> Cloudera Management Services -> Instances -> Select the Host Monitor instance and click restart from the actions for selected instances blue button above the instances table. 2020. 1. 7. [๋ฆฌ๋ ์ค] JAVA ํ์ผ ์คํ ๋ฐฉ๋ฒ java ํ์ผ ์์ฑํ์ฌ ๋ฆฌ๋ ์ค์์ java ์คํํ๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์๋ฐ์ฝ๋๋ ๋ฉ์ธํจ์๋ก ์ ๋ ฅ๋๋ ๊ฐ์ ์ถ๋ ฅํ๋ ๊ฐ๋จํ ์ฝ๋๋ก ์์ฑํ์ต๋๋ค. public class test{ public static void main(String[] args){ for(String arg:args){ System.out.println(arg); } } } 1. java ํ์ผ ์ปดํ์ผ - ๋๋ ํ ๋ฆฌ ์์ ์๋ฐํ์ผ์ ์ปดํ์ผํ์ฌ ํด๋์ค ์์ฑ - java ํ์ผ๋ช ๊ณผ ์ฝ๋ ์์ class ๋ช ์ ๋ง์ถฐ์ผ ํจ javac -d . test.java - ์ฌ๋ฌ lib jar ํ์ผ์ ํด๋์ค ํจ์ค ์ฐ๊ฒฐํด์ ์ปดํ์ผํ ๋ javac -d . -cp lib/hadoop-common-2.7.0.jar:lib/hadoop-distcp-2.7.3.jar:lib/.. 2019. 11. 21. [Hive] ์ ์ session timeout ์ค์ hive.server2.idle.operation.timeout = 2h hive.server2.idle.session.timeout = 3h hive.server2.session.check.interval = 3600000 (1h) 2019. 11. 21. [NiFi] GetFTP - PutHDFS ์ฐ๋ ์์ ๊ฐ๋จํ nifi ์ฌ์ฉ๋ฐฉ๋ฒ์ ๋๋ค. ftp ์๋ฒ์์ ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ hdfs์ ์ ๋ก๋ํ๋ ์์ ์ ๋๋ค. 1. Processor ๋ฒํผ์ ์์ ํ๋ฉด์ ๋์ด ๋์ผ๋ฉด nifi์์ ์ ๊ณตํ๋ processor๋ฅผ ์ ํํ ์ ์์ต๋๋ค. (GetFTP, PutHDFS ์ถ๊ฐ) 2. ์ถ๊ฐ ํ Configure์์ ์ค์ ์ ํ๊ณ processor ์์ ๋ง์ฐ์ค ์ปค์๋ฅผ ์ฎ๊ธฐ๋ฉด ๋ฒํผ์ด ๋์ค๋๋ฐ ํด๋ฆญ ํ ๋ ๊ฐ์ ํ๋ก์ธ์๋ฅผ ์ฐ๊ฒฐํด ์ค๋๋ค. GetFTP ํ๋ก์ธ์์ ์ค์ผ์ค์ 10์ด๋ก ์ค์ ํ์ฌ 10์ด๋ง๋ค ์คํ๋๊ฒ ํด ์ฃผ์์ต๋๋ค. ftp ์๋ฒ์ ํ์ผ ์ ๋ณด ์ ๋ ฅ (Delete Original ์ต์ ์ true ์ค์ ํ๋ฉด get ์ดํ ์์ฒ๊ฒฝ๋ก ๋ฐ์ดํฐ๋ฅผ ์ญ์ ) hdfs ์ค์ ํ์ผ ์์น์ ์ ๋ก๋ํ ๊ฒฝ๋ก๋ฅผ ์ ๋ ฅํฉ๋๋ค. ํ๋ก์ธ์ค ์ฐ๊ฒฐํด ์ค ์ํ (๋ ธ๋์ Warn.. 2019. 11. 20. [Java] REST API ํธ์ถ ์ฝ๋ JsonObject๋ฅผ ๋๊ฒจ ๊ฒฐ๊ณผ๊ฐ์ ์๋ต๋ฐ๋ REST API ํธ์ถ ์๋ฐ ์ฝ๋์ ๋๋ค. ์๋์ ๊ฐ์ด ๋ฉ์๋๋ก ํ๋ ์ ๋ฆฌํด ๋๋ฉด ์ฌ์ฉ์ ์ฉ์ดํฉ๋๋ค. /** * REST API ํธ์ถ * * @param paramUrl * @param jsonObject void */ private void RestCall(String paramUrl,JSONObject jsonObject){ try { URL url = new URL(paramUrl); HttpURLConnection conn = (HttpURLConnection)url.openConnection(); conn.setRequestMethod("POST"); conn.setRequestProperty("X-Auth-Token", API_KEY); conn.set.. 2019. 11. 19. [Python] httplib.badstatusline ์๋ฌ ํด๊ฒฐ ๋ฐฉ๋ฒ httplib๋ก API URI ํธ์ถํ๋ ๊ณผ์ ์์ ์๋์ ๊ฐ์ ์๋ฌ๊ฐ ๋ฐ์ํ์ต๋๋ค. API ํธ์ถ์ ๋ฐ๋ณตํ์ฌ ๊ณ์ ํธ์ถํ๋ ์ฝ๋์๋๋ฐ, ์ฒซ๋ฒ์งธ ํธ์ถ์ ์ ์์ ์ผ๋ก ํธ์ถ ๋์ง๋ง ๋๋ฒ์งธ ํธ์ถ๋ถํฐ ์๋ฌ๊ฐ ๋ฐ์ํ๋ค์ Traceback (most recent call last): File "test.py", line 40, in clusterInfo = getAppPendingCnt(conn) File "yarnAppStatus.py", line 9, in getAppPendingCnt r1 = conn.getresponse() File "/usr/lib64/python2.7/httplib.py", line 1113, in getresponse response.begin() File "/usr/lib64/python2.. 2019. 11. 1. [Hive] ์ฟผ๋ฆฌ ์กฐํ์ ํํฐ์ ํ์ ์ ๋ ฅ ์ต์ hive ์ฟผ๋ฆฌ ์คํ ์ ํํฐ์ ์กฐ๊ฑด์ ์ฃผ์ง ์๊ณ ์คํํ ๊ฒฝ์ฐ YARN ์์์ ๋ง์ด ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ ํด๋ฌ์คํฐ์ ๋ถํ๋ฅผ ์ค๋๋ค. ์ด๋ฌํ ๋ฌธ์ ๋ฅผ ์๋ฐฉํ๊ธฐ ์ํด hive ํํฐ์ ํ ์ด๋ธ ๊ฒฝ์ฐ where ๊ตฌ๋ฌธ ํ์ ์ ๋ ฅ ์กฐ๊ฑด์ ์ค์ ํ ์ ์์ต๋๋ค set hive.mapred.mode=strict 2019. 9. 30. ์ด์ 1 ยทยทยท 7 8 9 10 11 12 13 ยทยทยท 20 ๋ค์