본문 바로가기

ALL162

[SOLVED] CDSW docker daemons fail to start CDSW docker daemons fail to start with the following error: Error starting daemon: error initializing graphdriver: devmapper: Unable to take ownership of thin-pool (docker-thinpool) that already has used data blocks. or Non existing device docker-thinpool This issue occurs when the block devices you specified for the Docker Block Device field already have data on them. This is a safeguard to pre.. 2020. 1. 17.
Hue hbase Api Error: TSocket read 0 bytes 💡 SLOVED hbase.regionserver.thrift.http - enable 2020. 1. 15.
[SOLVED] This account is currently not available root 계정에서 타 계정으로 전환 안되는 문제 해결 방법입니다. 🚫 ERROR /etc/passwd에서 해당 계정이 nologin으로 설정되어 있어서 계정 전환이 되지 않음 $ su - hdfs This account is currently not available $ cat /etc/passwd | grep hdfs hdfs:x:986:979:Hadoop HDFS:/var/lib/hadoop-hdfs:/sbin/nologin 💡 SOLVED chsh로 계정 shell을 변경 후 su - hdfs 명령이 정상 작동 ## 일시적으로 변경하여 hdfs로 계정 접속 방법 $ su - hdfs -s /bin/bash ## 영구적으로 변경하는 방법 $ chsh -s /bin/bash hdfs $ cat /etc.. 2020. 1. 14.
Unable to issue query: the Host Monitor is not running 🚫 ERROR Unable to issue query: the Host Monitor is not running 💡 SOLVED you can install Cloudera Management Serviceor or CM -> Cloudera Management Services -> Instances -> Select the Host Monitor instance and click restart from the actions for selected instances blue button above the instances table. 2020. 1. 7.
[리눅스] JAVA 파일 실행 방법 java 파일 생성하여 리눅스에서 java 실행하는 방법입니다. 자바코드는 메인함수로 입력되는 값을 출력하는 간단한 코드로 작성했습니다. public class test{ public static void main(String[] args){ for(String arg:args){ System.out.println(arg); } } } 1. java 파일 컴파일 - 디렉토리 안에 자바파일을 컴파일하여 클래스 생성 - java 파일명과 코드 안에 class 명을 맞춰야 함 javac -d . test.java - 여러 lib jar 파일의 클래스 패스 연결해서 컴파일할 때 javac -d . -cp lib/hadoop-common-2.7.0.jar:lib/hadoop-distcp-2.7.3.jar:lib/.. 2019. 11. 21.
[Hive] 접속 session timeout 설정 hive.server2.idle.operation.timeout = 2h hive.server2.idle.session.timeout = 3h hive.server2.session.check.interval = 3600000 (1h) 2019. 11. 21.
[NiFi] GetFTP - PutHDFS 연동 예제 간단한 nifi 사용방법입니다. ftp 서버에서 데이터를 가져와 hdfs에 업로드하는 예제입니다. 1. Processor 버튼을 작업 화면에 끌어 놓으면 nifi에서 제공하는 processor를 선택할 수 있습니다. (GetFTP, PutHDFS 추가) 2. 추가 후 Configure에서 설정을 하고 processor 위에 마우스 커서를 옮기면 버튼이 나오는데 클릭 후 두 개의 프로세서를 연결해 줍니다. GetFTP 프로세서에 스케줄을 10초로 설정하여 10초마다 실행되게 해 주었습니다. ftp 서버와 파일 정보 입력 (Delete Original 옵션을 true 설정하면 get 이후 원천경로 데이터를 삭제) hdfs 설정파일 위치와 업로드할 경로를 입력합니다. 프로세스 연결해 준 상태 (노란색 Warn.. 2019. 11. 20.
[Java] REST API 호출 코드 JsonObject를 넘겨 결과값을 응답받는 REST API 호출 자바 코드입니다. 아래와 같이 메소드로 하나 정리해 두면 사용에 용이합니다. /** * REST API 호출 * * @param paramUrl * @param jsonObject void */ private void RestCall(String paramUrl,JSONObject jsonObject){ try { URL url = new URL(paramUrl); HttpURLConnection conn = (HttpURLConnection)url.openConnection(); conn.setRequestMethod("POST"); conn.setRequestProperty("X-Auth-Token", API_KEY); conn.set.. 2019. 11. 19.