본문 바로가기

ALL159

conda keyerror 'channels' is not in the 'channels' key of the config file conda config --remove channel 실행시 아래 에러 발생할 경우 조치 방법입니다. 🚫 ERROR conda keyerror 'channels' is not in the 'channels' key of the config file 💡 SOLVED 1. conda config --show channels 2. conda config --remove channel CHANNEL_NAME 2021. 7. 16.
Git clone/push LDAP 인증 문제 (http 500 에러) 🚫 ERROR fatal: unable to access 'https://localhost:8800/admin1/init_test.git/': The requested URL returned error: 500 💡 SOLVED 1. 아래 git 설정 해줘야 clone/push 인증 할 때 AD 계정 인증 됩니다. ## 설정 적용 $ vi /etc/gitlab/gitlab.rb -------------------------------- encryption = 'plain' -------------------------------- 2. 설정 후 재기동 $ gitlab-ctl reconfigure 🔎 참고 https://forum.gitlab.com/t/unable-to-clone-in-https-using.. 2021. 7. 9.
pip install (폐쇄망 로컬 whl 파일 직접 설치) ◾ whl 파일 직접 설치 user 옵션은 설치를 진행하는 해당 계정에 패키지 설치한다는 의미 user 옵션을 붙이지 않으면 root 계정으로 진행해야함 pip3 install --no-index --find-links . 파일명.whl --user ◾ requirements.txt 파일에 설치 패키지 목록 작성하여 실행 pip3 install --no-index --find-links . -r requirements.txt --user 2021. 6. 18.
[Hive] sequence 컬럼 생성 방법 🙆‍♂️ ROW_NUMBER() OVER() 구문을 사용해서 seq 번호를 저장 ## 기존 테이블에서 seq 컬럼을 추가한 테이블 생성 CREATE TABLE new_table( seq int, code string, description string, total_emp int, salary int ) STORE AS parquet; ## 기존 테이블에 ROW_NUMBER() OVER() 합수 사용해서 seq 컬럼 추가한 데이터 insert insert overwrite table new_table select * from ( select ROW_NUMBER() OVER() as RNUM, * from old_table) a where a.RNUM 2021. 4. 28.
[MariaDB] Replication 기능 적용 방법 MariaDB Replication 기능은 DB 데이터 백업 용도로 사용 (이중화가 아님) 1. Master 서버 1) mariaDB stop & DB 백업 $ systemctl stop mariadb $ mysqldump -uroot -p hue > hue.sql 2) server.cnf 설정 추가 vi /etc/my.conf.d/server.cnf ----------------------------- [mysqld] log_bin=mysql-bin server-id=1 ----------------------------- 3) systemctl start mariadb 4) mysql 접속 후 아래 명령어 실행 > GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.. 2021. 4. 20.
[Ranger] REST API Query History (hiveServer2, impala) 🌠 REST API URL http://localhost:6080/service/assets/accessAudit?page=0&pageSize=25&total_pages=55&totalCount=1363&startIndex=0&sortBy=eventTime&excludeServiceUser=true&startDate=03%2F30%2F2021 [파라미터 설명] > startDate=03%2F30%2F2021 (03/30/2021) > 조회 결과 agentID에 hiveServer2, impala로 쿼리 구분 가능 2021. 4. 8.
[리눅스] 여러 서버 원격 작업 (parallel-ssh, ssh remote shell) 리눅스에서 여러 서버들 동시에 작업할 때 유용한 2가지 방법입니다. (parallel-ssh를 추천) ◾ parallel-ssh 설치 및 사용 1. 다운 및 설치 pssh-2.3.1.tar.gz 다운 (https://code.google.com/archive/p/parallel-ssh/downloads/) tar xvzf pssh-2.3.1.tar.gz cd pssh-2.3.1 python setup.py install 2. 작업 host 파일 작성 vi allnodes ------------------------------ cdpwork01 cdpwork02 cdpwork03 ------------------------------ 3. keygen 생성 및 배포 ssh-keygen chmod 700 ... 2021. 3. 4.
CDSW jobs api 호출 Python 코드 ◾ start import sys, requests if len(sys.argv) > 1: job_id = sys.argv[1] else : print ("Please Input Job ID") exit() url = "http://cdsw.local.com/api/v1/projects/admin/python-example/jobs/" + job_id + "/start" user = "ua64c7h1ghddrbyexf5rf9svbbwhnsl1" password = "" headers = {'Content-Type': 'application/json; charset=utf-8'} r = requests.post(url, auth=(user,password), headers=headers) if r.stat.. 2021. 2. 19.