Self-hosted

구축 메모

- 키워드 : postgreSQL, kafka, sentry, docker, k8s, 또 뭐있나 clickhouse? 흠 -_-

뭐 이런게 있긴 해

... 읽어보자

음... https://clickhouse.com/docs/en/intro/

 

What Is ClickHouse? | ClickHouse Docs

ClickHouse® is a column-oriented database management system (DBMS) for online analytical processing of queries (OLAP).

clickhouse.com

 

https://github.com/sentry-kubernetes/charts

 

GitHub - sentry-kubernetes/charts: Easily deploy Sentry on your Kubernetes Cluster

Easily deploy Sentry on your Kubernetes Cluster. Contribute to sentry-kubernetes/charts development by creating an account on GitHub.

github.com

이런것도 보이고...

복잡하구나

 

--------------------------

설치 후 https 아니면 안되는 설정들이 있어서 인증서도 붙여야했고,

slack 앱 만들어서 알람연동까지 되는건 좋네 확실히

캡쳐 소리 죽이려고

사용자 인터페이스 사운드 효과 재생을 끄면 알람도 안난다. 다시 켜두도록 하자.

'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

Sentry 구축 메모  (0) 2022.08.17
PRISM Live Studio 마이크 입력 지우기  (0) 2021.05.05
OpenWhisk  (0) 2021.04.29
쿠베 메모  (0) 2021.04.26
Docker compose yml 작성시..  (0) 2021.04.12

설치 후 지웠는데 ...

mac 에서 midi 오디오 입력에 표시되어서 마이크보다 먼저 잡히게되는 문제가 있었음.

// sudo kextunload /Library/Extensions/PRISM\ Live\ Studio\ SoundDriver.kext

어??? .... 재부팅하니까 다시 살아나네 ㅠㅠㅠㅠㅠ

1. Utility > terminal에서 해당 명령어를 복사하고 다시 한 번 삭제 작업을 진행합니다.
명령: 

sudo kextunload /Library/Extensions/PRISM\ Live\ Studio\ SoundDriver.kext



2. 명령어 입력하여 삭제 후 Finder에서 

/Library/Extensions/PRISM\ Live\ Studio\ SoundDriver.kext
목록을 찾아서 삭제합니다.

고마워요 고객센터

쿠베를 공부 하다보니, 오픈위스크라는 친구에 대해 듣게되었다. 유명한 아파치 프로젝트!
간단하게 말하자면 문제가 발생했을 때, 콜백이벤트를 실행해주기 좋은 서버리스 아키텍쳐이다.

github.com/apache/openwhisk/

 

apache/openwhisk

Apache OpenWhisk is an open source serverless cloud platform - apache/openwhisk

github.com

 

개인적으로 볼 때는 단순하게 함수단위로 iot에서 대문열기, 간단하게 디비 레코드 변경, IoT 센서등 조작 등등 작은이벤트 용으로 쓰면 아주 좋을 것 같고, 이것저것 연결해서 복잡하게 만들면 헬게이트를 맛볼 것으로 추정된다.

MSA에 더 MAS한 맛이라 가능하면 테스트 코드가 없어도 될 진짜 작은 사이즈의 작업을 할 때 써보자.

어... 집에 대문에 열렸을 때, 누가 문을 조작했나 하고 센서를 달아 놓았다면

notify-api.line.me/

 

LINE Notify

LINE Notify allows you to send web notifications from GitHub, IFTTT, Mackerel, and more directly to your LINE chats.

notify-bot.line.me

라인으로 간단하게 CURL로 쏜다던가. 하는걸 만들면 되겠다.

누가 또 그럼

docs.aws.amazon.com/ko_kr/lambda/latest/dg/welcome.html

 

AWS Lambda란 무엇입니까? - AWS Lambda

AWS Lambda란 무엇입니까? AWS Lambda는 서버를 프로비저닝하거나 관리하지 않고도 코드를 실행할 수 있게 해주는 컴퓨팅 서비스입니다. Lambda는 필요 시에만 코드를 실행하며, 하루에 몇 개의 요청에

docs.aws.amazon.com

얘랑 어떤게 나은가 할텐데

ㅋㅋㅋ 난 모르겠다.

아래 글 참고할 것

stackshare.io/stackups/apache-openwhisk-vs-aws-lambda-vs-serverless#posts

 

Apache OpenWhisk vs AWS Lambda vs Serverless | What are the differences?

Apache OpenWhisk - The best open-source serverless cloud platform, enterprise ready and accessible to all developers.. AWS Lambda - Automatically run code in response to modifications to objects in Amazon S3 buckets, messages in Kinesis streams, or updates

stackshare.io

끝.

학습 중.

  •  
  • 호스트 - 컨테이너
  • 도커허브
  • 노드
  • 네임
  • 이미지
  • 클러스터 네크워크
  • 컨트롤러
    • 디플로이먼트
    • 스테이트풀셋
    • 잡 / 크론잡
    • 데몬셋
    • 레플리카셋
    • 레플리카컨트롤러
  • 리포티터리
    • 이미지
  • 디플로이먼트
    • 레플리카셋 
      • 스케일
    • 컨트롤러
    • HA구성
  •  팟
    • 매니페스트
    • 헬스체크 
    • 컨테이너
    • 초기화
    • 사이드카
    • 워크로더
    • 팟-컨테이너
    • 크론잡
  • 서비스 
    • 클러스터
    • 노드
    • 로드벨런서
    • 익스터널네임
  • 스토리지
    • 퍼시스턴트볼륨
    • 프로비저너 - 공간관리
  • 잉그레스
    • 세션어피니티
  • 큐베-킵얼라이브-빕(버추얼아이피)
    • 킵얼라이브
  • 오토스케일
    • HPA설정
    • 부하테스트
  • 클러스터 가상화
    • 네임스페이스
    • 시크릿 - 밑에거 고급진거
    • 컨피그맵 - 어 그 설정파일 이미지에 말아 넣으면 맨날 배포해야하니 빼두는거
  • 메모리관리
  • 시피유관리
  • 인증서관리

서브라임으로 탭으로 신나게 작성했더니

어머, 탭은 안되네 스페이스로 바꾸고나서 실행되었다.

그리고 detach 넣으려고 봤는데 그냥 실행할 때 up뒤에 붙여주자....

docker-compose up -d

끝.

'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

OpenWhisk  (0) 2021.04.29
쿠베 메모  (0) 2021.04.26
hive 에서 create table 등이 안될 때...  (0) 2021.04.02
java 추가 설치중 에러가...  (0) 2021.02.24
sqoop 메모.  (0) 2018.07.19

SET hive.mapred.mode=nonstrict;

성능에 영향을 주는 msck repair table 을 할 때 썼다 ㅠㅠ

'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

쿠베 메모  (0) 2021.04.26
Docker compose yml 작성시..  (0) 2021.04.12
java 추가 설치중 에러가...  (0) 2021.02.24
sqoop 메모.  (0) 2018.07.19
airflow 메모 - 코드조각  (0) 2017.12.07

brew가 업데이트 되었구나.

❯ brew cask install adoptopenjdk11
Error: Unknown command: --cask

❯ brew install --cask adoptopenjdk11
==> Downloading https://github.com/AdoptOpenJDK/openjdk11

 

'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

쿠베 메모  (0) 2021.04.26
Docker compose yml 작성시..  (0) 2021.04.12
hive 에서 create table 등이 안될 때...  (0) 2021.04.02
sqoop 메모.  (0) 2018.07.19
airflow 메모 - 코드조각  (0) 2017.12.07

1.4.7 / 1.99 있음. 서로 비호환 (완전 다르더라 ;;;;;;;;;;)


폴더만듬. mkdir sqoop


다운

wget http://mirror.navercorp.com/apache/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz


해제

tar xzf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz


환경변수 등록 (.bashrc)

export SQOOP_HOME=/어딘가 위치/sqoop

export PATH=$PATH:$SQOOP_HOME/bin


...

source .bashrc


테스트.

sqoop test


---- 스쿱 준비 완료.


mysql 준비.


db 생성. CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;


형식에 맞게 테이블만들고.


... 날렸는데 안됨.

jdbc dirver가 라이센스 때문에 sqoop에 없나봄.


wget http://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.28.tar.gz

받아서 속에 jar 만 sqoop/lib 폴더에 넣기.


..실행.

sqoop export --connect jdbc:mysql://서버:포트/디비명 --username 유저 --password 비번 --table 테이블명 --num-mappers 1 --export-dir /data/데이타

했는데

에러!! sqoop  Transferred 0 bytes 데이터 전송 안됨...!



=ㅅ= 아........ .... 리얼 클러스터랑 베타 DB랑 전송 막혔다. ACL로 클러스터 다 열어야 하는데 못해이거. 


경험했다.



'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

쿠베 메모  (0) 2021.04.26
Docker compose yml 작성시..  (0) 2021.04.12
hive 에서 create table 등이 안될 때...  (0) 2021.04.02
java 추가 설치중 에러가...  (0) 2021.02.24
airflow 메모 - 코드조각  (0) 2017.12.07

airflow Variable, Connections 암호화 하는 법.

airflow.cfg


# Secret key to save connection passwords in the db
fernet_key = cryptography_not_found_storing_passwords_in_plain_text


fernet_key를 저부분에 생성해서 넣으면 됨.


주의1 ::: 이후 한글키나 한글값을 저장하면 다음과 같은 오류가 남.

알아서 코드나 디비를 수정 하길... 바람. 참고주소 https://libsora.so/posts/python-hangul/

UnicodeDecodeError: 'ascii' codec can't decode byte 0xc7 in position 0: ordinal
not in range(128)


주의2 ::: 이전에 만든키는 그냥 일반키이다.


fernet_key 만든는 방법. 

$ pip install cryptography

안깔려 있으니 설치 한다. (  https://cryptography.io/en/latest/installation/  )


$ python -c "from cryptography.fernet import Fernet; FERNET_KEY = Fernet.generate_key().decode(); print FERNET_KEY"


콘솔창에 치면 다음줄에 키값이 떨어질텐데 이걸 위에 넣으면 됨.


..



hook

http://tech.marksblogg.com/airflow-postgres-redis-forex.html




'몰라그거무서운거 > 기타등등' 카테고리의 다른 글

쿠베 메모  (0) 2021.04.26
Docker compose yml 작성시..  (0) 2021.04.12
hive 에서 create table 등이 안될 때...  (0) 2021.04.02
java 추가 설치중 에러가...  (0) 2021.02.24
sqoop 메모.  (0) 2018.07.19

+ Recent posts