기본 콘텐츠로 건너뛰기

타파스에서 사용하는 제품군(인프라) 선정

타파스 시스템을 개발하는데 있어서 외부 제품군들을 사용하고 있다. 타파스(TAPAS)는 클라우드 환경에서 마이크로서비스(Microservices) 형태로 운영되는 시스템으로, 다양한 금융 데이터를 실시간으로 처리하고 관리하는 데 최적화되어 있다. 이 과정에서 높은 성능과 확장성을 보장하기 위해 여러 가지 인프라 및 제품을 활용한다. 클라우드 환경에서 동작하는 제품군을 대상으로 한다. c언어의 라이브러리 형태는 여기서 제외한다. 1. 도커/쿠버네티스(k8s) : 타파스 시스템 관리 타파스는 클라우드환경에서 마이크로서비스로 운용되는 시스템이다. 도커를 활용한 이미지를 만들고 k8s에서 운용된다. 좀더 자세한 내용은 도커와 쿠버네티스를 활용한 C 언어 개발 환경 구축(1)(2) 에서 기술했다. 2. 메세지브로커 : 서비스간 통신 메세지 브로커는 마이크로서비스 사이의 통신(송/수신) 기능을 담당한다. 타파스에서는 여러 메세지브로커 가운데 RabbitMQ, Kakfa 를 사용한다. 이제품군에 대한 설명, 장단점은 생략한다. 수신처 브로커 송신처 클라이언트 요청 RabbitMQ/Kafka 요청처리 서비스 요청처리 응답 RabbtMQ/Kafka 클라이언트 응답 실시간 처리 RabbitMQ/Kafka 클라이언트 전송 3. Redis-Cluster : 실시간 시세 데이터 저장소 Redis Cluster는 주식 시세 데이터를 실시간으로 저장하고 관리하는 역할을 한다. 주로 당일 시세데이타를 저장하고 클라이언트의 조회 요청에 사용된다. 4. 관계형 데이터베이스(RDBMS) : 시세 데이터 영구 저장 데이타베이스는 시세 데이터의 히스토리성 데이타를 장기 보관하고, 관리하는 역활을 한다. 타파스에서는 PostgreSQL, MySQL를 사용한다. 당일/일자별 시세데이타 보관, 관리한다. 5. FluentBit-ELK : 로그 관리 타파스에서 출력하는 모든 로그를 한...

도커와 쿠버네티스를 활용한 C 언어 개발 환경 구축(1)

 여기는 타파스를 개발하면서 기록하는 곳이다.

타파스란  클라우드 환경에서 Kubernetes(k8s)를 활용한 주식 정보 시스템 이고, C 언어로 개발되고 있다.


예전에 개발된 소스를 들고 고객사에 나가서 작업을 하면 고객사마다 다른 OS와 환경으로 인해 몇일간은 소스 수정 작업을 해야만 했다. 또한 고객사 마다 소스관리를 따로 해야하는 번거로움도 있었다.


그래서 도커를 활용한 개발 방법으로 시작해 보려한다.


먼저, C 언어 개발을 위한 일관된 개발 환경을 구축하기 위해 도커(Docker)를 활용하여 빌드 이미지를 만드는 작업을 진행한다.


내가 사용하고 있는 Dockerfile로 타파스 개발에 필요한 빌드 이미지이다.




기본시스템은 우분투 18.04로 선택했다. 가벼운 리눅스가 있는데 c언어로 개발하면서 사용하는 라이브러리나, 툴 선택시 한계가 있음을 알았다.

필요한 패키지는 apt-get을 사용해서 설치를 했고, 필요한 라이브러리 hiredis, rabbitmq등은 git에서 받은후 cmake로 빌드후 설치를 했다.

또한 이미지를 만드는 환경에 라이브러리 폴더명이 다를수가 있어서 ln 심볼릭링크를 작성했다.
맥을 사용하는 입장에서는 aarch64-linux-gnu로 생성이 된다.

위의 도커파일로 빌드이미지를 만들기 위한 명령어이다.
이미지 생성까지 시간이 좀 걸린다.



위의 옵션중 --progress plain를 주면 작업내용이 화면에 출력이 되어서 확인하기 쉽다.
마지막 --push는 dockerhub에 push하기 위한 옵션이다.

여기까지 도커파일로 빌드하기 위한 나만의 빌드이미지 dayudev/tapas-build:1.0.1이 생성되었다.

댓글

이 블로그의 인기 게시물

pflib 환경파일 모듈 작성

pflib ├── CMakeLists.txt ├── inc │   ├── pfchannel.h │   ├── pfcommon.h │   ├── pfconf.h │   ├── pffile.h │   ├── pfipc.h │   ├── pflib.h │   ├── pflog.h │   ├── pfstring.h │   └── pftime.h ├── pfchannel.c ├── pfcommon.c ├── pfconf.c ├── pffile.c ├── pfipc.c ├── pflib.c ├── pflog.c ├── pfstring.c └── pftime.c 환경파일 모듈은 pfconf.c 이다. 프로세스에서 환경파일을 참조해서 설정값을 가져올때 사용하는 함수를 작성한다. 주로 프로세스 실행시 프로세스의 설정을 파일로 관리할때 사용한다. 함수 설명 getConfItem 아이템 메모리확보 freeConfItem 아이템 메모리해제 getConfSection 섹션 메모리확보 freeConfSection 섹션 메모리해제 getConfData 환경파일의 모든내용을 메모리로 로드 makeConfList getConfData의 내용으로 섹션/아이템으로 만듬 reload 환경파일을 다시 읽어드림 prtConfList 환경파일을 출력 getInt 해당하는 섹션에서 키값을 찾아 int형으로 리턴 getString 해당하는 섹션에서 키값을 찾아 string형으로 리턴 getSectionCount 섹션수를 리턴 getSectionName 해당하는 세션을 구함 getSectionPos 해당하는 세션의 pos를 구함 getItemCount 섹션의 아이템수를 리턴 getItemInfo 섹션의 아이템을 구함 dispose 모든 자원을 해제 initConfSt 환경파일을 메모리로 읽어들이고 섹션/아이템으로 만듬 환...

velog글을 blogger로 게시하는 방법

타파스 관련 작업을 블로그로 시작한곳은 velog이다. 가장 글 쓰기 편안한것 같다. 특히 코드를 삽입하기 좋고 마크다운이 이렇게 편안한지 몰랐다. 블로그를 노출하거나 광고를 노출하기에 velog가 좀 한계가 있는듯 해서 구글블로그에도 velog와 같은 글을 게시하고 싶어졌다. 처음에는 velog글을 복사해서 붙여넣기, 마크다운 이나 코드삽입 부분은 html로 붙여넣기로 게시를 했다. 그런데 너무 불편하고 html로 붙여넣기 하기에 신경이 많이 쓰였고, 오류도 많았다. 특히 시간이 너무 걸린다는것이다. 그래서 자동화를 알아보고 나름대로 만족한 방법을 알아냈다. 자동화(?)를 하기 위해서는 몇가지 절차가 필요하다. 1. Google Cloud Console에서 프로젝트 생성 및 API 활성화 1.1 Google Cloud Console 접속 Google Cloud Console에 접속. Google 계정으로 로그인. 1.2 새 프로젝트 생성 상단 메뉴에서 프로젝트 선택 드롭다운을 클릭. "새 프로젝트"를 선택. 프로젝트 이름을 입력하고 "만들기"를 클릭. 1.3 Blogger API 활성화 왼쪽 메뉴에서 "API 및 서비스" > "라이브러리"를 선택. 검색창에 "Blogger"를 입력하고 "Blogger API"를 선택. "사용" 버튼을 클릭하여 API를 활성화. 2. OAuth 2.0 인증 정보 생성 2.1 사용자 인증 정보 생성 왼쪽 메뉴에서 "API 및 서비스" > "사용자 인증 정보"를 선택. "사용자 인증 정보 만들기" 버튼을 클릭하고 "OAuth 클라이언트 ID"를 선택. 2.2 동의 화면 구성 동의 화면을 구성하라는 메시지가 표시되면, "외부"를 선택하고 ...

시세 데이타를 수신 및 처리 개요

거래소로 부터 시세데이타를 수신하는 방법은 크게 2가지 이다. 거래소로 부터 직접 UDP로 받거나 FEP를 통해서 받는 방법이다. UDP로 부터 시세데이타를 수신하는 방법을 선택했다. UDP의 포트별로 시세데이타가 구분되어 들어온다. 자세한 정보는 거래소에서 제공하는 전문설계서를 참조하면 된다. 아래표는 간단하게 요약한 표이다.(실제 항목은 아래 항목 보다 많다) 배치/기타 데이타 정보제공 데이타구분 UDP포트 증권종목정보 A0 11001 협의거래결과 C4 11001 종목이벤트정보 I6 11001 회원사정보 M9 11001 업종별 투자자별 통계 C0 11001 거래상위 5개상위 통계 B9 11001 현재등락 B5 11001 프로그램매매 투자자별 통계 P0 11001 프로그램매매 종목별 집계 C3 11001 프로그램매매 전체 집계 J0 11001 공매도정보 I8 11001 체결 데이타  정보제공 데이타구분 UDP포트 증권체결 A3 11021 ~ 11025 장운영 A7 11021 ~ 11025 종목마감 A6 11021 ~ 11025 VI발동/해제 R8 11021 ~ 11025 호가 데이타  정보제공 데이타구분 UDP포트 증권 우선호가 B6 ...