Log/.TIL

[TIL]180608

가그린민트 2018. 6. 8. 09:47


1. 토이프로젝트

CSV 관리 기능을 작성하다 문득, 빅쿼리 인터페이스가 떠올랐다. 많은 서비스들이 파일관리, CSV 처리 등의 기능들을 동반하게 되는데 이 작업을 처리하는 별도 VM을 만드는것도 유의미하다는 생각이 들었다. (이것도 MSA에 속하나..?)

오늘 아침에 든 생각은 크게 두 기능이다. 파일관리, 파일처리..

파일 관리는 upload, backup, logging을 수행하고, 파일처리는 우선 CSV를 대상으로 할 건데 read, write를 수행한다.


 기능

 세부기능

 대상

 파일관리 

 upload 

 web

 backup

 local

 s3

 gcs

 logging

 local

 mysql

 email

 s3

 slack

 파일처리

 read (scheme o / x)

 web

 mysql

 write

 web

 mysql


우선, 파일 처리 기능을 구현 중인데 지금까지는 Class type를 기준으로 csv를 읽고 쓰기 작업은 해봤는데, 이번엔 첫줄의 필드를 기준으로 동적으로 JPA 연동 가능한지 테스트해볼 계획이다. 그 이후엔 최근 프로젝트에서 mybatis로 적용한 batch + 동적 insert query values + chunk 를 JPA로 어떻게 구현할지 고민할 계획이다.