2019년부터 약 5년간 검색 스타트업에서 일했습니다. 은행·보험·카드 같은 금융 회사들이 사내에서 쓸, 사용자 질문과 방대한 도메인 문서 사이의 거리를 좁히는 검색 시스템을 만들었습니다. 데이터를 직접 설계하고 모델을 도메인에 맞게 파인튜닝하는 일이 중심이었습니다. ChatGPT 이후로는 LLM 기반 시스템으로 자연스럽게 영역을 넓혔습니다.
2024년 말부터 외국계 보험사에서 응용 사이언티스트로 일하고 있습니다. 현업과 같이 요건을 정의하고 모델을 직접 개발해 운영까지 합니다. 모델 하나를 만들어도 글로벌에서 비즈니스 임팩트와 책임을 같이 보게 되는 환경입니다. 클라우드 환경에서 개발하고 운영하면서 MLOps까지 영역을 넓혀가고 있습니다.
금융권에서 AI를 만들어 운영하고, 비즈니스 KPI로 검증하면서 배운 것들을 적어둡니다.