• 학점 3.81 / 4.5

2025.03 – 현재 · NLP / 생성형 AI

• OpenSearch + Vector DB 인덱싱 및 RAG 파이프라인 구축
• 검색 엔진 마이그레이션: Apache 2.0 라이선스 마지막 버전인 Elasticsearch 7.10.2에서 최신 OpenSearch 3.x로 전환 — 인덱스·매핑 이관, 쿼리·클라이언트 호환성 대응
• 범용 파일 인덱싱 API 개발 (PDF, HWP, PPT 등)
• LangChain / LangGraph 기반 AI 에이전트 설계
• Multi-Agent + 페르소나 기반 역할 분리로 응답 일관성·역할 유지
• 배포 후 지속 모니터링으로 검색 품질 측정, 시간 경과에 따른 성능 저하(drift) 탐지·대응
• 성과: 고객사 DB 연결 없이 범용 파일 인덱싱 실현, 다국어 입출력 지원, 최근 3개월 평균 3.8k 사용자

• FastAPI 기반 API 인증 서버 및 모델 자동 라우팅 구현
• Prometheus + Grafana 기반 모니터링·시각화
• 성과: 모델 상태(응답 지연·오류율) 기반 Failover 및 우선순위 라우팅, 동시 요청 100건 0.1초 내 처리, 월 평균 3만 건 API

• 네트워크: 서버 간 네트워크 구성·연결, 방화벽·ACL 정책 관리, 도메인/DNS 관리, SSL/TLS 인증서 발급·갱신
• 배포: Docker / docker-compose 기반 다중 서비스 구성·배포, Nginx 웹서버·로드밸런싱 구성으로 무중단 배포, GitLab CI · Jenkins 기반 CI/CD 파이프라인 구축, GPU 서버 세팅(드라이버·CUDA·NVIDIA Container Toolkit)
• 운영·관측: 로그 수집·관리, 장애 알림 룰 구성, 리소스 모니터링 및 용량 산정, DB 백업·복구
• 클라우드: 네이버 클라우드(NCP) 리소스(VPC·서버·스토리지) 관리 및 온프렘↔클라우드 연동, CSAP·GS 인증 취득 지원, KMS v2 키 관리
• AI 서비스: vLLM 기반 Reranker·LLM 추론 서비스 운영·배포
• AI 가속기 도입 벤치마크 (단독 담당): Pliops SSD 레벨 KV 캐시 오프로딩 가속기에 대해 국내 유통사의 수입 검토를 위한 성능 검증을 전담 — vLLM 추론 서빙 환경에서 TTFT·프리필 지연, 처리량, KV 캐시 히트율·용량을 측정하는 벤치마크 시나리오 설계·수행 및 결과 리포팅

2024.07 – 2024.11 · AI / NLP

• 데이터 정제·수집, 학습 파이프라인 구축, MLOps / DVC, Docker 기반 sgLang 서빙
• SFT 기법(FFT · LoRA · QLoRA) 비교 및 양자화(Quantization) 기반 경량 파인튜닝, CoT 데이터 학습
• H100 80GB × 8 단일 노드에서 FSDP · DeepSpeed ZeRO 샤딩으로 분산 학습 환경 구성 — LLaMA-Factory 기반 학습 구성에 Mixed Precision · Gradient Checkpointing · FlashAttention · FlashInfer 커널 백엔드 적용
• vLLM Prefill/Decode 분리(P/D Disaggregation) 서빙 구성 — KV 캐시 전송 경로 및 인스턴스별 병렬도·배치 정책 분리 조정
• 성과: Base 모델 33점 → 파인튜닝 67점 (2배), 사내 배포 및 QA 실사용 검증

• Chain-of-Thought(CoT) 기반 평가 템플릿, 10개 세부 항목 설계
• 성과: GT 데이터 100개 기준 신뢰도 89.5%

• Mammogram Processing for All — 맘모그램 영상 분석용 오픈소스 뷰어/편집 프로그램 및 관련 문서 제공

• WiFi CSI 기반 인간 행동 인식, 프라이버시 보존 분산 센싱
• 라즈베리파이 4B + Nexmon CSI로 CSI 수집 노드를 구성해 분산 센싱 환경 구축 및 데이터 수집
• 논문: Distributed HAR System for Scalable Wi-Fi Sensing — 확장 가능한 WiFi 센싱을 위한 분산 행동 인식 시스템 (CSI 스펙트로그램 → ViT 분류, 데이터 1/N로 정확도 90%, 도청 모델 정확도 ~30% 이하)

• EDA, 통계 분석, NLP 전처리

• GPA 3.81 / 4.5

2025.03 – Present · NLP / Generative AI

• Built OpenSearch + Vector DB indexing and a RAG pipeline
• Search engine migration: moved from Elasticsearch 7.10.2, the last Apache-2.0-licensed release, to the latest OpenSearch 3.x — index/mapping migration and query/client compatibility work
• Developed a general-purpose file indexing API (PDF, HWP, PPT, etc.)
• Designed AI agents with LangChain / LangGraph
• Role separation via multi-agent + persona design for consistent responses and stable role adherence
• Continuous post-deployment monitoring to measure search quality and counter performance drift over time
• Impact: general-purpose file indexing without connecting to customer DBs, multilingual I/O, avg. 3.8k users over the last 3 months

• Implemented a FastAPI-based API auth server and automatic model routing
• Monitoring and visualization with Prometheus + Grafana
• Impact: failover and priority routing based on model status (latency, error rate), 100 concurrent requests handled within 0.1s, ~30k API calls/month

• Networking: server-to-server network setup, firewall / ACL policy management, domain & DNS management, SSL/TLS certificate issuance and renewal
• Deployment: multi-service setup and deployment with Docker / docker-compose, zero-downtime deployment via Nginx web servers and load balancing, CI/CD pipelines with GitLab CI / Jenkins, GPU server provisioning (drivers, CUDA, NVIDIA Container Toolkit)
• Operations & observability: log collection and retention, alerting rules for incidents, resource monitoring and capacity planning, DB backup and recovery
• Cloud: Naver Cloud (NCP) resource management (VPC, servers, storage) and on-prem ↔ cloud integration, supported CSAP / GS certification, KMS v2 key management
• AI services: operated and deployed vLLM-based Reranker / LLM inference services
• AI accelerator benchmarking (sole owner): led the performance validation for a Korean distributor’s import evaluation of Pliops SSD-level KV-cache offload accelerators — designed and ran the benchmark scenarios on vLLM inference serving (TTFT / prefill latency, throughput, KV-cache hit rate and capacity) and reported the results

2024.07 – 2024.11 · AI / NLP

• Data cleaning/collection, training pipeline, MLOps / DVC, Docker-based sgLang serving
• Compared SFT methods (FFT · LoRA · QLoRA) and applied quantization for lightweight fine-tuning, trained on Chain-of-Thought (CoT) data
• Distributed training on a single node with 8× H100 80GB — FSDP / DeepSpeed ZeRO sharding, with mixed precision, gradient checkpointing, and FlashAttention / FlashInfer kernel backends applied in a LLaMA-Factory training setup
• vLLM prefill/decode disaggregated (P/D) serving — KV-cache transfer path and per-instance parallelism/batching policies tuned separately
• Impact: base model 33 → fine-tuned 67 (2×), internal deployment and QA real-use validation

• Chain-of-Thought (CoT) evaluation templates, 10 detailed criteria
• Impact: 89.5% reliability on 100 ground-truth samples

• Mammogram Processing for All — Open-source mammogram viewer/editor with accompanying documentation

• WiFi CSI-based human activity recognition, privacy-preserving distributed sensing
• Built the distributed sensing testbed and collected data with Raspberry Pi 4B + Nexmon CSI capture nodes
• Paper: Distributed HAR System for Scalable Wi-Fi Sensing — distributed activity recognition for scalable Wi-Fi sensing (CSI spectrograms classified by a ViT, 90% accuracy with 1/N of the data, eavesdropper accuracy kept below ~30%)

• EDA, statistical analysis, NLP preprocessing