Portfolio

SIGMOID AI

이노디스AXinnodisAX

Agentic AI 기반 검색·챗봇 시스템 연구개발 — 생성형 LLM과 Semantic Search를 결합한 RAG 시스템 설계 및 개발R&D on an agentic-AI search and chatbot system — a RAG system combining generative LLMs with semantic search

프로젝트 소개Overview
도메인 문서, 로그, 구조화/비구조화 데이터를 통합하여 정확도 중심의 검색 품질 향상을 목표Aimed at accuracy-focused search quality by integrating domain documents, logs, and structured/unstructured data

담당 업무Responsibilities

• 범용 파일 인덱싱 시스템 개발General-purpose file indexing system
  • 텍스트, 수식, 도표, 이미지가 포함된 PDF 지원
  • VLM 기반 문서 파싱 후 Markdown 형태로 구조화
  • Support for PDFs containing text, formulas, tables, and images
  • VLM-based document parsing structured into Markdown
• Semantic Search 파이프라인 설계Semantic search pipeline design
  • Dense Embedding 기반 Retrieval 구조 설계
  • 도메인 특성에 맞춘 Chunking 전략 및 문서 전처리 파이프라인 구현
  • Vector DB 기반 Top-K 후보군 추출 및 검색 latency 최적화
  • Dense-embedding-based retrieval architecture
  • Domain-tailored chunking strategy and document preprocessing pipeline
  • Vector-DB Top-K candidate retrieval and search latency optimization
• Agent 기반 RAG 시스템Agent-based RAG system
  • LangChain, LangGraph 기반 Agent 설계
  • Function Calling을 활용한 DB 검색 → Reranker → 응답 생성 파이프라인 구현
  • Agent design with LangChain and LangGraph
  • DB search → reranker → response generation pipeline via function calling
• Multi-Agent 및 페르소나 기반 일관성 유지Multi-agent and persona-based consistency
  • 역할별 페르소나를 정의한 Multi-Agent 구조로 태스크 분리
  • 페르소나 기반 프롬프트로 응답 톤·역할의 일관성 유지
  • Task separation via a multi-agent architecture with role-specific personas
  • Persona-based prompting to keep response tone and role consistent
• Hallucination 감소 전략Hallucination reduction strategy
  • 응답 생성 과정에 reasoning(thinking) 단계 추가
  • Context 검증 로직을 통한 응답 신뢰도 향상
  • Added a reasoning (thinking) step to response generation
  • Improved response reliability through context verification logic
• 대용량 데이터 처리Large-scale data processing
  • 문서/쿼리 로그 기반 데이터셋 구축
  • 배치 임베딩 파이프라인 및 재색인 자동화
  • Dataset built from document/query logs
  • Batch embedding pipeline and automated re-indexing
• 배포 후 성능 모니터링 및 Drift 대응Post-deployment monitoring and drift mitigation
  • 배포 이후 검색 품질·응답 성능을 지속 측정하는 모니터링 체계 구축
  • 시간 경과에 따른 성능 저하(drift) 탐지 및 재색인·튜닝으로 대응
  • Continuous monitoring of search quality and response performance after deployment
  • Detection of performance drift over time, mitigated via re-indexing and tuning
• 검색 엔진 마이그레이션 (Elasticsearch → OpenSearch)Search engine migration (Elasticsearch → OpenSearch)
  • Apache 2.0 라이선스 마지막 버전인 Elasticsearch 7.10.2에서 최신 OpenSearch 3.x로 전환
  • 인덱스·매핑 이관 및 쿼리·클라이언트 호환성 대응
  • Migrated from Elasticsearch 7.10.2, the last Apache-2.0-licensed release, to the latest OpenSearch 3.x
  • Index/mapping migration and query/client compatibility work
• 성과Impact
  • 고객사 DB 연결 없이 범용 파일 인덱싱 실현, 다국어 입출력 지원
  • 최근 3개월 평균 3.8k 사용자
  • General-purpose file indexing without connecting to customer DBs; multilingual I/O
  • Avg. 3.8k users over the last 3 months

SIGMOID LLM Manager

이노디스AXinnodisAX

도메인·상태 기반 LLM API 라우팅 및 서빙 최적화를 담당하는 LLM GatewayAn LLM Gateway handling domain- and status-based LLM API routing and serving optimization

프로젝트 소개Overview
인증·접근 제어부터 모델 라우팅까지 모든 LLM 트래픽이 거쳐 가는 단일 LLM Gateway로, 요청 도메인·트래픽 상태·모델 성능을 고려해 최적의 LLM을 동적으로 선택A single LLM Gateway all LLM traffic passes through — from authentication and access control to model routing — dynamically selecting the optimal LLM based on request domain, traffic state, and model performance

담당 업무Responsibilities

• LLM 라우팅 로직 설계LLM routing logic design
  • 도메인별 모델 정책 정의 (예: 검색 특화 / 요약 특화 / 비용 최적화)
  • 모델 상태(응답 지연, 오류율)에 따른 Failover 및 우선순위 라우팅 구현
  • Per-domain model policies (e.g., search-tuned / summarization-tuned / cost-optimized)
  • Failover and priority routing based on model status (latency, error rate)
• 서빙 안정성 강화Serving stability hardening
  • 모델 헬스 체크 및 상태 모니터링 로직 구현
  • 장애 상황에서 자동 대체 모델 전환 구조 설계
  • API 통계 및 시각화
  • 프로메테우스 및 그라파나를 이용한 통계 및 시각화
  • Model health checks and status monitoring
  • Automatic fallback model switching on failure
  • API statistics and visualization
  • Statistics and visualization with Prometheus and Grafana
• 성과Impact
  • 동시 요청 100건 0.1초 내 처리
  • 월 평균 3만 건 API 처리
  • 100 concurrent requests handled within 0.1s
  • ~30k API calls/month

AI Serving Infrastructure

이노디스AXinnodisAX

vLLM 기반 로컬 LLM 서빙 인프라 구축 및 운영Build-out and operation of vLLM-based local LLM serving infrastructure

프로젝트 소개Overview
서비스에 필요한 LLM·Reranker 추론을 외부 API 없이 사내 GPU 서버에서 직접 서빙하도록 구성Serving the LLM and reranker inference the products need directly on in-house GPU servers, without external APIs

담당 업무Responsibilities

• GPU 서버 구축GPU server provisioning
  • H100 ×1 1대, RTX 4090 ×2 3대 총 4대 GPU 서버 구성
  • 드라이버 · CUDA · NVIDIA Container Toolkit 세팅 및 컨테이너 기반 GPU 사용 환경 구성
  • Four GPU servers: one with 1× H100 and three with 2× RTX 4090
  • Driver, CUDA, and NVIDIA Container Toolkit provisioning for container-based GPU workloads
• vLLM 서빙 운영vLLM serving operations
  • vLLM 기반 LLM · Reranker 추론 서비스 배포 및 운영
  • 모델별 서빙 구성과 리소스 배분, 로그 수집 · 리소스 모니터링 · 장애 알림 룰 구성
  • Deployed and operated vLLM-based LLM and reranker inference services
  • Per-model serving setup and resource allocation, with log collection, resource monitoring, and alerting rules
• 폐쇄망 로컬 LLM 서빙 검증Air-gapped local LLM serving validation
  • 폐쇄망 도입을 위한 하드웨어별 벤치마크 및 실사용 테스트 (RTX 4090 ×1 / ×2, MacBook Pro 48GB, DGX Spark)
  • 도입 구성 비교 · 검증 및 Linux · CUDA 기반 AI 인프라 세팅
  • Benchmarked and real-use-tested candidate hardware for closed-network deployment (RTX 4090 ×1 / ×2, MacBook Pro 48GB, DGX Spark)
  • Compared and validated deployment configurations, including Linux / CUDA AI infrastructure provisioning
• AI 가속기 도입 벤치마크 (단독 담당)AI accelerator benchmarking (sole owner)
  • Pliops SSD 레벨 KV 캐시 오프로딩 가속기에 대한 국내 유통사 수입 검토용 성능 검증 전담
  • vLLM 서빙 환경에서 TTFT · 프리필 지연, 처리량, KV 캐시 히트율 · 용량 측정 시나리오 설계 · 수행 및 결과 리포팅
  • Owned the performance validation for a Korean distributor's import evaluation of Pliops SSD-level KV-cache offload accelerators
  • Designed and ran benchmark scenarios on vLLM serving (TTFT / prefill latency, throughput, KV-cache hit rate and capacity) and reported results

Code2Chart

슈어소프트테크Suresofttech

C 언어 기반 Mermaid chart 생성 LLMAn LLM that generates Mermaid charts from C code

프로젝트 소개Overview
C 언어 코드의 함수 구조 및 로직을 분석하여 Mermaid 문법의 Flowchart로 변환하는 도메인 특화 sLLM 개발A domain-specific sLLM that analyzes C function structure and logic and converts it into Mermaid-syntax flowcharts

담당 업무Responsibilities

• LLM 파인튜닝 파이프라인 구축LLM fine-tuning pipeline
  • llama 3.1-8B 모델 기반
  • Continual Pretraining(CPT), Instruction Tuning, Supervised Fine-tuning(SFT) 단계별 수행
  • FFT, LoRA, QLoRA 등 SFT 기법 비교 및 CoT 데이터 활용
  • 양자화(Quantization) 기반 경량 파인튜닝으로 GPU 메모리 절감 및 학습·추론 효율화
  • CUDA, PyTorch, Transformers 기반 학습 환경 구성
  • Based on the Llama 3.1-8B model
  • Staged Continual Pretraining (CPT), Instruction Tuning, and Supervised Fine-tuning (SFT)
  • Compared SFT methods (FFT, LoRA, QLoRA) and used Chain-of-Thought (CoT) data
  • Quantization-based lightweight fine-tuning to cut GPU memory and speed up training/inference
  • Training environment built on CUDA, PyTorch, and Transformers
• 분산 학습 환경 구성Distributed training setup
  • H100 80GB 8장 단일 노드 환경에서 학습·튜닝 수행
  • FSDP, DeepSpeed ZeRO 등 파라미터·옵티마이저 샤딩 기법으로 단일 GPU 메모리 한계 극복
  • LLaMA-Factory 기반 학습 구성에서 Mixed Precision, Gradient Checkpointing과 FlashAttention · FlashInfer 커널 백엔드를 적용해 처리량과 메모리 사용량 조율
  • Training and tuning on a single node with 8× H100 80GB
  • Parameter/optimizer sharding via FSDP and DeepSpeed ZeRO to get past single-GPU memory limits
  • Mixed precision, gradient checkpointing, and FlashAttention / FlashInfer kernel backends applied within a LLaMA-Factory training setup to balance throughput and memory
• LLMOps — 데이터·실험·모델 관리LLMOps — data, experiment, and model management
  • MLflow, WandB, DVC를 활용해 튜닝 데이터셋·하이퍼파라미터 레시피·모델 아티팩트를 버전 관리
  • 학습 실행별 파라미터·지표·산출물 이력 추적으로 실험 간 비교 및 최적 레시피 선별
  • 재현 가능한 학습 파이프라인 구축
  • Versioned tuning datasets, hyperparameter recipes, and model artifacts with MLflow, WandB, and DVC
  • Per-run parameter/metric/artifact history for comparing experiments and picking the best recipe
  • Reproducible training pipeline
• 정량 성능 개선Quantitative performance improvement
  • 자체 구축 벤치마크 기준
  • Base Model 33점 → Fine-tuned Model 67점으로 성능 향상
  • Measured on an in-house benchmark
  • Base model 33 → fine-tuned model 67
• 모델 서빙 및 배포Model serving and deployment
  • sgLang 기반 LLM 서빙 환경 구성
  • vLLM 기반 Prefill / Decode 분리(P/D Disaggregation) 서빙 구성
  • Prefill과 Decode를 별도 인스턴스로 분리해 긴 입력의 Prefill이 Decode 지연을 밀어내지 않도록 구성
  • KV 캐시 전송 경로 구성 및 인스턴스별 병렬도·배치 정책 분리 조정
  • 사내 배포 및 QA를 통한 실사용 검증
  • LLM serving environment built on sgLang
  • vLLM-based prefill/decode disaggregated (P/D disaggregation) serving
  • Prefill and decode split into separate instances so long-prompt prefill no longer stalls decode latency
  • KV-cache transfer path plus per-instance parallelism and batching policies tuned separately
  • Validated in real use via internal deployment and QA

sLLM Benchmark

슈어소프트테크Suresofttech

도메인 특화 sLLM 정량 평가를 위한 LLM-as-a-Judge 벤치마크An LLM-as-a-Judge benchmark for quantitatively evaluating domain-specific sLLMs

프로젝트 소개Overview
도메인 특화 sLLM 정량 평가를 위한 LLM-as-a-Judge 벤치마크An LLM-as-a-Judge benchmark for quantitatively evaluating domain-specific sLLMs

담당 업무Responsibilities

• 평가 프레임워크 설계Evaluation framework design
  • Chain-of-Thought 기반 평가 템플릿 설계
  • Mermaid Flowchart 품질 평가를 위한 10개 세부 평가 항목 정의
  • Chain-of-Thought-based evaluation templates
  • 10 detailed criteria for assessing Mermaid flowchart quality
• 자동화된 평가 시스템 구축Automated evaluation system
  • LLM-as-a-Judge 방식으로 대규모 평가 자동화
  • 모델 반복 개선에 적합한 평가 파이프라인 구현
  • Large-scale evaluation automated via LLM-as-a-Judge
  • Evaluation pipeline suited to iterative model improvement
• 신뢰도 검증Reliability validation
  • Ground Truth 데이터 100개 구축
  • 평가 결과 신뢰도 89.5% 달성
  • Built 100 ground-truth samples
  • Achieved 89.5% evaluation reliability

Distributed Human Activity Recognition System for Scalable Wi-Fi Sensing

INC Lab.INC Lab.

확장 가능한 Wi-Fi 센싱을 위한 분산형 인체 활동 인식 시스템A distributed human activity recognition system for scalable Wi-Fi sensing

프로젝트 소개Overview
기존 Wi-Fi based Human Activity Recognition (HAR) 연구의 취약점 보완Addresses the weaknesses of existing Wi-Fi-based Human Activity Recognition (HAR) research

담당 업무Responsibilities

• CSI 스펙트로그램을 입력으로 하는 ViT(Vision Transformer) 기반 행동 분류 모델 설계Designed a ViT (Vision Transformer)-based activity-classification model over CSI spectrograms
• 기존 대비 데이터 사용량 1/N로 감소Reduced data usage to 1/N of prior approaches
• 분산 센싱 시스템 적용 및 센싱 데이터 랜덤 셔플링을 통한 도청 데이터 효용성 저하Distributed sensing with random shuffling of sensing data to degrade the usefulness of eavesdropped data
• 결과적으로 1/N 데이터로 90% 행동 분석 정확도 달성Achieved 90% activity-recognition accuracy using only 1/N of the data
• 도청자 모델 정확도 평균 30% 미만 달성으로 도청 방지Kept eavesdropper model accuracy below ~30% on average, preventing eavesdropping

연구 논문 PDFResearch Paper PDF →

GuardianWatch

졸업작품Graduation Project

다중 객체 추적 기술을 활용한 어린이집 안전 모니터링 시스템A daycare safety monitoring system using multi-object tracking

프로젝트 소개Overview
비전 AI 기반 어린이집 CCTV 분석 및 안전 모니터링 시스템 — 어린이집 CCTV 영상을 분석하여 아동의 위치, 행동, 활동량 정보를 추출하고, 학부모 앱에 알림 및 분석 정보를 제공하는 비전 AI 프로젝트A vision-AI daycare CCTV analysis and safety monitoring system — it analyzes daycare CCTV footage to extract children's location, behavior, and activity levels, and delivers alerts and analytics to a parent app

담당 업무Responsibilities

• 다중 객체 탐지 및 추적 시스템 구축Multi-object detection and tracking system
  • YOLOX 기반 인원 탐지 및 ByteTrack 기반 다중 객체 추적 파이프라인 구현
  • 다수 인원이 밀집된 CCTV 환경에서도 안정적인 ID 유지 성능 확보
  • Person detection with YOLOX and multi-object tracking with ByteTrack
  • Stable ID retention even in crowded CCTV scenes
• 행동 인식 및 활동 분석Action recognition and activity analysis
  • SlowR50 모델을 활용한 행동 분류 및 활동 상태 분석
  • 객체 위치 정보를 기반으로 이동 경로, 체류 히트맵, 소비 칼로리 추정 기능 구현
  • Action classification and activity-state analysis with a SlowR50 model
  • Movement paths, dwell heatmaps, and calorie estimation from object positions
• Re-ID 문제 완화 알고리즘 개발Re-ID mitigation algorithm
  • CCTV 영상 내 객체 ID 스위칭 문제 분석
  • Bluetooth RSSI 기반 위치 정보를 결합한 멀티모달 보정 알고리즘 설계
  • ID 유지 정확도 향상 및 장기 추적 안정성 개선
  • Analysis of object ID-switching in CCTV footage
  • Multimodal correction algorithm combining Bluetooth RSSI location data
  • Improved ID-retention accuracy and long-term tracking stability
• 프라이버시 보호 및 서비스 적용Privacy protection and service integration
  • Bird-Eye-View(BEV) 변환을 통한 영상 비식별화 처리
  • De-identification via Bird's-Eye-View (BEV) transformation

🏆 [은상] K-디지털 챌린지 : NET 챌린지 캠프 시즌10 (과학기술정보통신부 주최)[Silver Prize] K-Digital Challenge: NET Challenge Camp Season 10 (hosted by the Ministry of Science and ICT)

GitHubGitHub →YouTubeYouTube →