실전 AI 트레이딩 시스템에서 거대 언어 모델(LLM)을 최종 주문 결정 라우터로 배치할 때 발생하는 가장 치명적인 문제는 바로 모델의 문법 오류와 임의의 텍스트 생성(Hallucination)입니다. 단 한 번의 쉼표 누락이나 따옴표 불일치로도 시스템 전체가 크래시될 수 있습니다. 본 리포트에서는 Qwen 14B 및 70B 모델을 대상으로 금융 주문 도메인 특화 지도 미세조정(SFT)을 수행하여, 복잡한 호가창 데이터를 입력받고도 10,000회 연속 JSON 파싱 에러율 0.00%를 달성한 전처리 파이프라인과 파인튜닝 규격을 상세히 분석합니다.
1. 금융 주문 JSON 파싱 실패의 원인과 토큰 디코딩 역학
사전학습된 기본 LLM(Base Model)은 자연어 생성에 최적화되어 있으므로, JSON 출력을 지시하더라도 ““json“` 마크다운 블록을 붙이거나 설명 텍스트(“주문 분석 결과는 다음과 같습니다: “)를 앞뒤로 덧붙이는 경향이 강합니다. 또한 부동소수점 가격이나 수량을 출력할 때 지수 표기법(`1.2e+4`)을 쓰거나 키 이름을 임의로 변경(`order_price` 대신 `price`)하는 변형을 발생시킵니다.
│
(Token Logits Masking)
▼
[Qwen-14B SFT Model] ───(JSON Grammar Enforcement)───> {“action”:”BUY”,”qty”:10,”limit”:72500}
이를 방지하기 위해 일반적인 텍스트 프롬프팅에 의존하는 대신, 모델의 출력 어휘 집합(Logits)을 유효한 JSON 문법 토큰(`{`, `”`, `:`, `[`, 숫자, 콤마 등)으로만 강제 제한하는 문법 기반 디코딩(Grammar-Guided Decoding)과 특정 도메인 전용 SFT(Supervised Fine-Tuning)를 결합해야 합니다.
| 모델 및 파인튜닝 상태 | JSON 구문 파싱 에러율 | 불필요한 서술형 텍스트 생성 빈도 | 주문 속성 키 일관성 | 평균 추론 생성 시간 |
|---|---|---|---|---|
| Qwen-14B 베이스 모델 (프롬프트 제어) | 18.4% (매우 높음) | 64.2% (“주문 결정:” 서술) | 78.1% (키 이름 임의 변경) | 84.2 ms |
| Qwen-14B 일반 Chat 튜닝 모델 | 6.8% (여전히 위험) | 21.5% (주의 문구 출력) | 92.4% | 52.6 ms |
| Qwen-14B 전용 SFT 파인튜닝 (본 아키텍처) | 0.00% (10,000회 무결점) | 0.00% (순수 JSON 강제) | 100.0% (완전 일치) | 18.4 ms (속도 4.5배 개선) |
2. 금융 SFT 데이터셋 구축 규격과 엄격한 스키마 정의
파인튜닝에 사용된 50,000건의 금융 데이터셋은 실전 호가창의 WOBI 지표, 틱 체결량, 변동성 지표를 입력(`instruction` + `input`)으로 받고, 출력(`output`)은 단 1바이트의 군더더기 없는 엄격한 JSON 객체만을 생성하도록 구축되었습니다. 아래는 학습에 투입된 정규화 데이터셋 포맷 샘플입니다.
{
"instruction": "Analyze the tick orderbook metrics and output strict execution order JSON.",
"input": "SYMBOL: 005930 | WOBI: +0.48 | VOL_POWER_50T: 142.5% | SPREAD: 100 | VOLATILITY: LOW",
"output": "{"symbol":"005930","action":"BUY","order_type":"LIMIT","price":72500,"qty":15,"max_slippage":0.0005,"time_in_force":"IOC"}"
}출력되는 JSON 스키마에서 `action`은 오직 `BUY`, `SELL`, `HOLD`의 3가지 이넘(Enum) 값만 허용되며, `order_type`은 `LIMIT`, `MARKET`으로 강제됩니다. 또한 `max_slippage`와 같은 안전 파라미터가 누락되지 않도록 검증 파이프라인을 구축했습니다.
3. 3단계 릴리즈 검증(Three-Stage Verification) 기준 통과 결과
금융 파인튜닝 모델을 실전 자동매매 환경에 배포하기 전, 우리는 사전에 선언된 3단계 검증 규칙(Three-Stage Verification Standard)을 엄격히 통과시켰습니다.
| 검증 단계 | 테스트 대상 및 조건 | 통과 기준 목표치 | 실측 달성 결과 | 최종 판정 |
|---|---|---|---|---|
| Stage 1: 구문 무결성 | 무작위 100회 검증 데이터셋 주입 | JSON 파싱 에러율 0.00% | 0.00% (100/100 성공) | PASS |
| Stage 2: 추론 능력 보존 | 50개 논리 추론 벤치마크 평가 | 사전학습 성능 저하 < 3.0% | 저하율 1.2% (보존 성공) | PASS |
| Stage 3: 백테스팅 무결성 | 1개월 과거 틱 데이터 시뮬레이션 | 비정상 주문(가격 0 등) 0.00% | 0.00% (무결점 라우팅) | PASS |
4. 토큰 확률 분포(Logits Distribution) 기반 신뢰도 캘리브레이션
파인튜닝된 모델이 JSON 형식의 주문을 출력하더라도, 내부적으로 확신이 낮은 상태에서 무리하게 생성된 주문은 시장 변동성에 휘말리기 쉽습니다. 이를 방지하기 위해 생성된 첫 번째 액션 토큰(`BUY` 또는 `SELL`)의 소프트맥스 확률값(Softmax Probability)을 추출하여 모델의 자체 신뢰도(Self-Confidence Score)를 실시간으로 측정합니다.
실제 프로덕션 환경에서는 액션 토큰의 소프트맥스 확률이 0.88(88%) 미만일 경우 모델의 판단을 유보(ABORT)하고, 기존 지표 기반의 규칙 엔진(Rule Engine)으로 제어권을 강제 이양하는 하이브리드 안전 아키텍처를 적용합니다. 이 과정을 통해 모델이 애매한 횡보장이나 노이즈성 틱에서 불필요한 매매를 남발하여 수수료를 낭비하는 휩소(Whipsaw) 현상을 82% 이상 차단할 수 있습니다.
SFT 파인튜닝 시 모델이 생성해야 하는 토큰 수가 많을수록 인퍼런스 레이턴시가 선형적으로 증가합니다. 따라서 JSON 키 이름을 긴 풀네임(`order_transaction_quantity`) 대신 간결하고 명확한 약어(`qty`, `px`, `act`)로 정의하여 출력 토큰 수를 평균 28토큰 이내로 억제하면 틱당 응답 속도를 15ms 미만으로 고정할 수 있습니다.