호가창 텍스트 직렬화(Serialization) 전처리 기법: 프롬프트 토큰 압축과 실시간 추론 속도 최적화

1. 프롬프트 토큰 길이와 LLM 프리필(Prefill) 지연시간의 상관관계

트랜스포머 어텐션 메커니즘의 시간 복잡도는 입력 토큰 길이 $N$에 대해 $O(N^2)$로 증가합니다. 생성 토큰 수가 20~30토큰으로 고정되어 있더라도, 입력 프롬프트가 길어지면 그래픽카드의 텐서 코어는 입력 텍스트를 파싱하고 KV 캐시(Key-Value Cache)를 초기화하는 프리필 단계에서 대부분의 시간을 소비하게 됩니다.

실제 RTX 4090 및 Mac M3 Max 환경에서 프롬프트 토큰 길이에 따른 최초 토큰 생성 시간(Time to First Token, TTFT)을 측정한 결과, 토큰 길이를 500개에서 80개 수준으로 줄이는 것만으로도 전체 엔드-투-엔드 매매 의사결정 시간이 65ms에서 18ms로 단축되는 획기적인 속도 개선을 확인했습니다.

2. 델타 오프셋과 특수 구분자(Delimiter)를 활용한 압축 알고리즘

호가 데이터의 10단계 가격은 현재가를 중심으로 1틱(호가 단위)씩 연속적으로 배열되어 있으므로, 10개 호가의 절대 가격(예: 72,500, 72,400, 72,300…)을 매번 5~6자리 정수로 모두 나열하는 것은 극심한 토큰 낭비입니다. 기준 가격(매수 1호가) 하나만 절대값으로 기록하고, 나머지 호가는 틱 단위 오프셋(+1, +2, -1, -2)과 수량만 콤마로 연결하는 델타 직렬화를 적용합니다.

# 고속 토큰 압축 직렬화 엔진
class CompactOrderbookSerializer:
    def __init__(self, symbol="005930"):
        self.symbol = symbol

    def serialize_ultracompact(self, ask_prices, ask_vols, bid_prices, bid_vols, wobi, vol_power):
        base_price = bid_prices[0]
        # 절대 가격 대신 잔량 중심 압축 문자열 구성
        # 포맷: [BASE_PRICE] | A:v1,v2,v3.. | B:v1,v2,v3.. | W:wobi | P:power
        ask_vol_str = ",".join(str(v) for v in ask_vols[:5])
        bid_vol_str = ",".join(str(v) for v in bid_vols[:5])
        
        compact_str = (
            f"@{self.symbol}:{base_price}|"
            f"A:{ask_vol_str}|"
            f"B:{bid_vol_str}|"
            f"W:{wobi:+.2f}|"
            f"P:{vol_power:.1f}"
        )
        return compact_str

# 출력 샘플 (단 82개 서브워드 토큰으로 변환됨)
# @005930:72500|A:120,450,890,210,340|B:850,620,410,190,95|W:+0.42|P:138.5

3. 토크나이저(Tokenizer) 분절 최적화와 BPE 어휘 적응

현대 BPE(Byte Pair Encoding) 토크나이저는 숫자를 한 자리씩 쪼개거나 3자리 단위로 분절합니다. `12345`가 단일 토큰이 아니라 `12`, `345` 두 개의 토큰으로 쪼개지는 현상입니다. 직렬화 문자열에서 숫자 사이에 불필요한 공백을 제거하고 숫자와 구분자를 최적 결합하면 토크나이저가 생성하는 총 토큰 수를 추가로 15% 이상 절감할 수 있습니다.

4. 시계열 틱 시퀀스(Sliding Window) 압축과 어텐션 캐시 재사용

단일 틱 호가창뿐만 아니라 직전 5개의 과거 호가 변동 시퀀스를 LLM에 함께 주입하여 모멘텀을 파악하고자 할 때, 일반적인 텍스트 직렬화는 프롬프트 길이를 1,000토큰 이상으로 급증시킵니다. 이를 방지하기 위해 직전 틱과의 변화가 발생한 호가 단계만을 델타 기호(`^`, `v`, `=`)로 표기하는 슬라이딩 윈도우 압축 기법을 적용합니다.

예를 들어 1호가 매도잔량만 100주 증가하고 나머지가 동일하다면 전체 호가를 재출력하는 대신 `A1:+100`만 델타로 덧붙이는 구조입니다. 이와 함께 이전 틱에서 계산된 어텐션 키-값(KV) 텐서를 고정 캐시(Static Prompt Cache)로 재사용하면 시계열 틱 분석을 수행하면서도 연산 오버헤드를 80% 이상 절감하여 실시간 초단타 매매 속도를 완벽히 보장할 수 있습니다.