Domain Service에 LLM 연결하기
— 판단은 넘기지 않는다

LLM 기능을 만들 때 흔히 빠지는 유혹은 결정 자체를 LLM에게 맡기는 것이다 — 사유를 분류하고, "fraud"라고 나오면 그 자리에서 바로 환불을 거절하는 식이다. 이렇게 하면 서로 다른 두 종류의 코드가 하나로 뭉개진다: 외부 시스템과 통신하는 Technical Service와, 비즈니스 규칙을 소유하는 Domain Service. 이 저장소의 Go 구현은 다른 모든 언어 포트와 마찬가지로 이 둘을 의도적으로 분리해 둔다.

LLM은 신호일 뿐, 판단자가 아니다

RefundReasonClassifier는 Technical Service의 포트다 — Application 계층의 인터페이스로, 유일한 소비자가 필요로 하는 최소한의 형태로 정의되며, 실제 구현체는 Infrastructure에 위치한다:

// RefundReasonClassifier is a Technical Service port (domain-service.md)
// abstracting an LLM call that classifies a refund's free-text reason.
//
// Classify has no error return by contract: on any failure (API error,
// malformed output, network error) the real implementation must log a
// warning and return a neutral fallback classification rather than
// propagating an error — a classification outage must never block a
// refund request.
type RefundReasonClassifier interface {
	Classify(ctx context.Context, reason string) payment.RefundReasonClassification
}

이 컴포넌트의 역할은 분류 결과를 만들어내는 데서 끝난다. 그 다음에 무슨 일이 일어나야 하는지에 대해서는 아무런 의견도 갖지 않는다 — 그건 이 계층이 신경 쓸 일이 아니다.

결정은 여전히 Domain Service가 내린다

EvaluateRefundEligibility는 평범한 패키지 함수다 — 프레임워크 의존성도 없고, Go에는 애초에 DI container라는 게 없다 — 그리고 classifier를 import하거나 호출하는 일도 전혀 없다. 이미 계산된 classification을 이전 글에서 다룬 두 번째 부정 사용 신호와 함께 전달받아, 자신만의 고정된 임계값을 적용한다:

const fraudRiskRejectionThreshold = 0.7

func EvaluateRefundEligibility(p *Payment, r *Refund, classification RefundReasonClassification, mlFraudRiskScore float64) RefundDecision {
	if p.Status != StatusCompleted {
		return RefundDecision{Approved: false, Reason: ErrRefundRequiresCompletedPayment.Error()}
	}
	if r.Amount > p.Amount {
		return RefundDecision{Approved: false, Reason: ErrRefundAmountExceedsPayment.Error()}
	}
	if classification.Category == RefundReasonFraudSuspected && classification.FraudRiskScore >= fraudRiskRejectionThreshold {
		return RefundDecision{Approved: false, Reason: ErrRefundFlaggedHighFraudRisk.Error()}
	}
	// ...
}

이 함수 호출보다 상류에 있는 모든 것 — LLM API 요청, 프롬프트, 재시도 정책 — 은 이 함수에게 보이지 않는다. 이 둘을 실제로 연결하는 건 Application 계층이다:

classification := h.classifier.Classify(ctx, cmd.Reason)
// ...
decision := payment.EvaluateRefundEligibility(p, r, classification, mlFraudRiskScore)

이것이 바로 이 분리의 핵심이다: 부정 사용 거절 임계값(0.7)은 비즈니스 규칙이며, 평범한 구조체만으로 네트워크 호출 없이 테스트할 수 있다. LLM 제공자를 바꾸든, 프롬프트를 바꾸든, 심지어 분류 방식 전체를 바꾸든, 이 함수는 변하지 않는다.

설정 값을 비즈니스 코드 밖에 두기

classifier의 Infrastructure 구현체를 만들려면 모델 이름과 API 엔드포인트가 필요했다 — 이 코드베이스에서 환경 변수에 의존하는 다른 모든 값과 동일한 컨벤션을 따라 해결했다: config 패키지 밖의 어떤 코드도 os.Getenv를 직접 건드리지 않는다.

const defaultRefundClassifierModel = "qwen2.5:1.5b"
const defaultOllamaBaseURL = "http://localhost:11434"

// RefundClassifierModel returns the model id RefundReasonClassifierImpl uses,
// overridable via REFUND_CLASSIFIER_MODEL. All raw env var access for this
// feature is encapsulated here (never read directly inside
// domain/application/infrastructure code — config.md).
func RefundClassifierModel() string {
	if v := os.Getenv("REFUND_CLASSIFIER_MODEL"); v != "" {
		return v
	}
	return defaultRefundClassifierModel
}

그리고 백엔드가 바뀌었다

classifier는 원래 github.com/anthropics/anthropic-sdk-go를 통해 실제 Claude API를 호출했다. 이후 백엔드는 자체 호스팅하는 Ollama 모델로 옮겨갔다 — 벤더 API 키도 없고, 요청당 비용도 없으며, 나머지 모든 것과 같은 인프라 위에서 돌아간다. Infrastructure 구현체는 SDK 호출을 Ollama의 네이티브 /api/chat 엔드포인트로 보내는 평범한 net/http 요청으로 교체했고, config는 다음과 같이 바뀌었다:

const defaultRefundClassifierModel = "qwen2.5:1.5b"
const defaultOllamaBaseURL = "http://localhost:11434"

무엇이 바뀌어야 했나 (거의 아무것도 아니다)

이번 교체에서 Domain Service, Technical Service 인터페이스, 그리고 둘에 대한 단위 테스트는 전혀 바뀌지 않았다 — 바뀐 건 오직 Infrastructure 구현체와 두 개의 config 함수뿐이었다. 이것이 바로 아키텍처가 제 역할을 하는 모습이다: Infrastructure 바깥의 그 무엇도 LLM이 관여한다는 사실 자체를 알지도, 신경 쓰지도 않았고, 어떤 LLM인지는 더더욱 그랬다.

Go에 한정된 솔직한 단서 하나: 이 코드베이스에는 DI container가 없기 때문에, E2E 테스트 부트스트랩이 classifier의 구체 생성자를 손으로 직접 연결한다. 이번 교체는 테스트 셋업에서 그 생성자 호출 — 모델 이름과 base URL — 을 한 줄 고쳐야 했다. 이는 테스트 로직이 아니라 테스트 배선(wiring)이다. 어떤 assertion도 바뀌지 않았다. DI container가 그 배선을 암묵적으로 처리해 주는 언어들에서는 이번 교체가 정말로 테스트 파일을 단 하나도 건드리지 않았다. Go 버전의 "거의 아무것도 바뀌지 않았다"에는 이렇게 작지만 솔직한 각주 하나가 붙는다.