합성 데이터(Synthetic Data) — AI가 AI를 가르치는 시대, 데이터 장벽을 넘다

합성 데이터(synthetic data)는 사람이 만든 실제 데이터가 아니라, AI나 알고리즘이 생성해 낸 인공 데이터를 말한다. 요즘 AI 학습에서 이 말이 자주 등장하는 이유는 분명하다. 웹에서 긁어모을 수 있는 양질의 사람 데이터가 한계에 다다르고 있다는 위기감, 그리고 필요한 데이터를 원하는 형태로 직접 만들어 낼 수 있다는 가능성이 동시에 커졌기 때문이다.

흔히 "데이터 장벽(data wall)"이라 부르는 이야기가 있다. 대형 모델을 키우려면 방대한 텍스트가 필요한데, 인터넷에 존재하는 질 좋은 사람 글은 유한하고 이미 상당 부분 쓰였다는 것이다. 나는 이 주제를 처음 접했을 때 "그럼 AI가 만든 데이터로 AI를 가르친다고? 그거 좀 이상한데" 싶었다. 그런데 실제로는 훨씬 정교하고, 동시에 함정도 많은 이야기였다.

왜 지금 합성 데이터인가

이유는 크게 셋이다. 첫째, 양이다. 학습에 쓸 수 있는 고품질 사람 데이터가 무한하지 않다는 인식이 커지면서, 부족분을 메울 대안이 필요해졌다. 둘째, 희소성이다. 현실 데이터에는 드문 상황이 잘 안 담긴다. 예컨대 특정 예외 상황이나 극단적 사례는 자연 수집으로는 거의 안 잡히는데, 합성으로는 원하는 만큼 만들어 낼 수 있다.

셋째, 프라이버시다. 의료·금융처럼 실제 개인 정보를 그대로 쓰기 어려운 영역에서, 실제 데이터의 통계적 성질은 닮았지만 특정 개인과는 이어지지 않는 인공 데이터를 만들면 활용의 문이 열린다. 이 세 가지가 맞물리면서 합성 데이터는 변방의 기법에서 학습 파이프라인의 정식 구성요소로 올라섰다.

단순히 '가짜'가 아니다

여기서 오해를 풀 필요가 있다. 좋은 합성 데이터는 아무렇게나 지어낸 것이 아니다. 대개 강력한 모델로 예시를 생성한 뒤, 규칙이나 검증기, 사람 검수로 걸러 낸다. 특히 답이 맞았는지 자동으로 확인할 수 있는 영역, 예를 들어 실행해서 통과 여부를 알 수 있는 코드나 검산 가능한 수학에서는, 틀린 합성 데이터를 걸러 내고 옳은 것만 남기기가 상대적으로 쉽다. 그래서 이런 분야에서 합성 데이터의 효과가 특히 크다.

실제 데이터와 합성 데이터

가장 큰 함정 — 모델 붕괴

합성 데이터에는 무시할 수 없는 위험이 있다. 흔히 "모델 붕괴(model collapse)"라 불리는 현상이다. 모델이 만든 데이터로 다시 모델을 학습시키기를 반복하면, 드물지만 중요한 사례들이 점점 사라지고 흔한 패턴만 남아 결과가 단조로워질 수 있다. 자기 그림자를 계속 복사하다 보면 원본의 다양성을 잃는 셈이다.

그래서 실무에서는 몇 가지 원칙이 강조된다.

• 사람 데이터를 닻으로 유지 — 합성 데이터만으로 돌리지 않고, 현실의 실제 데이터를 함께 섞어 다양성의 기준점을 잡는다.
• 검증 가능한 영역에 집중 — 정답을 자동으로 확인할 수 있는 곳에서 합성 데이터의 신뢰도가 가장 높다.
• 필터링을 게을리하지 않기 — 생성한 것을 다 쓰지 않고, 품질 낮은 사례를 걸러 낸 뒤에만 학습에 넣는다.
• 다양성 지표를 감시 — 생성 데이터가 특정 패턴으로 쏠리지 않는지 지속적으로 점검한다.

데이터를 설계하는 시대

내가 이 흐름에서 읽는 가장 큰 변화는, 데이터가 하늘에서 떨어지는 자원이 아니라 목적에 맞게 만들어 내는 재료가 되어 간다는 점이다. 무엇이 부족한지 진단하고, 그 빈칸을 채울 데이터를 설계하고, 품질을 검증해 넣는 능력이 모델의 성패를 가른다. 합성 데이터는 만능 열쇠가 아니라, 잘 다루면 강력하고 잘못 다루면 독이 되는 도구다. 결국 관건은 "얼마나 많이 만드느냐"가 아니라 "무엇을, 어떻게 검증해서 넣느냐"에 있다.

텍스트 너머로 넓어지는 쓰임

합성 데이터 이야기는 흔히 언어 모델 학습에 집중되지만, 쓰임은 훨씬 넓다. 자율주행 분야에서는 현실에서 마주치기 드문 위험 상황을 시뮬레이션으로 무수히 만들어 시스템을 담금질하고, 로봇 학습에서는 물리 시뮬레이터 안에서 실물로는 위험하거나 비싼 동작을 반복 연습시킨다. 이미지·음성 분야에서도 데이터가 부족한 조건을 인공적으로 채워 넣는다.

공통점은 하나다. 현실 세계에서 데이터를 모으는 일이 느리거나 비싸거나 위험할 때, 합성이 그 빈자리를 메운다는 것이다. 다만 어느 분야든 원칙은 같다. 합성 데이터가 현실의 분포에서 너무 멀어지면 오히려 해가 된다. 시뮬레이션에서만 통하고 현실에서는 무너지는 모델이 되기 때문이다. 그래서 합성과 현실을 어떻게 이어 붙이느냐가 늘 핵심 과제로 남는다.

자주 묻는 질문

합성 데이터로 학습하면 품질이 떨어지지 않나요?

아무 필터 없이 모델 출력만 반복해 넣으면 다양성이 줄고 품질이 나빠지는 '모델 붕괴' 위험이 있습니다. 하지만 실제 사람 데이터를 함께 섞고, 정답을 검증할 수 있는 영역에 집중하며, 품질 낮은 사례를 걸러 내면 오히려 성능 향상에 크게 기여할 수 있습니다.

합성 데이터가 특히 잘 통하는 분야는?

답의 정오를 자동으로 확인할 수 있는 분야, 예를 들어 실행해서 통과 여부를 아는 코드나 검산 가능한 수학에서 효과가 큽니다. 틀린 합성 데이터를 걸러 내고 옳은 것만 남기기가 쉽기 때문입니다.

합성 데이터가 프라이버시 문제를 해결하나요?

실제 데이터의 통계적 성질은 닮되 특정 개인과는 연결되지 않는 데이터를 만들면, 의료·금융처럼 민감한 영역의 활용 문이 열립니다. 다만 생성 방식이 부실하면 원본 정보가 새어 나올 수 있어, 설계와 검증이 중요합니다.

데이터 장벽은 실제로 존재하나요?

인터넷의 양질 사람 데이터가 유한하고 상당 부분 이미 활용됐다는 우려는 현실적입니다. 합성 데이터는 이 한계를 보완하는 유력한 대안으로 부상했지만, 사람 데이터를 완전히 대체한다기보다 부족분을 채우고 희소 사례를 보강하는 역할에 가깝습니다.