EU AI법 본격 시행 — 고위험 AI 규제가 개발자에게 실제로 요구하는 것

GDPR이 데이터 처리 방식을 세계 표준으로 밀어붙였듯, AI법도 '브뤼셀 효과'를 노린다. 즉 EU 시장을 겨냥한다면 사실상 전 세계 개발팀이 이 규정을 최소 공통 기준으로 삼게 된다. 문제는 대부분의 의무가 '문서·프로세스·거버넌스'라는 점이다. 코드를 잘 짜는 것과는 다른 종류의 노동이며, 대응이 늦으면 나중에 소급해서 만들기가 훨씬 비싸다.

AI법이 무엇이고, 왜 당신에게 적용되는가

EU AI법은 세계 최초의 포괄적 수평 규제다. '수평'이란 특정 산업이 아니라 AI 시스템 전반을 대상으로 한다는 뜻이다. 핵심 아이디어는 단순하다. AI를 능력이 아니라 용도(use case)로 보고, 사람에게 미치는 위험 수준에 따라 의무를 달리 부과한다. 같은 이미지 분류 모델이라도 고양이 사진을 정리하면 최소 위험, 채용 지원자를 선별하면 고위험이 된다.

역외 적용 범위가 넓다는 점을 특히 유의해야 한다. EU에 법인이 없어도, (1) EU 시장에 AI 시스템·모델을 출시(place on the market)하거나, (2) EU 내에서 서비스를 제공하거나, (3) 시스템의 산출물(output)이 EU 안에서 사용되면 규정 대상이 될 수 있다. 미국 스타트업이 만든 SaaS라도 EU 고객에게 팔면 해당된다는 의미다. 또한 법은 역할별로 의무를 나눈다. 모델·시스템을 만드는 '공급자(provider)', 이를 자기 책임하에 쓰는 '배포자(deployer)', 수입자, 유통자다. 대부분의 무거운 의무는 공급자에게 있지만, 남의 모델을 가져다 고위험 용도로 서비스하면 당신이 공급자로 재분류될 수 있다.

리스크 기반 4단계 분류

법의 뼈대는 네 개의 위험 등급이다. 대부분의 실제 소프트웨어는 맨 아래 '최소 위험'에 속하며, 여기에는 새로운 법적 의무가 거의 없다. 규제의 무게는 위로 갈수록 급격히 무거워진다.

'제한적 위험'의 투명성 의무는 오해가 많다. 이건 등급이 아니라 특정 상황에 붙는 의무에 가깝다. 사용자가 챗봇과 대화 중임을 알 수 있게 해야 하고, AI가 생성·조작한 이미지·오디오·영상(딥페이크)은 그렇게 표시해야 하며, 생성형 산출물은 기계가 감지 가능한 형태로 표식(예: 워터마크·메타데이터)을 남기도록 요구된다. 챗봇 하나 붙이는 평범한 서비스도 여기에 걸린다.

단계적 시행 일정

법 전체가 한 번에 켜지지 않는다. 발효는 2024년 8월 1일이지만 의무는 조항군별로 순차 적용된다. 대략의 큰 그림은 다음과 같다(구체 날짜·세부는 공식 원문과 각국 이행법을 확인해야 한다).

• 2025년 2월 — 금지 관행 시행, 'AI 리터러시' 의무 시작
• 2025년 8월 — 범용 AI(GPAI) 의무, 거버넌스 체계(AI Office 등), 벌칙 규정 적용
• 2026년 8월 — 부속서 III 고위험 시스템 의무 본격 적용(대부분의 규정이 전면 발효)
• 2027년 8월 — 규제 대상 제품의 안전요소로 편입되는 고위험 시스템(부속서 I) 등 연장된 전환기 대상

고위험 시스템의 의무 — 문서와 프로세스의 세계

고위험으로 분류되면 시장 출시 전에 충족해야 할 요구사항이 촘촘하다. 핵심은 대략 다음 축들이다.

• 위험관리 체계 — 전체 수명주기에 걸친 위험 식별·완화의 반복 프로세스
• 데이터 거버넌스 — 학습·검증·시험 데이터의 관련성·대표성·오류·편향 점검
• 기술 문서화 — 시스템 설계·목적·성능·한계를 담은 문서(부속서 IV 수준)
• 기록·로깅 — 추적성 확보를 위한 자동 이벤트 로그
• 투명성·이용자 정보 제공 — 배포자가 올바르게 쓰도록 사용지침 제공
• 인적 감독(human oversight) — 사람이 개입·중단할 수 있는 설계
• 정확성·견고성·사이버보안 — 적절한 수준의 성능과 공격 내성

여기에 더해 품질경영시스템(QMS)을 갖추고, 적합성 평가(conformity assessment)를 거쳐 CE 마킹을 붙이며, EU 데이터베이스에 등록하고, 심각한 사고는 당국에 보고해야 한다. 대부분이 코딩이 아니라 증빙 가능한 문서와 절차라는 점이 핵심이다. 아래는 인적 감독을 코드 수준에서 어떻게 붙잡는지에 대한 단순화된 예시다.

// 고위험 결정 경로에는 항상 '사람이 뒤집을 수 있는' 여지를 남긴다.
function screenApplicant(features) {
  const score = model.predict(features);
  const decision = {
    score,
    autoRejected: false,          // 자동 탈락 금지: 사람이 최종 확인
    reasons: explain(features),   // 설명가능성: 근거 로그
    ts: Date.now(),
    modelVersion: MODEL_VERSION,  // 추적성: 버전 고정
  };
  logForAudit(decision);          // 자동 로깅(추적성 확보)
  return decision;                // 인적 감독자에게 '제안'으로 전달
}

부속서 III는 고위험 용도의 영역을 열거한다. 생체인식, 핵심 인프라, 교육·직업훈련, 고용·인사, 필수 민간·공공 서비스 접근(신용·보험 등), 법집행, 이주·망명·국경관리, 사법·민주 절차가 대표적이다. 다만 이 영역에 속하더라도 '사람에게 중대한 위해 위험이 없다'고 판단되는 좁은 예외 경로가 있으며, 이 경우에도 문서화와 등록 요건이 따를 수 있다.

범용 AI(GPAI)와 파운데이션 모델

챗봇·코드 어시스턴트·이미지 생성의 기반이 되는 범용 AI 모델에는 별도의 층위가 있다. 모든 GPAI 공급자에게는 최소한 기술 문서 작성, 이 모델을 다운스트림에서 통합하는 개발자를 위한 정보 제공, EU 저작권법 준수 정책, 그리고 학습 데이터에 관한 충분히 상세한 요약 공개가 요구된다.

여기에 더해 '시스템 리스크(systemic risk)'가 있는 모델은 의무가 가중된다. 판별 기준의 하나로 학습에 투입된 누적 연산량이 약 10^25 FLOP를 넘는 초대형 모델이 거론된다. 이 등급은 모델 평가와 적대적 시험(red-teaming), 시스템 리스크 평가·완화, 심각 사고 보고, 사이버보안 확보 등이 추가된다. 상당수 프런티어 랩은 자율규약인 GPAI 실행규칙(Code of Practice)에 서명해 준수 방식을 구체화하고 있다.

오픈소스 예외 — 있지만 만능은 아니다

법은 자유·오픈소스로 배포되는 AI에 일부 완화를 둔다. 무료·오픈소스 라이선스로 공개된 GPAI 모델은 (시스템 리스크에 해당하지 않는 한) 기술 문서 등 일부 의무가 면제될 수 있고, 오픈소스로 배포되는 일반 AI 구성요소도 상대적으로 가볍게 다뤄진다. 오픈 생태계를 위축시키지 않으려는 취지다.

그러나 예외에는 뚜렷한 한계가 있다. 금지 관행과 고위험 용도에는 오픈소스라도 예외가 없다. 또한 유료화·상용 서비스화하거나, 저작권 학습데이터 요약 공개 의무처럼 오픈 여부와 무관하게 남는 의무도 있다. '오픈소스니까 규제 밖'이라는 단순한 믿음은 위험하다.

개발자·스타트업의 실무 대비

거대한 법전 앞에서 마비될 필요는 없다. 대부분의 제품은 최소·제한적 위험이며, 해야 할 일은 생각보다 구조적이다. 다음 순서로 접근하면 낭비를 줄인다.

# 1) 목록화: 우리 제품의 AI 기능을 용도 단위로 분해
# 2) 등급 판정: 각 기능이 금지/고위험/제한적/최소 중 무엇인가
# 3) 역할 판정: 우리는 provider인가 deployer인가
# 4) 최소 의무 이행: 챗봇 고지, AI 생성물 표시부터
# 5) 고위험이면: 문서·데이터·평가·인적감독·로깅 체계 구축
# 6) 벤더 증빙 확보: 상용 모델의 AI법 대응 문서 수집

ai_inventory:
  - feature: "지원자 이력 자동 랭킹"
    use_case: employment
    risk: high            # 부속서 III 고용 영역
    role: provider
    obligations: [risk_mgmt, data_gov, tech_doc, human_oversight, logging]
  - feature: "고객 지원 챗봇"
    use_case: support
    risk: limited         # 투명성 의무만
    role: deployer
    obligations: [disclose_ai]

실무 팁 몇 가지. 첫째, 모델 카드·데이터시트를 지금부터 관례화하라. 나중에 소급 작성하는 것보다 훨씬 싸다. 둘째, 학습·검증·평가 데이터셋의 출처·라이선스·편향 점검 기록을 남겨라. 셋째, 생성형 기능에는 처음부터 콘텐츠 출처 표식(워터마킹·메타데이터)을 붙이는 파이프라인을 설계하라. 넷째, '사람이 뒤집을 수 있는' 의사결정 UX를 고위험 경로에 기본값으로 넣어라. 이 네 가지는 규제가 없더라도 좋은 엔지니어링이다.

비판과 남은 불확실성

이 규제가 무결점은 아니다. 산업계와 일부 회원국에서는 규정이 지나치게 복잡하고 중소기업·스타트업에 문서 부담이 과하다는 비판이 있다. 조화표준과 세부 가이드라인이 늦어지면서 '무엇을 하면 준수인지'가 여전히 불명확한 부분이 있고, 이 때문에 일정 조정·단순화(옴니버스) 논의도 이어졌다. 유럽의 규제가 혁신 속도를 늦춰 미국·중국 대비 경쟁력을 깎을 수 있다는 우려도 크다.

반대편에는 예측가능성과 신뢰라는 이점이 있다. 규칙이 명확해지면 오히려 B2B 조달에서 '우리는 AI법 준수'가 세일즈 포인트가 되고, 사고 시 책임 경계도 뚜렷해진다. 개발자 입장의 균형 잡힌 태도는 이렇다. 과잉 반응해 제품을 죽이지도, 무시하다 소급 부담을 지지도 말 것. 등급을 정확히 판정해 대부분의 최소 위험 기능은 가볍게 가고, 소수의 고위험 경로에 자원을 집중하는 것이 현실적이다.

자주 묻는 질문

우리는 EU에 회사가 없는데도 EU AI법을 지켜야 하나요?

그럴 수 있습니다. 법은 역외 적용을 폭넓게 규정해, EU 시장에 시스템을 출시하거나 EU 내에서 서비스하거나 시스템 산출물이 EU에서 사용되면 대상이 됩니다. 미국·한국 스타트업이라도 EU 고객·사용자가 있으면 관련 의무를 검토해야 합니다. 다만 실제 적용 여부는 제품의 용도·역할에 따라 다르므로 개별 판단이 필요합니다.

OpenAI나 Anthropic의 API를 쓰는 앱이면 우리도 GPAI 의무를 지나요?

보통은 아닙니다. GPAI 모델 의무의 1차 주체는 모델을 만들어 시장에 내놓는 공급자입니다. API를 호출해 앱을 만드는 쪽은 대개 '배포자'로, 용도에 따른 의무(예: 챗봇 고지, 고위험이면 별도 요구사항)를 집니다. 단, 모델을 크게 개조하거나 자기 브랜드로 고위험 시스템을 내놓으면 공급자 의무가 넘어올 수 있습니다.

우리 서비스가 고위험인지 어떻게 판단하나요?

먼저 부속서 III에 열거된 영역(생체인식, 핵심 인프라, 교육, 고용, 필수 서비스 접근, 법집행, 이주, 사법 등)에 해당하는 용도인지 봅니다. 해당하면 원칙적으로 고위험이며, '중대한 위해 위험이 없다'는 좁은 예외에 들어야만 완화됩니다. 채용 선별·신용평가·의료 진단 보조 등이 전형적 고위험입니다. 판정이 애매하면 보수적으로 문서화부터 시작하는 편이 안전합니다.

오픈소스로 공개하면 규제를 피할 수 있나요?

부분적으로만 그렇습니다. 무료·오픈소스 모델·구성요소에는 일부 의무 완화가 있지만, 금지 관행과 고위험 용도에는 예외가 없습니다. 시스템 리스크에 해당하는 초대형 모델이거나 상용화하는 경우, 저작권·데이터 요약 같은 의무는 오픈 여부와 무관하게 남을 수 있습니다. '오픈소스=규제 밖'은 위험한 단순화입니다.

지금 당장 가장 먼저 해야 할 실무 조치는 무엇인가요?

제품의 AI 기능을 용도 단위로 목록화하고 각 기능의 위험 등급과 우리 역할(공급자/배포자)을 판정하는 것입니다. 그다음 최소 의무(챗봇 AI 고지, AI 생성물 표시)를 즉시 이행하고, 고위험 기능이 있다면 문서·데이터 거버넌스·인적 감독·로깅 체계를 준비합니다. 상용 모델을 쓴다면 벤더의 AI법 대응 문서를 수집해 두는 것도 초기 우선순위입니다.

위반하면 실제로 처벌 수위가 어느 정도인가요?

금지 관행 위반은 최대 3,500만 유로 또는 전 세계 연매출의 7% 중 높은 금액, 그 밖의 의무 위반은 각각 1,500만 유로/3%, 부정확한 정보 제공은 750만 유로/1% 수준의 상한이 규정됩니다. 실제 부과액은 위반의 성격·규모·기업 크기 등을 고려해 정해지며, 중소기업에는 완화 여지가 있습니다. 상한 자체가 GDPR을 웃도는 만큼 규제를 가볍게 볼 수는 없습니다.

※ 이 글은 개발자를 위한 개요이며 법률 자문이 아니다. 실제 준수 판단은 EUR-Lex의 규정 원문(Regulation (EU) 2024/1689), 유럽 AI 오피스의 가이던스, 각 회원국 이행법과 전문가 자문을 근거로 해야 한다.