2026년 9월 30일 Anthropic은 Claude Sonnet 4.5를 API로 쓰는 기업에 11월 30일 서비스 종료를 통지하였습니다. 이 모델을 업무에 연결한 기업은 두 달 안에 대체 모델로 옮기고 결과를 다시 확인하여야 합니다. 제조 기업이 온프레미스 LLM과 클라우드 LLM 가운데 하나를 고를 때는 업무 데이터의 외부 반출 가능 여부와 모델 갱신 책임 주체, 두 기준을 먼저 봅니다.
온프레미스 LLM과 클라우드 LLM은 성능보다 두 기준으로 먼저 고른다
모델 종료 통지가 오면 교체 작업이 생깁니다. 지금 모델의 성능과는 상관이 없습니다. 온프레미스 LLM은 회사 서버에 언어 모델을 설치해 운영하는 방식이고, 클라우드 LLM은 공급사 서버에 있는 모델을 API로 호출하는 방식입니다.
두 방식은 데이터가 처리되는 위치와 모델 교체 일정을 정하는 주체에서 차이가 납니다. 그래서 검토는 반출 가능 여부를 먼저 판정하고, 반출 가능한 업무에서 갱신 책임을 따지는 순서로 진행합니다.
데이터 반출 가능 여부는 업무 단위로 판정한다
첫째 기준인 반출 가능 여부는 회사 전체로 한 번에 정하지 않고 업무마다 따로 판정합니다. 설비 매뉴얼 요약과 고객사 도면 검토는 같은 공장의 업무입니다. 그러나 다루는 데이터가 다릅니다.
업무별로 쓰는 데이터를 적고, 그 데이터가 법령과 고객사 계약, 사내 보안 규정 가운데 어디에 해당하는지 표시합니다. 반출을 제한하는 법·계약 근거는 온프레미스 LLM 보안 구조 글에 정리되어 있습니다. 근거가 하나라도 확인된 데이터는 반출 불가로 분류합니다.
클라우드 LLM의 데이터 처리 조건은 공급사 문서와 계약으로 확인한다
반출 가능으로 분류한 데이터도 공급사가 그 데이터를 어떻게 처리하는지 확인합니다. OpenAI API 데이터 처리 안내에 따르면 API로 보낸 데이터는 이용자가 동의하지 않는 한 모델 학습에 쓰이지 않습니다. 다만 오남용 감시 기록은 기본으로 최대 30일 보관되며, 이 보관을 없애는 Zero Data Retention은 OpenAI의 사전 승인을 받아야 적용됩니다.
같은 안내에 따르면 OpenAI의 데이터 저장 지역에는 한국도 포함되지만, 한국 지역은 추론 처리를 지원하지 않습니다. 미국 외 지역을 쓰려면 오남용 감시 통제 승인도 받아야 합니다. 클라우드 LLM을 검토할 때는 학습 사용 여부, 보관 기간, 저장·처리 지역을 계약 조건으로 확인합니다.
반출 불가 데이터가 포함된 업무는 온프레미스로 정한다
법령·계약 근거로 반출 불가로 분류한 데이터 외에도, 학습 사용 여부와 보관 기간, 저장·처리 지역을 확인한 뒤 30일 보관이나 외부 처리를 허용할 수 없는 데이터가 나옵니다. 이런 데이터가 한 건이라도 포함된 업무는 온프레미스 LLM으로 정합니다.
예를 들어 품질 이탈 보고서 초안 작성은 일반 작업표준과 함께 반출 불가로 분류한 배합비를 참조할 수 있습니다. 일반 문서만 골라 클라우드로 보내도록 업무를 쪼개면 권한 설정과 감사 기록이 두 곳으로 나뉩니다. 업무 전체를 온프레미스에서 처리하면 접근 권한과 실행 기록을 한 시스템에서 관리합니다.
모델 갱신 책임은 배포 방식에 따라 공급사와 회사로 나뉜다
반출 가능한 업무에는 둘째 기준인 모델 갱신 책임을 적용합니다. 언어 모델은 새 버전이 계속 나오며, 모델을 바꿀 때마다 프롬프트(AI에 전달하는 작업 지시)를 조정하고 결과를 다시 검증합니다.
클라우드 LLM에서는 공급사가 모델 교체 일정을 정하고, 온프레미스 LLM에서는 회사가 정합니다. 회사가 준비할 작업도 이에 따라 달라집니다. 그래서 업무별로는 모델 교체 일정을 회사가 통제하여야 하는지를 판정합니다.
클라우드 LLM은 모델 종료 일정을 공급사가 정한다
공급사가 정하는 종료 일정은 공개 문서로 확인됩니다. Anthropic 모델 지원 종료 안내는 공개 모델을 종료하기 최소 60일 전에 사용 중인 고객에게 통지한다고 밝혔습니다. 종료된 모델로 보낸 요청은 실패합니다. Claude Opus 4는 2026년 4월 14일 통지를 거쳐 6월 15일 종료되었습니다.
통지를 받은 뒤 정해진 기간 안에 대체 모델이 같은 업무 결과를 내는지 확인하여야 합니다. 클라우드 LLM을 쓰는 업무는 검증용 질문과 기대 답을 미리 준비해 두면 교체 기간을 줄일 수 있습니다.
검증 기록이 필요한 업무는 모델 교체가 변경관리 대상이 된다
검증 부담은 업무 성격에 따라 커집니다. EU GMP(의약품 제조·품질관리 기준) 부속서 11 10항은 컴퓨터화 시스템의 설정을 포함한 모든 변경을 정해진 절차에 따라 통제하도록 정합니다. GMP 기록에 쓰는 AI라면 모델 버전 교체도 이 변경 절차에 들어갑니다. GMP·HACCP 기록에 AI를 도입할 때 계약 전에 확인할 항목은 규제 제조의 AI 도입 체크리스트에 정리되어 있습니다.
이런 업무에 클라우드 LLM을 쓰려면 공급사의 종료 통지 기간이 사내 재검증 기간보다 긴지 확인합니다. 통지 기간이 더 짧으면 온프레미스가 맞습니다. 교체 시점을 회사가 정할 수 있기 때문입니다. 재검증 절차는 GMP 현장의 AI 밸리데이션 절차에서 다룹니다.
온프레미스 LLM은 교체 시점을 정하는 대신 운영 책임을 진다
교체 시점을 회사가 정하면 모델 선정, 서버 증설, 보안 패치도 회사가 맡습니다. 사내에 모델 운영 인력이 없으면 모델 선정과 서버 증설, 보안 패치를 공급사 유지보수 계약에 넣습니다.
GMP 업무라면 같은 부속서 11 3.1항이 외부 업체가 시스템을 유지보수하거나 변경하는 경우, 업체의 책임을 분명히 적은 공식 합의서를 제조사와 업체가 갖추도록 정합니다. 계약서에는 모델 교체 주기, 교체 전 통지 기간, 재검증 담당자를 함께 적습니다.
온프레미스 LLM 도입 전에 GPU 산정과 라이선스, 반입 절차를 확인한다
운영 책임은 도입 전에 시작됩니다. 퓨처워크랩 AX Flow 사양 기준으로 GPU는 모델 종류, 파라미터(모델이 학습한 가중치의 수) 규모, 양자화(모델 크기를 줄이는 압축 방식), 동시 처리량에 따라 따로 산정합니다.
폐쇄망에서는 프로그램과 모델을 컨테이너 이미지(실행 환경을 한 파일로 묶은 배포 단위)로 반입합니다. 그래서 사용할 모델과 외부 구성 요소의 라이선스, 반입 가능 여부를 착수 전에 검토합니다.
온프레미스로 옮겨도 모델 교체에는 재검증 작업이 남는다
검토 초기에는 온프레미스를 고르면 모델 갱신 문제가 사라진다고 보는 경우가 많습니다. 교체 시점은 늦출 수 있습니다. 그래도 교체 작업은 남습니다.
AX Flow에서 답변 모델은 설정 변경만으로 바꿀 수 있습니다. 반면 임베딩 모델(문서를 검색용 숫자 벡터로 바꾸는 모델)을 바꾸어 벡터 차원이 달라지면 문서 전체를 다시 색인합니다. 새 모델이 한국어 작업 지시를 제대로 따르는지도 다시 검증합니다. 온프레미스 운영 계획에는 모델 교체 주기와 재색인 시간을 함께 넣습니다.
제조 데이터 보안 기준으로 본 온프레미스·클라우드 선택표
반출 기준과 갱신 책임 기준을 겹치면 업무별 배포 방식이 네 경우로 정리됩니다.
데이터 반출 | 모델 교체 일정 통제 | 배포 방식 | 확인할 조건 |
|---|---|---|---|
가능 | 불필요 | 클라우드 LLM | 학습 사용 여부, 보관 기간, 저장·처리 지역 |
가능 | 필요 | 클라우드 LLM 또는 온프레미스 LLM | 종료 통지 기간과 사내 재검증 기간 비교 |
불가 | 불필요 | 온프레미스 LLM | GPU 산정, 라이선스, 반입 절차 |
불가 | 필요 | 온프레미스 LLM | 모델 버전 변경 절차, 재색인 일정 |
반출 기준이 먼저 적용되므로 반출 불가 업무는 갱신 책임과 관계없이 온프레미스로 정합니다. 반출 가능하면서 교체 일정 통제가 필요한 업무는 공급사 통지 기간이 사내 재검증 기간보다 짧을 때 온프레미스로 정합니다.
한 회사 안에서도 업무마다 배포 방식이 다르다
선택표를 업무 목록에 적용하면 한 회사 안에서 두 방식이 함께 나오는 경우가 많습니다. 예를 들어 같은 공장에서도 설비 매뉴얼 요약은 클라우드 LLM으로, 고객사 계약으로 반출이 제한된 도면 검토는 온프레미스 LLM으로 정할 수 있습니다.
퓨처워크랩 AX Flow에는 상용 API 모델과 고객사가 보유한 LLM, vLLM 같은 서빙 엔진으로 사내 서버에 올린 모델을 함께 연결할 수 있습니다. AX Flow는 생산관리·품질관리 시스템의 데이터와 사내 문서·메일을 온톨로지(업무 개념 간 관계를 정의한 구조)로 연결해 판단 근거를 구성하고, 그 근거를 바탕으로 에이전트·워크플로우가 업무를 자동 실행합니다. 접근 권한과 에이전트·워크플로우 변경 이력은 AX Flow 안에서 관리합니다. 배포는 온프레미스, 프라이빗 클라우드, 클라우드, 하이브리드 구성을 지원합니다.
정리하며
배포 방식은 업무 목록에서 정합니다. 첫 작업으로 AI를 적용할 업무마다 반출 불가 데이터 포함 여부와 모델 교체 일정 통제 필요 여부를 두 칸으로 적습니다.
두 칸을 채우면 선택표에서 배포 방식과 확인할 조건이 함께 정해집니다. AI를 먼저 적용할 업무는 첫 업무 선정 기준에 따라 고릅니다.
도입 상담 요청하기 · 업무별 데이터 반출 기준부터 함께 정리합니다.
자주 묻는 질문 (FAQ)
온프레미스 LLM은 클라우드 LLM보다 성능이 낮나요?
모델과 구성에 따라 다릅니다. 같은 공개 모델이라도 양자화 수준과 GPU 구성에 따라 처리 속도가 달라지므로, 실제 업무 질문으로 비교 검증한 뒤 정합니다.
클라우드 LLM을 쓰면 데이터가 해외로 나가나요?
공급사와 계약 조건에 따라 다릅니다. OpenAI는 한국을 데이터 저장 지역으로 지원하지만 추론 처리 지역으로는 지원하지 않고, 미국 외 지역은 별도 승인이 필요합니다. 저장 지역, 처리 지역, 보관 기간을 계약 전에 확인합니다.
sLLM을 온프레미스에 두면 GPU는 얼마나 필요한가요?
sLLM(파라미터 규모를 줄인 소형 언어 모델)도 모델 종류, 파라미터 규모, 양자화, 동시 처리량에 따라 GPU를 산정합니다. 문서 규모와 동시 사용자 수를 먼저 정리하면 산정할 수 있습니다.
클라우드 LLM에서 온프레미스 LLM으로 전환하면 무엇을 다시 하여야 하나요?
임베딩 모델이 바뀌어 벡터 차원이 달라지면 문서 전체를 다시 색인합니다. 새 답변 모델이 한국어 작업 지시를 제대로 따르는지도 다시 검증하므로, 전환 일정에 재색인과 재검증 기간을 포함합니다.
참고한 것
Anthropic, 「Model deprecations」, Claude API 문서(2026년 10월 열람)
OpenAI, 「Your data」, OpenAI API 문서(2026년 10월 열람)
European Commission, 「EU GMP Annex 11: Computerised Systems」(2011)