제조업 생성형 AI, 파일럿에서 전사 확산까지
데모에서 통한 답변이 라인에서도 통할까
사무실에서 시연하는 생성형 AI 챗봇은 대개 인상적입니다. 설비 매뉴얼 내용을 물으면 바로 요약해 주고, 품질 보고서 초안도 몇 초 만에 만들어 냅니다.
문제는 그다음입니다. 야간조 작업자가 설비 이상 대응 절차를 물었는데 답이 틀렸다면, 데모에서는 웃고 넘어갈 오류가 라인에서는 품질 사고나 안전 문제로 번질 수 있습니다. 파일럿에서 전사로 넘어가는 순간 같은 질문이라도 무게가 달라지는 셈입니다.
이 글은 생성형 AI를 일부 부서의 실험에서 공장 운영의 일부로 넓히려는 제조기업 실무자를 위해 썼습니다. 실제 공장에서 진행된 연구 사례를 중심으로 기술 차이, 비용 구조, 구축 방식, 안전 기준, 실패 패턴을 차례로 짚어 봅니다.
예측형 AI와 생성형 AI는 틀리는 방식부터 다르다
제조 현장에 익숙한 AI는 "예측형"입니다. 설비 진동 데이터로 고장을 예측하거나 비전 검사로 불량을 판정하는 모델이 여기에 속합니다. 정해진 입력을 받아 수치나 판정 결과를 내놓기 때문에 정확도를 지표로 관리하기가 비교적 쉽습니다.
생성형 AI는 문장을 만들어 냅니다. 같은 질문에도 표현이 달라질 수 있고, 근거 없는 내용을 그럴듯한 문장으로 답하는 "환각"이 생길 수 있습니다. 틀린 답이 틀려 보이지 않는다는 점이 현장 관점에서 가장 큰 차이입니다.
| 구분 | 예측형 AI | 생성형 AI |
|---|---|---|
| 주요 입력 | 센서·이미지·공정 데이터 | 문서·보고서·질문 문장 |
| 출력 | 수치, 양품·불량 판정 | 자연어 답변, 요약, 문서 초안 |
| 대표 업무 | 고장 예측, 비전 검사 | 매뉴얼 검색, 이상 보고서 정리, 문서 작성 |
| 오류가 드러나는 방식 | 오판정이 지표로 확인됨 | 그럴듯한 문장 속에 오답이 섞임 |
| 검증 방법 | 정확도 등 성능 지표 관리 | 근거 문서 대조, 전문가 검토 |
범용 모델만으로는 공장 질문에 답하기 어렵다
범용 언어모델은 공장 고유의 설비명, 작업표준, 과거 이상 이력을 알지 못합니다. 그래서 현장 적용에서는 모델에 공장 지식을 어떻게 연결하느냐가 핵심이 됩니다.
- 검색증강생성(RAG): 질문과 관련된 사내 문서를 찾아 답변을 만들 때 함께 넣어 주는 방식입니다. 답의 근거가 된 문서를 함께 보여 줄 수 있습니다.
- 미세조정(파인튜닝): 사내 데이터로 모델을 추가 학습시키는 방식입니다. 용어 적응에는 유리하지만, 문서가 바뀔 때마다 다시 학습해야 하는 부담이 있습니다.
2025년 발표된 디지털 제조 분야의 체계적 문헌 리뷰는 53편의 연구를 분석해, 대규모 언어모델의 활용을 공정 최적화, 데이터 구조화와 혁신, 사람-기계 상호작용과 윤리적 과제라는 세 축으로 정리했습니다. 리뷰가 다룬 품질 관리·지식 추출 연구에서도 RAG를 결합한 구성이 여러 차례 등장합니다.
한 세제 공장의 실험: 현장은 생성형 AI를 어떻게 받아들였나
2024년 학술지 Frontiers in Artificial Intelligence에 실린 연구는 네덜란드·독일·콜롬비아 공동 연구진이 세제 생산 공장에 RAG 기반 지식 도우미를 적용하고 현장 반응을 조사한 사례입니다. 시연용 데모가 아니라 공장의 실제 문서와 작업자 보고서를 지식 원천으로 썼다는 점에서 참고할 만합니다.
시스템은 세 가지 축으로 구성됐습니다.
- 지식 원천: 관리팀이 제공한 설비 매뉴얼·표준작업절차서, 작업자가 5-Why 기법으로 작성한 이상 분석 보고서를 함께 썼습니다.
- 답변 방식: 관련 문서 조각을 찾아 답을 만들고, 참고한 문서 구간을 화면에 같이 보여 줍니다. 작업자는 이 구간으로 답의 근거를 직접 확인할 수 있고, 문서에 근거가 없으면 답하지 않도록 설정했습니다.
- 지식 갱신: 작업자가 새 보고서를 올리면 AI가 논리적 모순을 점검하고, 숙련 작업자의 검토를 거친 뒤에만 지식베이스에 반영합니다.
관리자 4명과 작업자 5명, 총 9명이 참여한 사용자 연구에서 참여자들은 정보를 빨리 찾고 문제를 더 효율적으로 해결할 수 있다는 점을 장점으로 꼽았습니다. 동시에 현장다운 우려도 나왔습니다. 화학물질을 다루는 공장에서 답이 부정확하면 안전을 위협할 수 있다는 관리자 의견, 가까이 있는 숙련 동료에게 묻는 편이 더 빠르다는 작업자 의견이 대표적입니다. 시스템 이력에 없는 문제는 답을 찾느라 오히려 시간을 쓴다는 지적, 교육과 고령 작업자의 수용 문제도 함께 제기됐습니다.
연구진은 이 도구를 "전문가 대체"가 아니라 "전문가가 없을 때의 보완"으로 위치시켰습니다. 해당 공장은 야간에 작업자 1명이 라인을 운영하는데, 주변에 물어볼 사람이 없는 이런 시간대가 도구의 쓸모가 가장 큰 상황이라는 판단입니다.
모델 비교 실험도 함께 진행됐습니다. 매뉴얼과 비정형 이상 보고서에서 뽑은 질문 20개로 7개 모델을 평가한 결과, GPT-4가 사실성 97.5점(100점 만점), 환각 0점(낮을수록 좋음)으로 가장 좋았고, 오픈소스 모델인 Mixtral 8x7B도 사실성 92.5점, 환각 2.5점으로 근접했습니다. 다만 2023년 시점 모델을 기준으로 한 결과이고, 연구진 스스로 질문 수가 적고 평가자가 1명이라는 한계를 밝혔습니다. 실제 생산 중 사용 평가는 위험하다는 이유로 연구 범위에서 제외됐다는 점도 눈여겨볼 부분입니다.
파일럿 비용과 확산 비용은 구조가 다르다
파일럿 단계에서는 초기 구축비가 비용의 중심이 되기 쉽습니다. 사용자가 몇 명뿐이라 사용량 비용은 눈에 잘 띄지 않습니다. 전사로 넓히면 사정이 달라져, 사용량에 비례하는 비용과 지식을 관리하는 비용이 함께 커집니다.
초기 투자
초기 투자에는 모델 비용 외에 "데이터를 쓸 수 있는 상태로 만드는 비용"이 함께 들어갑니다.
- 문서 정비: 스캔 이미지와 수기 기록을 검색 가능한 텍스트로 바꾸고, 중복·구버전 문서를 정리하는 작업입니다.
- 연동·권한 설계: MES, 그룹웨어 등 기존 시스템과 연결하고 부서별 열람 권한을 설정하는 작업입니다.
- 자체 구축 시 인프라: 앞의 연구는 오픈소스 모델 시험에 GPU 2장, 총 96GB 메모리를 갖춘 서버를 썼습니다.
운영비
상용 API는 일반적으로 입력·출력 텍스트 양에 따라 과금됩니다. RAG는 질문할 때마다 관련 문서 조각을 함께 보내기 때문에, 사용자와 질문 수가 늘면 단순 질의보다 입력량이 빠르게 불어납니다. 앞의 연구는 문서를 약 400토큰 단위로 잘라 질문과 함께 넣었습니다.
모델 단가만으로 비용을 판단하기도 어렵습니다. 연구진은 GPT-4의 토큰당 단가가 GPT-3.5보다 높지만, 답변이 간결해 그 차이가 일부 상쇄된다고 봤습니다.
숨은 비용
견적서에 잘 드러나지 않지만 확산 단계에서 새로 생기는 비용도 있습니다.
- 답변 검증 시간: 안전·품질과 관련된 절차는 사람이 근거 문서를 다시 확인해야 합니다.
- 지식 갱신 인력: 새 이상 보고서 검토와 개정 문서 반영은 누군가 계속 맡아야 하는 일입니다.
- 교육·정착: 앞의 사례에서도 작업자 교육과 전 직원의 수용이 도입 장벽으로 꼽혔습니다.
상용 API, 자체 구축, 혼합 운영 중 무엇을 고를까
구축 방식은 성능과 데이터 통제 사이의 선택입니다. 앞의 연구진은 오픈소스 모델을 사내 서버에 두면 성능은 최상위 상용 모델에 다소 못 미치더라도 데이터 보안과 맞춤화 측면에서 유리하며, 민감한 데이터를 다루는 기업에는 이 점이 중요한 고려 사항이 될 수 있다고 봤습니다.
| 구분 | 상용 API형 | 자체 구축형(오픈소스) | 혼합형 |
|---|---|---|---|
| 초기 투자 | 낮음 (연동 개발 중심) | 높음 (GPU 서버·구축 인력) | 중간 |
| 운영비 구조 | 사용량 비례 과금 | 전력·유지보수 등 고정비 중심 | 업무별로 분산 |
| 데이터 통제 | 외부 전송 발생, 계약·설정으로 관리 | 사내 보관 | 기밀 문서만 사내 처리 |
| 모델 갱신 | 최신 모델을 바로 사용 | 교체·튜닝을 직접 수행 | 업무 중요도별 선택 |
| 적합한 업무 | 일반 문서 작성, 공개 정보 요약 | 도면·공정 조건 등 기밀 문서 업무 | 업무 범위가 넓은 전사 확산 단계 |
전사 확산 단계에서는 혼합 운영을 검토할 만합니다. 문서를 공개·내부·기밀 등급으로 나누고, 일반 사무 문서는 상용 API로, 도면과 공정 조건처럼 유출되면 안 되는 문서는 사내 모델로 처리하는 방식입니다.
혼합은 모델 사이에서만 일어나지 않습니다. AI가 답변 초안과 후보를 제시하고 확정은 사람이 하는 "사람-AI 혼합" 구조도 함께 설계해야, 정확성 요구가 높은 업무까지 범위를 넓힐 수 있습니다.
정확성·보안·책임, 확산 전에 정할 기준
생성형 AI에 관한 기준은 아직 정비가 진행 중이지만 방향은 공통적입니다. AI 경영시스템 국제표준인 ISO/IEC 42001은 AI 활용 정책, 역할과 책임, 위험 평가, 운영 중 모니터링을 조직의 관리체계 안에서 다루도록 요구합니다. 인증 취득 여부와 별개로, 확산 전 내부 기준을 세울 때 참고할 틀이 됩니다.
2025년 문헌 리뷰는 윤리적 과제를 정리하면서 운영상 위험도 함께 짚었습니다. 모델이 어떤 과정으로 답을 냈는지 알기 어려워 답변을 감사하고 검증하기 힘들고, 사람의 확인 없이 완전 자동화하면 잘못된 해석을 걸러 낼 장치가 사라진다는 것입니다. 데이터 보호 문제도 함께 지적됐습니다.
- 정확성: 답변마다 근거 문서를 표시하고, 근거가 없으면 답하지 않게 설정합니다. 안전·품질 절차는 사람 확인을 거치도록 경계를 정합니다.
- 보안: 기밀 등급 문서는 외부 API로 보내지 않습니다. 열람 권한은 기존 문서 권한 체계를 그대로 따르게 합니다.
- 책임: AI 답변을 근거로 한 작업의 최종 판단자를 명시하고, 질의·답변 기록을 남겨 사후 추적이 가능하게 합니다.
파일럿이 공장 전체로 번지지 못하는 이유
문헌과 사례를 보면 확산을 막는 요인은 기술만큼 운영 설계에도 있습니다. 반복되는 패턴을 정리하면 다음과 같습니다.
첫째, 데모용 질문으로만 평가하는 경우입니다. 2025년 리뷰는 산업 운영 자동화 연구 상당수가 사례 연구나 시뮬레이션 환경에 머물러 있고, 일부 연구에서는 결론의 재현성 문제도 제기됐다고 짚었습니다. 현장 질문 중에는 여러 조건이 얽혀 문서에 답이 명확히 적혀 있지 않은 것도 있습니다. 세제 공장 연구에서도 설비 과부하 대응처럼 여러 요인에 따라 답이 달라지는 질문을 "어려운 질문"의 예로 들었습니다.
둘째, 문서 품질 문제를 AI 성능 문제로 오해하는 경우입니다. 지식베이스에 없는 문제에는 어떤 모델도 근거 있는 답을 줄 수 없습니다. 시스템 이력에 없는 문제 때문에 오히려 시간을 썼다는 작업자 지적은, 확산 전에 문서를 정비하고 갱신 절차를 마련해야 한다는 신호입니다.
셋째, 사람의 검토 단계를 생략하는 경우입니다. 리뷰에 소개된 연구 가운데 GPT-4를 린 생산 컨설턴트로 활용한 연구는 환각 때문에 전문가가 제안을 검증해야 한다고 봤고, 정비 권고 자동화 연구는 산업 현장 지식을 반영하지 않으면 부적절한 권고가 나올 수 있다고 봤습니다.
넷째, 성과 지표 없이 시작하는 경우입니다. 리뷰 저자들은 도입 첫 단계부터 성과 지표를 포함해 지속적으로 평가할 것을 권했습니다. "써 보니 편하다"는 반응만으로는 전사 확산 예산을 설득하기 어렵습니다.
다섯째, 숙련자와 경쟁하는 구도로 설계하는 경우입니다. 숙련 동료에게 묻는 편이 빠르다는 반응이 나온 이상, 생성형 AI는 숙련자 부재 시간대나 신규 인력 교육처럼 공백이 있는 지점부터 자리를 잡는 편이 정착에 유리할 수 있습니다.
생성형 AI 확산은 모델 선택보다 지식 관리의 문제다
생성형 AI가 파일럿을 넘어 공장 전체로 퍼지느냐는 어떤 모델을 쓰느냐보다 공장 지식을 어떻게 정리하고, 갱신하고, 검증하느냐에 달려 있습니다. 근거 문서를 붙여 답하게 하는 구조, 데이터 등급에 맞춘 구축 방식, 사람이 확인해야 할 업무의 경계, 처음부터 정한 성과 지표가 확산 단계의 실제 과제입니다.
첫걸음으로는 한 라인의 설비 매뉴얼과 최근 이상 보고서를 모으고, 작업자들이 실제로 던졌던 질문으로 시험 질문 세트를 만들어 보기를 권합니다. 이 질문 세트는 모델 선정, 확산 여부 판단, 모델 교체 시 재검증까지 이어지는 공통 기준이 됩니다.
참고문헌
- Kernan Freire, S., Wang, C., Foosherian, M., Wellsandt, S., Ruiz-Arenas, S., Niforatos, E. "Knowledge sharing in manufacturing using LLM-powered tools: user study and model benchmarking." Frontiers in Artificial Intelligence. 2024-03-27. https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2024.1293084/full (CC BY 4.0)
- Ouerghemmi, C., Ertz, M. "Integrating Large Language Models into Digital Manufacturing: A Systematic Review and Research Agenda." Computers (MDPI). 2025-08-07. https://www.mdpi.com/2073-431X/14/8/318 (CC BY 4.0)
본 게시물은 AI 어시스턴트를 활용하여 초안을 작성하고 편집자의 검수를 거쳤습니다. 타 기업명 및 영업 기밀 보호를 위해 본문 중 일부 고유명사는 익명화(A/B) 처리되었습니다.