스마트팩토리아 · 제조 AI 운영

제조 AI 운영체계, 시스템을 들이고도 성과가 멈추는 이유는 무엇일까

중소 공장을 위한 데이터·모델·책임 구조와 운영 순서

AI를 설치한 날보다 그다음 1년이 더 중요합니다

비전 검사 AI를 설치한 첫 달에는 불량 검출이 눈에 띄게 좋아졌는데, 몇 달 뒤 작업자들이 다시 육안 검사로 돌아가는 상황을 떠올려 보겠습니다. 이런 일의 원인은 AI 모델 자체보다 그 주변이 비어 있는 데 있을 수 있습니다.

원자재 공급처가 바뀌어 제품 이미지가 달라졌는데 아무도 모델을 다시 점검하지 않았거나, AI가 불량으로 판정한 제품을 누가 최종 결정하는지 정해지지 않았거나, 성과를 확인할 지표가 없어 효과를 설명하지 못하는 경우입니다.

"AI 도입이 아니라 AI 운영체계가 중요하다"는 말은 바로 이 지점을 가리킵니다. 여기서 운영체계는 컴퓨터의 OS가 아니라, AI가 공장 안에서 계속 쓰이도록 만드는 데이터 흐름, 모델 관리, 업무 연결, 책임 구조, 성과 측정의 묶음을 뜻합니다.

이 글에서는 두 관점의 차이와 국내 제조기업의 현재 위치, 정부 공개 사례를 살펴본 뒤 해외 기준, 숨은 비용과 실패 신호, 중소 공장의 실행 순서까지 차례로 다룹니다.

1. AI 도입과 AI 운영체계는 무엇이 다를까

두 표현은 같은 프로젝트를 서로 다른 시간 축에서 바라봅니다. 도입은 솔루션을 고르고 설치하고 검수하는, 시작과 끝이 있는 프로젝트입니다. 운영체계는 그 이후 AI가 공장의 일상 업무 안에서 계속 정확하게 쓰이도록 유지하는 상시 구조입니다.

도입 관점에서는 "설치가 끝났는가"가 성공 기준이 됩니다. 운영 관점에서는 "1년 뒤에도 현장이 AI의 판단을 믿고 쓰는가"가 기준입니다.

일반 소프트웨어는 한 번 제대로 만들면 같은 입력에 같은 결과를 내지만, AI는 학습한 데이터와 실제 현장 데이터가 달라지면 성능이 떨어질 수 있습니다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크도 AI 시스템은 데이터나 모델, 개념의 변화 때문에 기존 소프트웨어보다 더 잦은 유지보수와 수정이 필요할 수 있다고 설명합니다.

2. AI 운영체계를 이루는 다섯 가지 구성 요소

담당자가 바뀌어도 같은 기준으로 검사하는 품질경영시스템처럼, AI 운영체계는 사람이 바뀌어도 AI가 같은 수준으로 관리되게 만드는 장치입니다. 현장에서 필요한 요소는 다섯 가지로 나눌 수 있습니다.

데이터 흐름

AI가 판단하려면 설비·검사·작업 기록이 정해진 형식으로 끊김 없이 들어와야 합니다. 프로젝트 초기에 한 번 모은 학습 데이터만으로는 운영이 이어지지 않습니다.

• 설비·센서·검사 장비 데이터의 저장 주기와 위치를 정합니다.
• 불량 코드, 작업 조건, 자재 로트처럼 사람이 입력하는 값의 기준을 통일합니다.
• 데이터가 빠지거나 이상한 값이 들어올 때 알림을 받을 담당자를 둡니다.

모델 관리

모델은 한 번 만들고 끝나는 결과물이 아니라 버전과 성능 이력이 있는 관리 대상입니다.

• 현재 쓰는 모델의 버전, 학습에 쓴 데이터 기간, 정확도 기준을 기록합니다.
• 자재·금형·제품 사양이 바뀌면 모델을 다시 점검하는 조건을 미리 정합니다.
• 새 모델은 기존 모델과 같은 데이터로 비교 검증한 뒤 교체합니다.

현장 업무 연결

AI의 판단이 실제 작업 지시나 품질 판정으로 이어지는 경로가 없으면, 화면에는 결과가 쌓이는데 업무는 예전 그대로 남습니다.

• AI 결과를 누가, 어느 화면에서, 어떤 행동으로 받는지 작업 표준에 넣습니다.
• AI 판정과 작업자 판단이 다를 때의 처리 절차를 정합니다.
• 작업자가 AI 결과에 이의를 남길 수 있게 하고, 이 기록을 다음 재학습의 재료로 씁니다.

성과 측정과 개선

운영이 잘 되는지는 모델 정확도 하나로 판단하기 어렵습니다. 현장에서 실제로 쓰이는 정도와 사업 성과를 함께 봐야 합니다.

• 모델 정확도와 함께 현장 활용률(AI 결과를 실제로 따른 비율), 불량·재작업 변화를 봅니다.
• 정기 점검 회의에서 지표를 보고 재학습과 개선 여부를 결정합니다.
• 성과가 확인된 공정은 다른 라인으로 넓힐 조건을 기록해 둡니다.

책임과 의사결정

AI가 잘못 판단했을 때 라인을 멈출지, 사람의 판단으로 되돌릴지 결정할 사람이 정해져 있어야 합니다. 이 요소는 앞의 네 요소 모두에 걸쳐 있습니다.

• 공정별 AI 책임자와 공급기업의 역할 범위를 문서로 나눕니다.
• AI 사용을 잠시 멈추고 수동 운전으로 돌아가는 기준을 정합니다.
• 안전과 직결되는 판단은 사람이 최종 확인하는 구간을 남깁니다.

3. 국내 중소·중견 제조기업은 지금 어디쯤 와 있을까

중소벤처기업부와 스마트제조혁신추진단이 2025년 4월 발표한 2024년 스마트제조혁신실태조사는 공장을 보유한 중소·중견 제조기업을 대상으로 한 표본조사입니다. 이 조사에서 제조 AI를 도입한 기업은 전체의 0.1%, 도입 계획이 있는 기업은 1.6%였습니다.

운영체계 관점에서 더 눈여겨볼 수치는 따로 있습니다. 제조데이터를 수집하는 기업은 60.8%였고 그중 실제 분석까지 하는 기업은 52.1%였습니다. 반면 제조데이터·AI 관련 전담 부서와 인력을 둔 기업은 0.8%에 그쳤습니다.

데이터는 상당수 기업에서 쌓이기 시작했지만, 그것을 관리하고 판단으로 바꿀 조직은 아직 드물다는 뜻입니다. AI 운영체계에서 먼저 필요한 것이 이 "운영 주체"입니다.

스마트공장을 도입한 기업 가운데서도 75.5%는 기초 단계에 머물러 있었습니다. AI 운영체계는 이 기초 위에 올라가는 구조이므로, 많은 중소 공장에는 어떤 AI 솔루션을 고를지보다 데이터 흐름과 담당 인력을 확보하는 일이 먼저 풀어야 할 과제입니다.

4. 정부가 공개한 AI팩토리 사례에서 읽을 수 있는 것

산업통상부는 2026년 8월 제조업 AI 전환(M.AX)의 성과를 발표했습니다. AI팩토리 선도 프로젝트로 170여개 사업장을 지원했고, 상대적으로 일찍 착수해 성과가 나타나기 시작한 42개 사업장을 점검한 결과 생산성은 평균 30.1% 높아지고 불량률은 평균 15.5% 낮아졌다고 밝혔습니다.

보도자료에는 개별 기업의 성과도 실명으로 공개되었습니다. 아래 표는 그중 일부를 공정과 적용 기술 중심으로 정리한 것입니다.

성과 숫자 뒤에서 읽어야 할 운영의 신호

표의 사례들은 대부분 특정 공정에서 검사 시간, 불량률, 생산성처럼 측정 가능한 지표 하나로 성과를 제시했습니다. 운영체계를 처음 세울 때도 범위를 한 공정의 한 지표로 좁히는 것이 현실적이라는 점을 참고할 수 있습니다.

같은 보도자료에서 눈에 띄는 대목은 AI 공급기업의 변화입니다. 설비 한 대의 고장을 예측하던 예지보전 기업 원프레딕트가 공장 전체를 AI 중심으로 다시 설계하는 "산업 AI 운영체계" 공급 기업으로 성장했다고 소개되었고, 인이지는 판단 근거를 제시하는 "설명가능 AI" 기반 공정 자율운전 기술을 여러 업종으로 넓히고 있다고 밝혔습니다. 공급 시장도 단일 기능을 파는 데서 운영 구조 전체를 다루는 쪽으로 움직이고 있다는 신호로 읽을 수 있습니다.

정부는 2030년까지 AI팩토리 500개 구축을 목표로 제조데이터 수집과 모델 개발·실증을 계속 지원하고, 기업별로 흩어진 제조데이터를 모아 활용하는 국가 제조데이터 라이브러리도 구축하겠다고 밝혔습니다. 다만 보도자료는 각 기업의 운영 조직이나 재학습 방식까지는 공개하지 않으므로, 성과 수치보다 각 사례가 겨냥한 손실을 참고하는 편이 안전합니다.

5. NIST 프레임워크는 AI 운영을 어떻게 정의할까

운영체계를 처음부터 새로 설계할 필요는 없습니다. 널리 참고되는 기준이 있고, 중소 공장도 이를 규모에 맞게 줄여 쓸 수 있습니다.

NIST AI 위험관리 프레임워크: 거버넌스가 모든 활동을 관통합니다

NIST가 2023년 1월 발표한 AI 위험관리 프레임워크(AI RMF 1.0)는 AI 위험 관리를 거버넌스(Govern), 맥락 파악(Map), 측정(Measure), 관리(Manage)의 네 가지 기능으로 나눕니다. 이 중 거버넌스는 나머지 세 기능 모두에 스며드는 교차 기능으로 설계되었습니다.

이 프레임워크는 법적 의무가 아닌 자율 지침이며, NIST는 이를 정기적으로 검토해 고쳐 나가는 "살아 있는 문서"로 운영한다고 밝히고 있습니다. 공장 현장의 언어로 옮기면 아래와 같습니다.

6. 놓치기 쉬운 비용: 구축비보다 오래 남는 운영비

AI 예산을 세울 때 견적서에는 대개 솔루션과 하드웨어, 구축 인건비가 담깁니다. 운영체계 관점에서 이 금액은 시작 비용일 뿐이고, 설비를 쓰는 동안 이어지는 운영비가 따로 생깁니다.

AI는 일반 소프트웨어보다 유지보수가 잦을 수 있으므로 재학습과 점검 비용을 처음부터 예산에 넣어야 합니다. 금액은 공정과 솔루션마다 크게 다르므로 아래 항목을 견적 비교 기준으로 쓰기를 권합니다.

7. 운영체계가 흔들릴 때 나타나는 신호

운영 구조가 약한 AI는 갑자기 멈추기보다 조금씩 현장에서 밀려납니다. 아래 신호가 보이면 모델을 바꾸기 전에 운영 구조부터 점검하는 것이 순서입니다.

시행착오에서 얻는 점검 포인트

이런 신호는 대개 구축 단계에서 운영에 관한 질문을 뒤로 미뤘을 때 생깁니다. 파일럿을 시작할 때부터 정확도 목표와 함께 운영 목표를 정해 두면 상당 부분 미리 막을 수 있습니다.

• 파일럿 성공 기준에 현장 활용률과 점검 주기를 함께 넣습니다.
• 시연용 데이터가 아니라 최근 생산 데이터로 성능을 검증합니다.
• 모델·데이터·설정 정보를 회사가 보관하고 열람할 수 있도록 계약에 넣습니다.
• AI 판정이 안전과 연결되는 공정에서는 사람이 최종 확인하는 구간을 남겨 둡니다.

8. 중소 공장이 운영체계를 세우는 현실적인 순서

운영체계는 큰 조직이나 별도 플랫폼이 있어야만 세울 수 있는 것이 아닙니다. 한 공정에서 작게 시작해 반복 가능한 틀을 만든 뒤 넓혀 가는 방식이 현실적입니다.

1. 손실 하나를 고릅니다. 불량, 비가동, 검사 시간처럼 금액으로 환산할 수 있는 문제 하나를 정하고 공정 책임자를 지정합니다.
2. 데이터 흐름을 점검합니다. 그 문제와 관련된 데이터가 지금 어떤 형식으로, 얼마나 빠짐없이 쌓이는지 확인합니다.
3. 판단 기준을 맞춥니다. 숙련자마다 다른 불량 판정 기준을 하나로 정리해야 AI도 일관된 기준을 배웁니다.
4. 운영 목표를 포함한 파일럿을 진행합니다. 정확도와 함께 활용률, 점검 주기, 사용 중단 기준을 성공 조건에 넣습니다.
5. 점검과 재학습을 정례화합니다. 정기 지표 점검과 제품·자재 변경 시 재검증 절차를 작업 표준에 반영합니다.
6. 확산 조건을 미리 정합니다. 성과가 확인되면 어느 라인으로 어떤 순서로 넓힐지 정해 두어 시범 사업에 머물지 않게 합니다.

실태조사에서 데이터·AI 전담 조직을 둔 기업이 극소수였던 만큼, 처음부터 별도 부서를 만들기보다 기존 품질·설비 담당자에게 AI 책임 역할을 명확히 붙이는 방식이 현실적입니다.

9. 혼자 다 할 수 없다면: 위탁·공동 활용·내재화를 섞는 방식

모든 기업이 AI 인력을 둘 수는 없습니다. 운영체계의 각 요소를 누가 맡을지는 회사 역량과 AI 적용 범위에 따라 나눌 수 있습니다.

외부 위탁형

공급기업이 모델 관리와 재학습을 맡고, 회사는 판단 기준과 책임자 역할을 유지하는 방식입니다.

• 담당 인력이 적은 공장이 한 공정에서 시작할 때 맞습니다.
• 모델·데이터 접근 권한과 인수인계 조건을 계약에 넣어야 의존도를 관리할 수 있습니다.

공동 활용형

여러 기업이 인프라와 인력을 함께 쓰는 방식입니다. 산업통상부는 창원·광주 등 AX 실증산단을 거점으로 지역기업과 대학이 참여하는 MINI Alliance를 출범시켜, 산단 입주 기업들이 AI 데이터센터 같은 인프라와 기술·인력을 공동으로 활용하도록 하겠다고 밝혔습니다.

• 지역별 AX/DX협업지원센터는 AX 애로상담, PoC, 컨설팅, 제조·AI 공급기업 매칭 등을 지원한다고 안내되어 있어 첫 상담 창구로 확인해 볼 만합니다.
• 공동 인프라를 쓰더라도 자기 공장의 판단 기준과 책임자는 직접 정해야 합니다.

단계적 내재화형

외부 위탁으로 시작해 데이터 관리와 지표 점검부터 내부로 가져오는 방식입니다.

• 첫해에는 데이터 흐름 관리와 지표 점검을 내부 담당자가 맡습니다.
• 적용 공정이 늘면 모델 검증과 재학습 판단까지 단계적으로 가져옵니다.

AI의 성과는 설치한 날이 아니라 운영하는 방식에서 결정됩니다

"AI 도입이 아니라 AI 운영체계가 중요하다"는 말은 솔루션 선택을 가볍게 보라는 뜻이 아닙니다. 어떤 솔루션이든 데이터가 흐르고, 모델이 관리되며, 결과가 현장 판단으로 이어지고, 책임과 지표가 정해져 있어야 성과가 유지된다는 뜻입니다.

국내 중소·중견 제조기업 가운데 데이터·AI 전담 조직을 둔 곳은 아직 극소수이고, 정부가 공개한 성과 사례는 대부분 특정 공정의 측정 가능한 지표로 성과를 제시했습니다. NIST 프레임워크도 책임을 정하고, 측정하고, 결과에 따라 대응하는 순환 구조를 AI 위험관리의 기본 틀로 제시합니다. 중소 공장이라면 거창한 플랫폼보다 한 공정에서 작동하는 작은 운영 구조를 먼저 만드는 것이 가장 확실한 출발점입니다.

본 게시물은 AI 어시스턴트를 활용하여 초안을 작성하고 편집자의 검수를 거쳤습니다. 타 기업명 및 영업 기밀 보호를 위해 본문 중 일부 고유명사는 익명화(A/B) 처리되었습니다.