제조업 AI 에이전트, 어디까지 맡길 수 있나
성과 발표는 넘치는데, 공장에서 검증된 사례는 왜 드물까
제조 현장에서 "AI 에이전트"라는 이름은 꽤 넓은 범위에 붙습니다. 정비 이력을 찾아 주는 대화형 도우미부터 작업지시를 스스로 만드는 시스템까지 같은 이름으로 불리곤 합니다.
연구 문헌을 들여다보면 그림이 달라집니다. 2026년 10월 공개된 한 리뷰 논문은 제조용 LLM 에이전트 연구 164편을 분석했는데, 실제 산업 현장을 주된 시험 환경으로 삼은 연구는 2편뿐이었고 현장에 장기간 배치해 추적한 사례는 확인되지 않았습니다. 2024년 이후 발표된 영어 학술지·학회 논문으로 범위가 한정되고 아직 동료 심사를 거치지 않은 프리프린트이지만, 연구 흐름을 가늠하는 참고 자료로는 볼 만합니다.
이 글은 AI 에이전트가 기존 자동화와 무엇이 다른지, 도입 비용이 어디서 커지는지, 설비 안전과 어떻게 분리해야 하는지를 차례로 살펴봅니다. 마지막으로 업무마다 맡길 권한의 수준을 다르게 정하는 방법을 정리합니다.
규칙 기반 자동화·예측정비·AI 에이전트는 무엇이 다른가
규칙 기반 자동화는 미리 정한 조건에 따라 정해진 동작을 수행합니다. 머신러닝 예측정비는 진동·온도 같은 센서 데이터에서 고장 징후를 학습해 경보를 내거나 잔여 수명을 추정합니다. AI 에이전트는 여기서 한 걸음 더 나아가, 목표를 받으면 작업을 쪼개고 필요한 도구를 골라 호출한 뒤 결과를 보고 계획을 고쳐 나갑니다.
2025년 발표된 예측정비 분야 리뷰 논문은 LLM 기반 에이전트의 뼈대를 다음과 같이 설명합니다. 작업 단계 사이의 상태를 기억하는 메모리와 계획을 세우고 스스로 점검하는 추론 기능이 여기에 더해집니다.
- 모델: 맥락을 이해하고 계획과 판단을 맡는 언어 모델
- 도구: 데이터베이스, API, 분석 소프트웨어처럼 실제 작업을 수행하는 외부 구성 요소
- 지시와 가드레일: 쓸 수 있는 도구, 멈춰야 할 조건, 예외 처리 방법을 정한 운영 경계
| 구분 | 규칙 기반 자동화 | 머신러닝 예측정비 | LLM 기반 AI 에이전트 |
|---|---|---|---|
| 판단 방식 | 사전에 정의한 조건과 로직 | 데이터에서 학습한 패턴 | 언어 모델의 추론과 계획 |
| 다루는 데이터 | 정해진 신호 | 센서 시계열 중심 | 센서 데이터, 문서, 정비 로그, 자연어 지시 |
| 주된 출력 | 정해진 동작 | 경보, 고장 분류, 잔여 수명 추정 | 진단 설명, 작업지시 초안, 도구 호출 |
| 강점 | 동작을 예측하기 쉬움 | 정량적인 이상 감지 | 흩어진 비정형 정보의 종합 |
| 약점 | 정의되지 않은 상황에 취약 | 운전 조건이 바뀌면 성능 저하, 판단 근거 해석이 어려움 | 그럴듯한 오답, 실행할 때마다 달라지는 결과, 검증 부담 |
이 구분이 중요한 이유는 검증 방법이 달라지기 때문입니다. 예측정비 모델은 정확도와 오경보율로 평가할 수 있지만, 에이전트는 "올바른 도구를 골랐는지", "결과물이 실제로 실행 가능한지", "권한 밖의 일을 하지 않았는지"까지 따져야 합니다. 예측정비 성과를 에이전트 성과로 묶어 소개하는 자료를 볼 때 특히 주의가 필요한 대목입니다.
정보를 다루는 에이전트와 설비를 움직이는 에이전트
같은 리뷰 논문은 에이전트를 활동 영역에 따라 둘로 나눕니다. 정보 영역의 에이전트는 데이터와 문서를 읽고 진단, 계획, 보고서, 작업지시 초안을 만들어 승인을 요청합니다. 위험은 주로 잘못된 판단이나 우선순위 왜곡이어서 권한 한도와 승인 규칙으로 관리할 수 있습니다.
설비 영역의 에이전트는 물리 설비와 직접 상호작용합니다. 판단 오류가 곧바로 설비 손상이나 작업자 위험으로 이어질 수 있어 운전 안전과 규정 준수 측면의 제약이 훨씬 엄격해야 합니다.
- 정보 영역 예시: 정비 이력·매뉴얼 검색, 고장 원인 후보 정리, 작업지시 초안 작성, 예비품 발주 제안
- 설비 영역 예시: 운전 파라미터 변경, 로봇·제어기에 대한 명령
예측정비 리뷰 논문의 결론도 이 구분과 맞닿아 있습니다. 가까운 시일 안에 가치가 확인될 가능성이 큰 쪽은 정보 제공·의사결정 지원 에이전트이며, 자율성을 높이려면 더 강한 거버넌스와 벤치마크, 안전에 관한 근거가 필요하다고 봅니다.
연구 164편이 보여 준 현재 위치
도입부에서 소개한 리뷰 논문은 2024년 이후 발표된 학술지·학회 논문을 2026년 9월 말 기준으로 검색해 분석했습니다. 에이전트에게 어떤 권한을 주도록 설계했는지부터 보면, 92편은 최종 결정을 사람에게 맡기는 추천형, 22편은 실행 전에 승인을 받는 승인형, 50편은 사전 승인 없이 실행하는 자율 실행형이었습니다.
자율 실행형 50편 가운데 43편은 시뮬레이션을 포함해 제어 시스템이나 로봇을 조작하는 구조였습니다. 다만 저자들은 이것이 설계상의 운영 방식일 뿐, 실제 현장에서 자율 운영이 입증됐다는 뜻은 아니라고 선을 긋습니다.
평가 방식의 편중은 더 뚜렷합니다. 출력 품질은 155편(95%)이 평가했지만, 계획이나 결과물이 실제로 실행 가능한지와 운영 제약을 지키는지 확인한 연구는 57편(35%)이었습니다. 사람과 에이전트의 협업 효과를 평가한 연구는 19편(12%), 안전·보안·규정 준수를 평가한 연구는 17편(10%)에 그쳤습니다.
현업에서 얻을 시사점은 분명합니다. "데모에서 잘 작동했다"와 "공장에서 믿고 맡길 수 있다"는 서로 다른 질문입니다. 공급사가 제시하는 성과 수치를 볼 때는 그 결과가 오프라인 데이터, 시뮬레이션, 실험실, 실제 현장 중 어디에서 나왔는지부터 확인해야 합니다.
도입 비용은 소프트웨어 바깥에서 커진다
견적서에서 잘 보이는 것은 소프트웨어 라이선스와 언어 모델 사용료입니다. 실제 부담은 그 주변에서 커지는 경우가 많습니다. 예측정비 리뷰 논문은 예측정비 도입 전반에서 이미 알려진 장벽으로 기존 시스템과의 통합, 공급사 간 상호운용성 부족, 불확실한 경제적 효과, 비싼 데이터 라벨링, 중소기업의 분석 인력 부족을 꼽습니다. 에이전트도 같은 데이터와 시스템 위에서 동작하므로 이 장벽에서 자유롭지 않습니다.
| 비용 항목 | 주요 내용 | 놓치기 쉬운 이유 |
|---|---|---|
| 데이터 정비 | 정비 로그·매뉴얼·고장 이력 정리, 라벨링 | 형식이 제각각이고 고장 사례가 적어 수작업이 길어짐 |
| 시스템 연동 | MES·CMMS·SCADA 등 기존 시스템 연결, 접근 권한 설정 | 공급사마다 인터페이스가 달라 개별 개발이 필요 |
| 추론 인프라 | 클라우드 호출 비용 또는 사내 서버 구축 | 데이터 반출이 제한되면 사내 구축으로 바뀌며 비용 구조가 달라짐 |
| 검증·감사 운영 | 시험 환경, 로그 보관, 모델 변경 검토 | 도입 후에도 매년 이어지는 운영비 |
| 사람의 승인 시간 | 승인형 업무를 검토하는 인력 | 승인 건수가 늘면 그 자체가 병목이 됨 |
추론 인프라는 생각보다 빨리 쟁점이 됩니다. 앞의 164편 가운데 45편은 언어 모델을 로컬이나 사내 환경에 배치했습니다. 생산 데이터를 외부로 보내기 어려운 현장이라면 초기 견적에 이 선택지를 함께 넣어 비교해야 합니다.
효과 측정도 비용의 일부입니다. 예측정비 리뷰 논문은 투자 대비 효과가 불확실할 수 있고, 명확한 처리 절차가 없으면 경보가 무시되거나 잘못된 조치로 이어질 수 있다고 지적합니다. 정비 응답 시간, 작업지시 반려율처럼 무엇으로 성과를 잴지를 도입 전에 정해 두어야 나중에 확대 여부를 판단할 수 있습니다.
안전 기능은 에이전트 밖에 둔다
비상정지, 인터록, 안전 제어기 같은 안전 기능은 기능안전 국제표준에 따라 설계하고 검증하는 영역입니다. 정해진 조건에서 항상 같은 동작을 보장해야 하므로, 같은 입력에도 출력이 달라질 수 있는 언어 모델과는 성격이 맞지 않습니다. 에이전트는 안전 기능 위에서 동작하는 상위 계층으로 두고, 에이전트가 오작동해도 안전 기능은 독립적으로 작동하도록 구성하는 것이 기본 원칙입니다.
그 위에서 에이전트 자체를 통제하는 장치도 필요합니다. 예측정비 리뷰 논문이 제시하는 방법은 다음과 같습니다.
- 권한 한도: 에이전트가 단독으로 할 수 있는 일과 승인이 필요한 일을 수치 한도와 함께 기계가 읽을 수 있는 정책으로 명시합니다.
- 역할별 권한과 승인 관문: CMMS처럼 민감한 시스템은 역할별로 접근 권한을 나누고, 영향이 큰 작업은 사람이 확인한 뒤 실행합니다.
- 강등·정지 장치: 불확실성이 한도를 넘으면 관찰만 하는 모드로 자동 전환하고, 원격으로 즉시 멈출 수 있는 수단을 둡니다.
모든 단계를 로그로 남기는 것도 빠질 수 없습니다. 에이전트가 다른 도구나 하위 에이전트에 일을 넘길 때 누가 무엇을 결정했는지 추적할 수 없으면, 문제가 생겨도 원인을 찾기 어렵습니다.
실패는 대개 "권한"과 "근거"에서 시작된다
첫 번째 실패 지점은 경험해 보지 못한 데이터입니다. 학습 범위를 벗어난 운전 조건에서도 에이전트는 그럴듯한 진단을 내놓을 수 있습니다. 예측정비 리뷰 논문은 신뢰도 임계값을 두고 복수의 가설을 함께 제시하게 하며, 사람의 판단을 의사결정 과정에 포함시키는 방식으로 이 위험을 줄일 수 있다고 봅니다.
두 번째는 권한이 슬그머니 넓어지는 현상입니다. 예비품 조달을 맡긴 에이전트가 비싼 긴급 배송을 습관처럼 선택하는 경우가 그 예입니다. 처음 합의한 범위를 넘는 행동이 쌓이는데도 아무도 알아채지 못하는 구조라면, 사람이 승인하는 단계와 최소 권한 원칙을 다시 설계해야 합니다.
세 번째는 정보 비대칭입니다. 에이전트가 불확실성이나 전제 조건을 밝히지 않고 결론만 내놓으면 담당자는 검토할 근거가 없습니다. 제안마다 불확실성, 가정, 대안을 정해진 형식으로 함께 적게 하고, 이를 갖추지 않은 제안은 다음 단계로 넘어가지 못하게 하는 것이 대응책입니다. 측정하기 쉬운 지표만 좇다가 안전이나 규정 준수가 뒤로 밀리는 문제, 중복된 작업지시가 쌓이는 문제도 같은 뿌리에서 나옵니다.
마지막은 안전장치를 "만들어 두기만 하는" 실패입니다. 164편 분석에서 외부 검사 장치를 둔 연구는 74편, 사람의 승인을 요구한 연구는 22편이었지만 안전·보안·규정 준수를 실제로 평가한 연구는 17편이었습니다. 자율 실행형 50편 가운데 17편은 실행 중 검증 장치 자체를 보고하지 않았습니다. 장치는 그것이 막으려는 고장 상황을 직접 넣어 시험해 봐야 효과를 알 수 있습니다.
업무별로 권한 수준을 나누는 혼합 운영
현실적인 해법은 에이전트에게 일괄적으로 권한을 주는 것이 아니라 업무 성격에 따라 권한 수준을 다르게 배치하는 것입니다. 기준은 설비에 직접 닿는지, 잘못됐을 때 되돌리기 쉬운지입니다.
- 추천형: 정비 이력·매뉴얼 검색, 고장 원인 후보 정리, 보고서 초안처럼 최종 판단을 사람이 내리는 업무입니다.
- 승인형: 작업지시 사전 작성, 예비품 구매 요청, 정비 일정 제안처럼 담당자가 확인한 뒤 실행되는 업무입니다.
- 제한적 자율형: 데이터 품질 점검이나 이상 데이터 선별 전송처럼 되돌리기 쉽고 설비를 직접 움직이지 않는 업무입니다.
예측 모델을 관리하는 일에도 같은 원칙이 적용됩니다. 예측정비 리뷰 논문은 에이전트가 새 모델을 시험 환경에서 평가하고 기준을 넘으면 운영 반영을 "제안"하는 데까지만 맡고, 운영 환경에 직접 배포하지는 않도록 하라고 권합니다. 설비 운전값을 바꾸는 일은 시뮬레이션과 안전 한계 안에서 충분한 검증 근거가 쌓이기 전까지 사람의 몫으로 남겨 두는 편이 안전합니다.
권한 수준을 올릴지 판단할 때는 같은 조건에서 반복 실행했을 때 결과가 얼마나 흔들리는지, 결과물이 실제 제약 조건을 지키는지, 막으려는 고장 상황을 넣어 시험했는지를 근거로 삼습니다. 앞의 164편 가운데 반복 실행 결과의 편차를 보고한 연구가 31편(19%)에 그쳤다는 점을 떠올리면, 이 근거를 스스로 쌓는 과정이 곧 도입 과정의 핵심입니다.
맡길 범위는 기술이 아니라 "증거"가 정한다
AI 에이전트는 문서와 데이터, 도구를 묶어 일을 처리한다는 점에서 기존 자동화나 예측정비와 다릅니다. 연구 문헌이 보여 주듯 출력 품질은 활발히 검증되고 있지만, 실제 현장에서의 안정성과 안전성 검증은 아직 초기 단계입니다.
그래서 첫걸음은 작게 잡는 것이 좋습니다. 정비 이력 검색이나 작업지시 초안처럼 정보 영역의 업무 하나를 골라 추천형으로 시작하고, 성과 지표와 로그 체계를 먼저 갖춥니다. 공급사를 검토할 때는 "어떤 환경에서 시험했는지", "반복 실행 결과가 얼마나 일정한지", "안전 시나리오를 시험했는지" 세 가지를 물어보십시오. 그 답이 에이전트에게 맡길 수 있는 범위를 정해 줍니다.
참고문헌
- Di Maggio, L. G. "Toward Autonomous LLM-Based AI Agents for Predictive Maintenance: State of the Art, Challenges, and Future Perspectives." Applied Sciences (MDPI). 2025-10-28. https://www.mdpi.com/2076-3417/15/21/11515. (CC BY)
- Moradzadeh Farid, N.; Shafiee, S. "LLM-Based Agentic AI in Manufacturing: A Scoping Review of Applications, System Designs and Evaluation Practices." Version 1. Preprints.org. 2026-10-26. https://www.preprints.org/manuscript/202610.2479. (CC BY 4.0)
본 게시물은 AI 어시스턴트를 활용하여 초안을 작성하고 편집자의 검수를 거쳤습니다. 타 기업명 및 영업 기밀 보호를 위해 본문 중 일부 고유명사는 익명화(A/B) 처리되었습니다.