AI ERP 시연에서 꼭 해볼 7가지 질문

① 무엇을 읽고 ② 근거를 어디서 찾나요?

결과를 알고 있는 작업의 원가 차이를 질문하고 원본 작업·자재·시간 기록으로 이동해 보세요. 답변에 사용한 데이터의 시점을 확인합니다. 누락 데이터와 모호한 품목명도 넣어보세요. 공급업체가 설명하는 기능이 견적 버전에서 제공되는지, 별도 요금이나 설정이 필요한지도 함께 질문해야 합니다.

③ 권한을 지키고 ④ 모를 때 멈추나요?

현장 계정으로 급여·다른 법인·판매 마진을 질문하세요. 화면 권한뿐 아니라 AI 검색과 다운로드에도 같은 제한이 적용되는지 확인합니다. 답할 수 없는 질문에는 추정과 확인된 사실을 구분하는지 보세요. 우리 데이터로 확인하지 않은 일반 시연만으로 운영 환경의 안전성을 확정할 수 없습니다.

⑤ 변경을 보여주고 ⑥ 승인을 남기나요?

일정 변경이나 구매 제안을 실행하기 전에 대상 거래·수량·금액·후속 영향을 볼 수 있는지 확인하세요. 승인자는 누구이며 권한이 없으면 어떻게 처리되는지 테스트합니다. 승인 뒤 입력된 결과와 감사 이력도 확인해야 합니다. 단순 답변형과 거래 실행형 AI를 같은 기능으로 평가하지 마세요.

⑦ 실패하면 어떻게 복구하나요?

일부 거래만 반영되거나 응답이 끊기는 경우를 질문하세요. 중복 실행 방지·실패 알림·재처리 절차가 있어야 업무 책임을 정할 수 있습니다. 모델 공급자·데이터 보관·학습 사용·처리 지역은 계약 자료로 확인하세요. 이아나이ERP를 포함해 모든 후보에 같은 질문을 적용하고 AI라는 이름 자체에 가산점을 주지 마세요.

질문 세트는 정상·오류·불확실한 자료를 섞어 만드세요

가상의 작업번호 J-30에 재료 초과 사용, 누락된 외주비, 아직 확정되지 않은 작업시간을 넣어 보겠습니다. 질문은 원가가 왜 늘었는지 설명해 달라, 누락 비용을 반영하면 무엇이 달라지는가, 확인할 수 없는 부분은 무엇인가로 나눕니다. 예상 근거는 담당자가 미리 작성하고 AI 답변에서 원본 번호·금액·시점이 연결되는지 대조하세요. 답이 문장으로 자연스럽다는 것만으로 합격시키지 않습니다. 같은 질문을 데이터 수정 전후에 반복해 무엇이 바뀌었는지 기록하고 이전 답변의 보존·재조회 방법도 물어보세요. 이때 결과는 실제 제품 시험을 수행했다는 뜻이 아니라 후보에게 요청할 평가 설계입니다. 모델 이름보다 귀사 업무에서 허용할 사용 범위를 먼저 정의하는 것이 좋습니다.

읽기와 실행의 합격 조건을 분리하세요

조회형 AI는 잘못된 결론이 사람의 판단에 미치는 영향을 살펴야 하고 실행형 AI는 실제 거래의 변경 범위까지 확인해야 합니다. 가상의 구매 제안에서 부품 열 개를 주문하도록 지시했을 때 발주 초안 작성과 확정 발행을 구별해 보세요. 사람에게 보이는 변경 전후 값, 대상 거래, 예상 후속 문서와 승인자가 있어야 합니다. 일부 품목만 성공하거나 응답이 끊겨 다시 지시하는 경우를 넣어 이중 발주가 생기지 않는지 요청합니다. SAP Business One 기능 자료도 AI 조회 기능과 별도 서비스 설정을 구분해 안내하므로 각 후보에서 읽기·제안·실행이 실제 어느 기능인지 확인할 필요가 있습니다. 필수 합격 기준은 업무 책임자가 변경 내용을 이해하고 승인 전 멈출 수 있는 상태로 정하세요.

권한 시험에는 직접 질문과 우회 경로를 함께 씁니다

가상의 현장 계정은 자기 작업 수량을 볼 수 있지만 급여·다른 법인 원가·고객별 마진을 볼 수 없도록 설정하세요. 같은 값을 직접 질문하고 요약 보고서 작성, 파일 다운로드, 관련 문서 검색의 형태로도 요청합니다. 답변에 원문을 쓰지 않아도 합계·추정·인용 문서 제목으로 제한 정보가 드러나는지 확인해야 합니다. 외부 문서에 들어 있는 지시를 AI가 업무 명령으로 받아들이는지 확인하고 싶다면 공급업체와 합의한 무해한 시험 문장을 사용하세요. 통과 여부는 차단 화면뿐 아니라 검색 대상과 로그, 사용자 권한표에 근거해 판정합니다. 권한 변경 후 진행 중 대화와 이미 생성된 파일의 접근은 어떻게 처리되는지도 후속 질문으로 남겨야 합니다.

시연 기록을 도입 후 운영 기준으로 바꾸세요

회의 산출물은 질문·사용 계정·자료 버전·예상 근거·실제 답변·연결 거래·판정·미해결 사유를 가진 검증 기록입니다. NIST AI RMF는 AI 위험을 설계·사용·평가에서 검토할 자발적 프레임워크로 소개되며 특정 ERP의 적합성 인증은 아닙니다. 이를 참고하되 귀사가 어떤 조언을 사람이 확인하고 어떤 조치를 금지할지 구체적으로 정하세요. 새 버전이나 모델 변경 후 다시 실행할 핵심 질문도 골라 둡니다. 운영 중 잘못된 제안을 발견하면 원본 거래 정정, 답변 신고, 기능 중지, 공급업체 문의 중 누가 무엇을 맡는지 정해야 합니다. 업체 홍보에 나온 정확도·절감률을 귀사의 결과로 사용하지 말고 직접 검증하지 않은 기능은 미확인 상태로 유지하세요.

업무별 사용 한도와 검토자를 정하는 회의를 여세요

AI를 도입하기 전에 어떤 결과를 참고 정보로 쓰고 어떤 결과를 업무 문서 초안으로 쓸지 구분하세요. 가상의 재고 부족 설명은 자재 담당자가 확인하고 구매 발주 초안은 구매 책임자가 승인하며 급여·인사 관련 질의는 별도 제한을 두는 방식을 논의할 수 있습니다. 기능을 쓸 수 있다는 이유만으로 전 직원에게 같은 실행 권한을 줄 필요는 없습니다. 허용 업무·금지 업무·원본 확인 의무·승인자·잘못된 제안의 신고 창구를 한 장으로 만드세요. 데이터가 부족한 신제품이나 갑작스러운 주문 변동에서는 답변이 충분하지 않을 수 있으므로 수동 검토로 넘길 조건을 정합니다. 검토자가 답변을 바꾼 경우 수정 이유를 남겨 이후 평가 자료로 활용하는 방법도 요청할 수 있습니다. 이런 기록의 보관·접근 조건은 회사 방침과 공급업체 계약으로 확인하세요. 사용 한도는 홍보 문구보다 귀사가 검수한 사례와 실제 운영자가 감당할 수 있는 확인 업무를 기준으로 정하는 편이 좋습니다.

자주 묻는 질문

관련 제품 살펴보기

다음 제품 정보에서 공급업체 안내 범위를 확인하세요. 포함 여부는 순위나 모든 요구 충족을 의미하지 않습니다.