표준의 제정 에 관한 설명서 1. 일반사항    가. 제안표준명 AI 반도체 기반 서비스 수준 목표(SLO) 정의 및 사용자 요구사항    나. 제안목적 NPU 등 AI 반도체 기반 LLM 서비스의 유형별 대표 시나리오와 정량적 서비스 수준 목표(SLO)를 정의하고, 이를 측정·검증하기 위한 사용자 요구사항을 제공하여 서비스 품질 관리 및 SLA 이행 검증의 실용적 기준을 마련함.    다. 추진경위 국산 NPU의 성능을 수요자와 공급자 모두가 공감할 수 있는 실 환경 기반으로 평가하기 위한 요구가 제기됨에 따라, K-AI반도체 실무협의체에서 성능평가 기준(K-Perf)을 도출('25.12월)하였음. 이 과정에서 CSP, AI 및 디바이스 개발기업 등 수요자의 요구수준을 분석하고, 실 서비스 시나리오별 성능 요구수준(SLO)을 제시할 필요성이 확인되어, 이를 단체표준으로 정립하고자 TTA TC4/PG417을 통해 표준화를 추진함.    라. 적용범위 주 : NPU 등 AI 반도체 기반 LLM 서비스에서 측정 가능한 서비스 수준 목표(SLO)의 정의 및 측정·검증 부 : 온프레미스·클라우드 환경의 AI 반도체 기반 서비스 플랫폼을 대상으로 한 서비스 유형별 대표 시나리오 및 이해관계자별 사용자 요구사항    마. 표준구현 제품        /서비스명         (회사명 및 서비스를         구체적으로 기재) NPU 기반 LLM 추론 서비스 플랫폼(온프레미스/클라우드) 제공사/AI 반도체 기반 대화형·배치형 추론 서비스    바. 정보통신표준           분류체계 Architecture분류 대분류: IT Application 및 서비스 운영   소분류: 서비스운영/QoS ServiceDomain분류 대분류: 인터넷응용서비스   소분류: 웹서비스    사. 표준도입시기 6개월 이내     아. 표준활용 예상성과         (구체적으로 기재) AI 반도체 기반 서비스의 성능을 정량 지표(TTFT, TPOT, E2EL, Throughput 등)로 측정·비교할 수 있는 공통 기준 제공. 서비스 제공자와 사용자 간 SLA 수립 및 이행 검증에 활용 가능하며, 이해관계자(개발자·구축자·관리자·사용자)별 요구사항 체계를 통해 서비스 품질 관리의 실용적 기반을 마련함.    자. 표준(안) 작성시기 (착수)20260601 ~ (완료)20261204    차. 개정대상표준         (개정표준에 한함) 표준번호 : 제정일 :    카. 내용요약         (개정표준의 경우 개정내용         위주로 작성) 통신·금융·공공·커머스·엔터테인먼트 등 주요 도메인에 걸쳐 15개의 대표 서비스 시나리오를 도출하고, 각 시나리오별 ISL(Input Sequence Length)·OSL(Output Sequence Length)·Batch 규격을 정의함. TTFT(Time To First Token), TPOT(Time Per Output Token), ITL(Inter-Token Latency), E2EL(End-to-End Latency), Throughput 등 핵심 측정지표 체계를 수립하고, 국내외 실서비스 사례와 MLPerf(MLCommons의 머신러닝 성능 벤치마크) 등 국제 벤치마크를 바탕으로 SLO(Service Level Objective) 기준값을 도출함. 또한 서비스 개발자·시스템 구축자·시스템 관리자·서비스 사용자 등 이해관계자 유형별 요구사항을 체계적으로 정리함.    타. 제안 초안의 종류         (중복선택 가능)   TTA 표준화위원회 자체 개발 표준  (위원회명: PG417)   2. 국외표준준용(인용) 여부    가. 준용(인용)구분 순수고유표준    나. 준용(인용)표준 - 주 준용표준 (기구명/표준번호) ,   제정일: - 부 준용표준 (복수표준준용 경우) ,   제정일:    다. 준용(인용) 내용 3. 시험인증 관련성    가. 시험표준의 필요성   Yes No    나. 시험표준 필요 사유          (법적 강제성 여부 등          구체적 기재)    다. 시험표준 대상          (제품/서비스명          구체적으로 기재)    라. 시험인증 대상 종류         (중복선택 가능)   해당사항없음      마. 시험표준 제정 현황         (본 표준에 시험방법         내용 포함 여부 등)   시험표준 없음   4. 국가표준 추진 여부 Yes No   (*국가 표준으로의 건의는 위 의견을 참고하여 표준화위원회에서 검토 후 그 여부를   정함) 5. 기타특기사항  본 표준에서 제시하는 ISL·OSL·Batch 규격값과 SLO 기준은 고정값이 아니라, AI 반도체의 연산 성능·메모리 대역폭·소프트웨어 스택 발전 및 실서비스 운영 데이터 축적에 따라 주기적으로 검토·보완되어야 함.