[디지털투데이 AI리포터] 마이크로소프트(MS)가 소규모언어모델(SLM) '뮤'(Mu)를 발표하며, PC에서 직접 동작하는 자연어 기반 인공지능(AI) 에이전트를 선보였다. 뮤는 복잡한 연산 없이도 빠른 응답을 제공하며, 오프라인 환경에서도 강력한 성능을 발휘한다.

24일(현지시간) 온라인 매체 기가진은 MS가 뮤를 통해 AI 에이전트의 실시간 반응 속도를 대폭 향상시켰다고 전했다. 뮤는 코파일럿+(Copilot+) PC의 신경처리장치(NPU) 성능을 극대화해 매초 100~200 토큰을 처리할 수 있으며, 응답 속도는 기존 대비 4.7배 빨라졌다. 이를 위해 듀얼 레이어 정규화(Dual LayerNorm), 로터리 위치 임베딩(RoPE), 그룹 쿼리 어텐션(GQA) 등 최신 기술을 적용해 적은 파라미터로도 높은 성능을 구현했다.

MS는 뮤를 고품질 교육용 데이터로 학습시킨 후, 대형 모델 '파이'(Phi)의 지식을 '증류'(distillation) 방식으로 이식해 파라미터 효율성을 극대화했다. 최종적으로 360만 개의 샘플 데이터를 활용해 세밀한 튜닝을 거쳐, 사용자가 '마우스 포인터 크기 조정' 같은 자연어 명령을 입력하면 즉각적인 설정 변경을 제안할 수 있도록 했다.

이전에는 '파이-실리카'(hi-Silica)가 코파일럿+ PC의 SLM으로 탑재됐지만, 응답 속도가 문제였다. 뮤는 500밀리초(ms) 미만의 빠른 반응 속도와 수백 개 설정 항목을 지원하며, MS는 이를 통해 AI 기반 사용자 경험을 혁신할 계획이다. 뮤는 현재 윈도 인사이더 프로그램을 통해 테스트 중이며, 지속적인 피드백을 받아 성능을 개선할 예정이다.

• 메타 AI, 잘못된 전화번호 안내…'무책임한 거짓말' 논란
• 에브리존, 인도네시아 금융사에 안티랜섬웨어 화이트디펜더 공급
• 알리바바 클라우드, 유니플러스와 국내 스타트업 시장 공략 협력
• 안랩 그룹, 정보보호 국제 표준 ‘ISO/IEC 27001:2022’ 인증 획득
• 日 오사카·간사이 엑스포 80세 이상 무료? AI 검색 오정보 논란