프리즘ML, 아이폰서 매개변수 270억개 AI 모델 구동 성공

[디지털투데이 황치규 기자]스타트업 프리즘ML이 아이폰17 프로에서 매개변수 270억개 규모 AI 모델을 구동했다. 모바일 기기에서구동되는 모델 중 가장 큰 수준이다. 모바일 기기에서 돌아갈 수 있는 모델들 활성 매개변수는 보통 수십억개다.

9일(현지시간) 디인포메이션 보도에 따르면 프리즘ML은 알리바바 오픈소스 대형언어모델 큐원3.6을 압축해 아이폰에서 돌렸다. 이 모델은 복잡한 대화와 추론, 완전 자율 에이전트, 소프트웨어 코딩까지 처리할 수 있다고 회사측은 밝혔다.

애플은 AI데이터센터 구축 레이스과는 거리를 두면서 아이폰에서 AI 기능을 커버하는 온디바이스 AI 전략을 강조해왔다.

바박 하시비 프리즘ML CEO는 인터뷰에서 "3년쯤 뒤에는 필요한 지능 95%를 휴대폰과 노트북, 가전기기에서 로컬로 쓰고 나머지 5%만 클라우드로 가는 세상을 상상해보라"며 "모델 압축이 AI 경제 구조 자체를 바꿀 것이다"고 말했다.

프리즘ML은 올해 초 코슬라벤처스 등으로부터1625만 달러 규모 시드 라운드를 유치했다.

회사 측에 따르면 프리즘ML은 수학적 기법으로 큐원3.6 크기를 크게 줄였다. 압축하면 보통 성능이 떨어지지만, 프리즘ML은 성능 저하 없이 줄였다는 점을 강조했다.

장기렌트 인기TOP