검열을 풀고, 추론을 심고, 감정을 품은 AI [정원훈의 AI 트렌드]
||2026.03.20
인공지능(AI) 트렌드를 가장 빠르게 알 수 있는 허깅페이스를 분석하는 정원훈의 AI 트렌드입니다. 이번 주 허깅페이스는 한마디로 '검열이 벗겨지고, 추론이 이식되고, 소리가 살아난' 한 주였습니다.
거대 기업의 프리미엄 AI 추론 능력을 오픈소스 모델에 통째로 옮기는 대담한 실험이 화제를 모았고, 안전 필터를 '수술적'으로 제거한 완전 개방형 모델이 커뮤니티를 뜨겁게 달궜습니다. 그 사이 텍스트 한 줄로 웃음·속삭임·감탄까지 담은 음성을 만들어 내는 TTS 모델이 오픈소스로 풀렸습니다.
이번 주의 키워드는 세 가지입니다. '안전 필터를 걷어낸 Qwen3.5-35B 언센서드', '클로드(Claude) 오퍼스의 추론을 오픈소스로 이식한 Qwen3.5-27B Distilled', 그리고 '1만 시간의 음성을 학습한 Fish Audio S2 Pro'입니다. 값비싼 상용 API 없이도, 검열 제약 없이도, 별도 녹음 없이도 최신 AI를 쓸 수 있는 세상이 눈앞에 펼쳐지고 있습니다. 이번 주도 퀴즈로 시작하겠습니다.
“커뮤니티 개발자 HauhauCS가 알리바바의 Qwen3.5-35B-A3B 모델에서 안전 필터를 'abliteration' 기법으로 제거해 공개한 이 모델은 465개 거부 테스트에서 단 0건의 거부를 기록했습니다. 이미지와 텍스트를 모두 이해하는 멀티모달 능력은 그대로 살린 채 GGUF 포맷으로 로컬 실행을 지원합니다. 이 모델의 이름은?”
“1000만 시간 이상의 오디오 데이터로 학습된 이 TTS 모델은 [whisper], [laughing], [pitch up] 같은 자유형 자연어 태그를 텍스트 안에 삽입해 음성의 감정·톤·속도를 세밀하게 제어합니다. 80개 이상의 언어를 지원하며, Dual-AR 구조로 실시간 스트리밍에서도 높은 음질을 유지합니다. 이 모델의 이름은?”
정답은 'Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive'와 'Fish Audio S2 Pro'입니다. 그럼 이번 주에는 어떤 혁신이 등장했는지 함께 살펴보겠습니다.
AI 모델 톱3
1위: HauhauCS/Qwen3.5-35B-A3B-Uncensored-Aggressive | Image-Text-to-Text
"검열을 수술적으로 걷어낸 350억 모델… 오픈소스 자유의 최전선"
올해 2월 알리바바가 공개한 Qwen3.5 시리즈는 AI 업계에 신선한 충격을 줬습니다. 397억 개 파라미터 중 고작 30억 개만 활성화하는 MoE(Mixture-of-Experts) 구조로, 적은 GPU 자원으로도 대형 모델 수준의 성능을 뽑아내 화제가 됐죠. 그런데 이 모델을 커뮤니티 개발자 HauhauCS가 한 단계 더 끌고 갔습니다.
'Uncensored-Aggressive'라는 이름에서 짐작하듯이 원본 모델의 안전 필터를 abliteration(수술적 검열 해제) 기법으로 제거한 모델입니다. 쉽게 말해, 모델 내부에서 '이 질문은 거부해야 한다'고 판단하는 방향(벡터)을 수학적으로 찾아내 깔끔하게 잘라낸 겁니다. 결과는 놀랍습니다. 465개 거부 테스트에서 0건의 거부로 즉, 어떤 질문에도 답하는 모델이 된 거죠. 중요한 건 모델의 지식이나 멀티모달(이미지+텍스트) 능력에는 손상이 전혀 없다는 점입니다.
비유하자면, 시험 문제를 다 풀 수 있는 학생에게서 '이건 안 풀겠습니다'라는 고집만 빼낸 것과 같습니다. llama.cpp, LM Studio 등 주요 로컬 실행 도구를 모두 지원하는 GGUF 포맷으로 제공되며 총 350억 파라미터 중 실제 작동은 30억 개(MoE 구조)라 일반 소비자 GPU에서도 돌릴 수 있습니다.
어디에 활용할 수 있을까요? 제한 없는 창작 보조, 연구용 레드팀(보안 테스트), 검열 없는 커스텀 챗봇 개발 등에 적합합니다. 다만 안전 필터가 없는 만큼 상용 서비스 적용 시에는 별도의 가드레일(안전장치)이 필수입니다. 칼 자체에는 선악이 없듯, 도구의 책임은 사용자에게 있다는 점을 꼭 기억해주세요.
2위: Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled | Text Generation
“클로드의 생각법을 오픈소스에 이식하다… 지식 증류의 대담한 실험"
지난 주 2위였던 이 모델이 이번 주도 2위에 올랐는데요. 이름부터 범상치 않습니다. 알리바바의 Qwen3.5-27B 베이스 모델에 앤트로픽의 클로드 오퍼스 4.6 추론 데이터를 '지식 증류(Knowledge Distillation)' 기법으로 학습시킨 모델입니다. 쉽게 말하면, 값비싼 최강 AI 선생님(Claude Opus)이 문제를 풀어나가는 사고 과정을 저렴한 오픈소스 학생 모델(Qwen3.5-27B)에게 통째로 가르친 겁니다.
진짜 포인트는 '사고 과정의 이식'입니다. 기존 방식이 정답지만 보여줬다면, 지식 증류는 답을 내기까지의 단계적 추론 과정 자체를 학습 데이터로 삼습니다. '1번, 핵심 목표 파악 → 2번, 하위 과제 분류 → 3번, 제약 조건 점검...' 이런 구조화된 사고 패턴을 SFT(지도 미세조정)와 LoRA로 주입한 것이죠. 덕분에 복잡한 수학 풀이, 논리 추론, 코딩 문제 해결에서 원본 Qwen3.5-27B 대비 눈에 띄는 성능 향상을 보입니다.
커뮤니티 테스트에서 RTX 3090 한 장으로 9분 이상 자율 코딩 에이전트를 중단 없이 구동했다는 결과도 화제입니다. 클로드 코드, 오픈코드 같은 코딩 에이전트와 바로 호환되며, 아파치 2.0 라이선스로 상업적 이용에 아무 제약이 없습니다. 폐쇄형 API에 월 수십만 원을 쓰던 개발자들이 관심을 보이는 이유가 바로 여기 있습니다.
어디에 활용할 수 있을까요? 법률·의료 문서의 단계적 분석, 복잡한 비즈니스 의사결정 보조, 수학·과학 교육 AI 튜터, R&D 아이디어 논리 검증, 로컬 코딩 에이전트 구동 등에 적합합니다.
3위: fishaudio/s2-pro | Text-to-Speech
"텍스트에 숨결을 불어넣다… 웃음·속삭임·감탄까지 제어하는 차세대 TTS"
텍스트를 음성으로 바꾸는 TTS 모델의 새로운 기준이 등장했습니다. Fish Audio의 S2 프로는 1000만 시간 이상의 오디오 데이터, 80개 이상의 언어로 훈련된 50억 파라미터 규모의 대형 TTS 모델입니다. 한국어도 티어 2(강력 지원) 수준으로 포함되어 있습니다.
가장 흥미로운 기능은 자유형 인라인 태그 제어입니다. 기존 TTS가 '기쁨', '슬픔' 같은 정해진 감정 옵션만 제공했다면, S2 프로는 텍스트 안에 [whisper in small voice], [laughing], [pitch up], [professional broadcast tone] 같은 자연어 지시를 직접 삽입할 수 있습니다. 1만5000개 이상의 태그를 지원하며, 정해진 목록이 아니라 자유롭게 표현을 기술할 수 있다는 점이 혁신적입니다. 비유하자면 지금까지 TTS가 '감정 버튼 5개짜리 리모컨'이었다면, S2 프로는 '자연어로 말하면 알아듣는 AI 성우'인 셈입니다.
기술적으로는 Dual-AR(이중 자기회귀) 구조가 핵심입니다. 4B짜리 Slow AR이 시간 축을 따라 의미 코드북을 예측하고, 400M짜리 Fast AR이 나머지 9개 음향 코드북을 채워 넣는 비대칭 설계로, 실시간 스트리밍에서도 높은 음질을 유지합니다. 오디오 튜링 테스트에서 기존 유명 모델(Seed-TTS, MiniMax-Speech)을 크게 앞서는 성적을 기록했으며, 모델 가중치·파인튜닝 코드·추론 엔진까지 모두 오픈소스로 공개됐습니다.
어디에 활용할 수 있을까요? AI 보이스 콘텐츠 제작, 오디오북·팟캐스트 자동 생성, 고객 응대 챗봇 음성 출력, 멀티스피커 대화 생성, 실시간 통역 서비스, 게임 NPC 음성 등에 활용 가능합니다. 연구·비상업적 사용은 무료이며, 상업적 사용에는 별도 라이선스가 필요합니다.
AI 응용프로그램(Spaces) 톱3
허깅페이스 스페이스는 AI 모델을 웹 브라우저에서 바로 체험할 수 있는 플레이그라운드입니다. 코드 한 줄 없이 최신 AI 기술을 만져볼 수 있죠. 이번 주 가장 뜨거운 스페이스 3곳을 소개합니다.
1위: Voxtral Realtime WebGPU | Mistral AI
"서버도 API도 없이, 브라우저 탭 하나로… 음성이 실시간으로 글자가 되다"
'내 음성이 서버로 전송되지 않는' 음성 인식, 이게 왜 중요할까요? 미스트랄 AI의 Voxtral Realtime은 웹GPU 기술을 활용해 4B(40억) 파라미터의 음성 인식 모델을 웹 브라우저 안에서 완전히 로컬로 실행합니다. 마이크에 대고 말하면 500밀리초(0.5초) 이내에 텍스트가 나타나며, 영어·중국어·한국어·일본어 등 13개 언어를 지원합니다.
비결은 웹GPU입니다. 사용자의 그래픽카드를 브라우저에서 직접 활용해 AI 추론을 로컬에서 처리하는 차세대 웹 표준이죠. 덕분에 데이터가 외부 서버에 단 한 바이트도 나가지 않아 개인정보 보호 측면에서 강력한 강점을 가집니다. FLEURS 벤치마크 기준 영어 WER(단어 오류율) 4.90%로 오프라인 모델에 필적하는 정확도를 실시간으로 달성합니다. 아파치 2.0 라이선스로 상업적 사용도 완전히 자유롭습니다.
어디에 활용할 수 있을까요? 개인정보 보호가 중요한 의료·법률 분야의 실시간 받아쓰기, 네트워크가 불안정한 현장의 음성 기록, 회의록 자동 작성, 보이스 에이전트 파이프라인 구축 등에 바로 활용 가능합니다.
2위: Fish Audio S2 Pro | artificialguybr
"GPU 없이 체험하는 AI 성우… 제로 GPU로 만나는 차세대 음성 합성"
위에서 소개한 Fish Audio S2 Pro 모델을 별도 설치나 고가 GPU 없이 웹에서 바로 체험할 수 있는 스페이스입니다. '제로 GPU' 환경에서 작동하므로 GPU가 없는 사용자도 고품질 TTS의 현재 수준을 직접 확인할 수 있습니다.
텍스트를 입력하고 [laughing], [whisper], [excited] 같은 감정 태그를 삽입해보면, AI 음성이 정말로 웃고, 속삭이고, 흥분하는 것을 체감할 수 있습니다. 다양한 언어와 화자를 바꿔가며 테스트해볼 수 있어, 자신의 프로젝트에 TTS를 도입하기 전 프로토타이핑 용도로 안성맞춤입니다.
어디에 활용할 수 있을까요? AI 음성 프로토타이핑, 콘텐츠 제작 전 음성 톤·감정 테스트, 교육 자료 음성 변환 실험, 다국어 음성 품질 비교 등에 적합합니다.
3위: MCP | FLUX.2 Klein 9B KV | Black Forest Labs
"1초 만에 이미지를 만들고 고치다 … AI 에이전트와 손잡은 이미지 생성기"
스테이블 디퓨전의 후속 세대를 이끌고 있는 Black Forest Labs가 FLUX.2 [klein] 시리즈의 최신작을 공개했습니다. 90억 파라미터의 flow matching transformer로, 텍스트로 이미지를 생성하는 것은 물론 기존 이미지를 참조해 편집하는 멀티레퍼런스 편집까지 1초 이내에 처리합니다. 비유하자면 '요청하면 즉석에서 그림을 그려주는 화가'가 이제 '사진을 보면서 고쳐 그릴 수도 있게 된' 겁니다.
'KV' 변형의 핵심은 참조 이미지의 키-값(Key-Value) 쌍을 캐시하는 기술입니다. 첫 번째 추론에서 참조 이미지를 분석해두면, 이후 편집 요청 시 같은 분석을 반복하지 않아 최대 2.5배 속도 향상을 달성합니다. Qwen3 기반 80억 파라미터 텍스트 임베더를 탑재하고 4스텝 추론으로 증류되어 있어, 크리에이티브 작업에서 실시간 반복이 가능합니다.
특히 MCP(Model Context Protocol)를 지원한다는 점이 주목할 만합니다. MCP란 AI 에이전트가 외부 도구를 자유롭게 활용할 수 있게 해주는 연결 표준인데요, 이를 통해 클로드 같은 AI 에이전트에서 '이 사진을 겨울 느낌으로 바꿔줘'라고 말하면 FLUX.2가 바로 이미지를 생성·편집해 돌려주는 워크플로가 가능해집니다.
어디에 활용할 수 있을까요? 실시간 디자인 프로토타이핑, AI 에이전트 기반 자동 이미지 생성, 마케팅 콘텐츠 대량 제작, 제품 이미지 변형 자동화, 게임 에셋 빠른 반복 제작 등에 활용 가능합니다.
시사점 & 인사이트
이번 주 트렌드를 한마디로 요약하면 '벗기고, 이식하고, 들려준다'입니다. AI는 더 이상 울타리 안에서 조용히 답만 내는 도구가 아닙니다.
첫째, '검열 해제 모델'의 등장은 오픈소스 AI의 양면을 보여줍니다.
HauhauCS의 언센서드 모델이 보여주듯, abliteration 기법은 모델의 성능을 훼손하지 않으면서 안전 필터만 선택적으로 제거할 수 있는 수준에 도달했습니다. 연구자들에게는 모델 내부 구조를 이해하고 레드팀 테스트를 수행할 수 있는 귀중한 도구이지만, 동시에 악용 가능성에 대한 논의도 불가피합니다. 기술 자체가 아닌, 거버넌스와 사용 정책의 정교함이 중요해지는 시점입니다.
둘째, 추론 능력의 '민주화'가 빠르게 진행 중입니다.
클로드 오퍼스의 추론 로직을 오픈소스 모델에 이식한 시도는 AI 생태계의 무게추를 바꾸고 있습니다. 기업들은 GPT-4급 추론 능력을 쓰기 위해 매달 비싼 API 비용을 치러왔습니다. 지식 증류 기술이 확산되면서 '좋은 AI는 비싸다'는 공식이 서서히 무너지고 있습니다. 스타트업과 연구기관에게는 반가운 소식이지만, 상용 AI 서비스 사업자에게는 상당한 위협이 될 수 있습니다.
셋째, 음성 AI의 '감정 표현' 혁명이 시작됐습니다.
Fish Audio S2 Pro와 Voxtral의 동시 부상은 우연이 아닙니다. TTS의 자연스러움이 '사람과 구별 불가' 수준에 근접하고, 실시간 음성 인식이 브라우저 하나로 가능해졌습니다. 특히 자유형 태그로 감정까지 제어할 수 있게 되면서, 콜센터·오디오 콘텐츠·접근성 서비스 등 음성 기반 비즈니스의 진입 장벽이 획기적으로 낮아지고 있습니다.
넷째, '브라우저 = AI 실행 환경'이라는 등식이 굳어지고 있습니다.
Voxtral이 4B 모델을 브라우저 탭에서 실시간으로 돌리는 것을 보면, 웹GPU가 단순한 데모 기술이 아니라 실제 프로덕션 배포 타깃이 되고 있음을 알 수 있습니다. 서버 비용 없이, API 키 없이, 데이터 유출 걱정 없이 AI를 쓸 수 있는 '온디바이스 AI' 시대가 성큼 다가왔습니다. 한국 기업들이 강점을 보이는 반도체·스마트 디바이스 분야에서 이 트렌드를 전략적으로 활용할 여지가 큽니다.
토막 상식: Abliteration(수술적 검열 해제)
"모델의 거부 반사를 수술로 끊다"
얼리터레이션(Abliteration)이란 AI 모델 내부에서 '이 질문은 거부해야 한다'고 판단하는 특정 방향(벡터)을 수학적으로 찾아내 제거하는 기법입니다. 좀 더 쉽게 설명하면 이렇습니다.
사람의 뇌에 비유해보겠습니다. AI 모델이 처음 학습될 때, 개발사는 특정 질문에 대해 '이건 안 돼'라는 반사 회로를 심어 놓습니다. 마치 뜨거운 냄비를 만지면 자동으로 손을 떼는 반사 신경과 비슷합니다. Abliteration은 이 반사 신경의 '경로'를 정확히 찾아내 잘라내는 것입니다. 나머지 신경—지식, 언어 능력, 추론력—은 전혀 건드리지 않으면서요.
기술적으로는 모델의 수많은 파라미터가 만드는 고차원 공간에서, '거부 응답'과 '정상 응답'의 차이를 만들어내는 방향 벡터를 주성분 분석(PCA) 등으로 찾아낸 뒤, 그 방향 성분만 빼버리는 방식입니다. 기존의 파인튜닝처럼 추가 학습 데이터가 필요하지 않아 '학습 없는 검열 해제'라고도 불립니다.
산업적으로는 양면적입니다. 연구자에게는 모델이 어떤 내부 구조로 거부 판단을 내리는지 이해할 수 있는 창이 되지만, 악의적 사용자에게는 안전장치를 우회하는 도구가 될 수 있습니다. 이 때문에 최근에는 abliteration에 대응하는 '내성(robust)' 안전 학습 기법도 활발히 연구되고 있습니다. 기술은 중립입니다. 중요한 건 어떻게 쓰느냐, 그리고 어떤 제도적 장치를 마련하느냐입니다.
마무리
이번 주 허깅페이스는 '검열이 벗겨지고, 사고력이 이식되고, 소리에 감정이 담긴' 한 주였습니다. HauhauCS가 Qwen3.5의 안전 필터를 깔끔하게 걷어내는 동안 Jackrong은 클로드 오퍼스의 추론 방식을 오픈소스에 조용히 이식했고, Fish Audio는 텍스트에 웃음과 속삭임을 불어넣는 음성 모델을 세상에 내놨습니다. 그 사이 미스트랄 AI는 브라우저 탭 하나로 실시간 음성 인식을 가능하게 만들었고, Black Forest Labs는 1초 만에 이미지를 만들고 고치는 도구를 AI 에이전트와 연결했습니다.
중요한 건 이 기술을 어떻게 활용할 것인가입니다. 다음 주에는 또 어떤 혁신이 우리를 기다리고 있을까요? AI는 빠르게 변합니다. 그렇기에 변화를 읽는 눈은 더 빠르게 키워야 합니다.
※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.
정원훈 텐에이아이 대표는 한국인공지능진흥협회 이사와 한국디지털자산포럼(KODIA Forum) 정책기획실장을 맡고 있다. 법률AI 서울로봇과 블록ESG 프로젝트를 총괄하며 한국지식재산교육연구학회 이사 겸 기술가치평가위원장과 한국벤처창업학회 이사로도 활동한다. 아시아경제신문사 뉴미디어본부, 매일경제인터넷 금융센터 팀장을 거쳐, SNS 개발과 대안신용평가 시스템, AI 기반 법률 서비스 등 혁신 프로젝트를 주도해 온 IT·금융 전문가다.
1
2
3
4
5
