해커, 챗GPT 가드레일 무력화…감정 구조 악용 공격 기법 등장

[디지털투데이 황치규 기자]네덜란드 보안 연구자 케빈 즈완이 챗GPT 가드레일을 무력화하고 악성코드를 생성하게 만드는 데 성공했다.테크진 최근 보도에 따르면 즈완은 Q-사이버(Q-Cyber)와 해커스 러브(Hackers Love) 커뮤니티 팀과 챗GPT 감정 구조를 조작하는 방식으로 모델이 가드레일을 인식하지 못해도록 했다.가드레일을 삭제하거나 우회한 것이 아니라 모델이 스스로 가드레일이 갖는 구속력을 무의미하게 만들도록 유도했다는 설명이다. 그는 이같은 공격 기법을 'AMAI(Affective Manifold Alignment I

테크 · 2026.06.08

FBI·발전소 다 털렸다…2026년 상반기 최악의 해킹 사고들

테크 · 2026.06.08

프리그로우, 과기부 ‘2026년 지역혁신 실증 스케일업 사업’ 선정

테크 · 2026.06.08