[디지털투데이 AI리포터] 오픈AI가 진짜 같은 AI 가짜 이미지를 골라내기 위해 새로운 대책을 발표했다.

19일(현지시간) IT매체 테크크런치에 따르면, 오픈AI는 생성형 이미지의 무분별한 확산에 따른 부작용을 막기 위해 오픈 표준 규격을 채택하는 한편 구글과의 기술 협력을 맺고 위조 및 변조 가능성을 원천 차단하는 이중 방어 체계를 가동하기로 했다. 

이번 조치는 오픈AI 자체 플랫폼에서 제작되는 이미지에 우선 적용된다. 회사는 디지털 이미지 생태계의 투명성을 강화하기 위해 이용자가 직접 생성 여부를 판별할 수 있는 공공 검증 도구도 함께 시범 운영할 계획이다.

구체적으로 오픈AI는 콘텐츠 출처 및 진위 확인을 위한 비영리 단체 C2PA의 개방형 표준을 도입한다. 해당 표준은 파일 메타데이터 내에 AI 생성 여부를 명시하는 직관적인 신호를 삽입한다. 이 방식은 신뢰할 수 있는 이용자 간 유용하지만 메타데이터 조작에 취약하다는 단점이 있다.

이에 따라 오픈AI는 구글이 개발한 눈에 보이지 않는 워터마크 기술인 신스ID(SynthID)를 상호 보완적으로 결합한다. 신스ID는 악성 사용자가 스크린샷을 찍거나 이미지 크기를 조절하는 등 디지털 조작을 가하더라도 워터마크가 지워지지 않고 영구히 보존되는 강력한 내구성을 지닌다.

사측은 결합된 두 시스템이 서로의 기술적 약점을 유기적으로 보완해 줄 것이라고 강조했다. 워터마크는 캡처나 변형 과정에서도 살아남아 출처를 보존하고, 메타데이터는 단독 워터마크보다 훨씬 풍부한 출처 정보를 지속해서 제공하기 때문이다. 오픈AI는 우선 자사 제품군으로 생성된 이미지를 식별하는 일반인 대상 검증 툴을 선보인 뒤, 향후 외부 AI 제작 도구까지 검증 범위를 단계적으로 넓혀갈 방침이다.

• 구글 AI 승부수, 핵심은 '신뢰'…개인 데이터 전면 연결 선언
• AWS "에이전틱과 피지컬이 AI 가능성 확장...한국에 계속 공격 투자"
• 민동욱 대표이사, 엠씨넥스 주식 11만6000주 매수로 지분율 27.81%로 증가
• 엠씨넥스 최대주주 민동욱, 엠씨넥스 주식등의 수 12만9150주 증가…총 지분율 31.03%
• 유라클 최대주주 조준희, 유라클 주식등의 수 1만9020주 증가…총 지분율 32.29%