[디지털투데이 AI리포터] 기업들의 인공지능(AI) 도입이 빨라지면서 조직 내에서 인간의 판단권과 주도권이 서서히 약화될 수 있다는 경고가 나왔다.

3일(현지시간) 실리콘앵글에 따르면, 문제의 핵심은 갑작스러운 통제 상실이 아니라 사람이 직접 방향을 정하고 판단하며 그 결과에 책임지는 역할을 조금씩 내려놓는 과정에 있다.

에므레 카짐(Emre Kazim) 홀리스틱 AI 공동창업자이자 공동 최고경영자(CEO)는 기업이 AI를 도입할 때 가장 큰 위험 중 하나로 조직의 '에이전시'(agency), 즉 인간의 판단과 통제 능력이 약화되는 점을 꼽았다. 그는 인간이 더 이상 방향을 설정하거나 결정을 내리지 않고, 자율성이 커진 시스템을 수동적으로 감독하는 수준에 머물게 될 경우 기업은 점차 주도권을 잃게 된다고 지적했다.

기업들은 브랜드 가이드라인, 운영 절차, 과거 의사결정 등 내부 데이터를 AI 모델 학습에 활용하고 있다. 그 결과 시스템은 특정 개인보다 조직 전체의 맥락을 더 잘 이해하는 것처럼 보일 수 있다. 생산성은 향상되지만, 시스템의 판단에 이의를 제기하는 행위 자체가 조직의 흐름을 거스르는 것으로 받아들여질 가능성도 커진다.

에므레 카짐은 이러한 변화가 악의적인 의도에서 비롯되는 것은 아니라고 설명했다. AI는 속도와 정확도를 높이고 비용을 절감하지만, 단순한 계산을 넘어 추론, 언어 생성, 추천, 의사결정까지 수행하게 되면서 인간이 직접 판단하지 않는 편이 더 쉬운 환경이 만들어진다는 것이다.

이 과정에서 조직의 의사결정 방식도 달라진다. 리더가 최종 결정을 맡더라도 AI의 권고를 충분히 검토하지 않은 채 수용하는 사례가 늘어날 수 있다. 결과가 명확하고 설득력 있게 제시될수록 반론은 줄어들고, 업무 방식과 사고 구조 역시 시스템의 작동 방식에 맞춰 재편될 가능성이 있다. 그는 AI가 조직의 순응성을 새로 만드는 것이 아니라, 기존 경향을 더 빠르고 넓게 확산시키는 역할을 한다고 분석했다.

해결책으로 그는 거버넌스의 중요성을 강조했다. 단순한 규정 준수가 아니라 인간의 의도를 구조적으로 보호하는 장치가 필요하다는 주장이다. 홀리스틱 AI는 '가디언 에이전트' 개념을 통해 정책, 통제, 기대 수준 등 인간의 의도를 시스템에 반영하고 지속적으로 집행하는 방안을 검토하고 있다.

에므레 카짐은 조직 내에서 반대와 토론이 가능한 업무 구조를 마련하고, 어디까지 인간의 판단이 시스템의 논리를 우선하는지 명확히 해야 한다고 강조했다. 또한 독립적 사고와 문제 제기를 장려하고, AI 의존이 종속으로 변하는 순간을 팀이 인식할 수 있도록 훈련해야 한다고 말했다. 그는 경쟁력은 AI를 활용하면서도 그것에 의문을 제기할 수 있는 능력을 유지하는 기업에 달려 있다고 덧붙였다.
 

• 오픈AI o1, 응급실 초기 진단서 의사보다 정확…하버드 연구 충격 결과
• 보안 시스템이 못 보는 공격…AI 시대 '탐지 구조' 한계 드러나
• 권순일 상무, 툴젠 주식 보유 증가
• 동신건설, 2026년 기업가치 제고 계획 공개…수익성 개선·재무건전성 유지
• 루닛, 제1회차 전환사채 161억9380만원 만기 전 취득…PUT 행사로 소각 예정