OpenAI의 최고경영자(CEO) 샘 올트먼이 자율적으로 과업을 수행하는 ‘AI 에이전트(Agent)’ 기술이 인류의 고용 환경과 국가 안보에 심각한 위협을 초래할 수 있다는 강력한 경고 메시지를 던졌다. 그는 최근 한 단독 인터뷰를 통해 "우리는 인류의 생계와 안전을 잠식할 수 있는 디지털 거인을 풀어놓고 있는 것은 아닌가?"라는 화두를 제시하며, AI 에이전트의 잠재적 위험성에 대한 사회적 논의가 시급하다고 강조했다.

챗봇에서 자율형 AI로… ‘디지털 동료’ 시대의 서막

AI 에이전트 기술은 어느 날 갑자기 등장한 것이 아니다. 1966년 초기 챗봇 모델인 '일라이자(ELIZA)'에서 시작된 대화형 AI는 수십 년에 걸쳐 발전을 거듭하며 오늘날 자율형 에이전트의 기반을 마련했다.

특히 2023년에서 2024년 사이 구글, 마이크로소프트, OpenAI 등 빅테크 기업들은 고객 서비스 문의 처리, 회의 일정 조율, 코드 감사 등을 스스로 처리하는 '에이전트' 기능을 잇달아 출시하며 기술의 상용화를 이끌었다. 최근 OpenAI가 공개 베타 버전으로 출시한 '챗GPT 에이전트'는 이메일 조율, 보고서 요약, 물품 주문까지 가능한 ‘디지털 프로젝트 관리자’를 표방하며 본격적인 AI 에이전트 시대의 개막을 알렸다.

경제적 파급 효과와 고용 충격, AI가 던진 두 개의 그림자

AI 에이전트가 가져올 경제적 효용은 막대하다. 맥킨지 글로벌 인스티튜트는 AI 에이전트가 창출할 생산성 향상 효과로 2035년까지 전 세계 GDP가 10조에서 15조 달러가량 증가할 수 있다고 전망했다.

하지만 그 이면에는 어두운 그림자가 존재한다. 골드만삭스는 2030년까지 전 세계적으로 최대 3억 개의 일자리가 AI 자동화로 인해 대체될 고위험군에 속할 것으로 분석했다. 고객 지원, 데이터 입력, 기초 금융 업무가 가장 먼저 영향을 받을 분야로 꼽히며, AI가 직접 코드를 작성하게 되면서 기술직 역시 그 여파를 피할 수 없을 전망이다. 결국 노동 인력의 재교육 및 전환 배치가 사회적 과제로 부상하지 않는다면, 기술 발전의 혜택이 불균등하게 분배되는 심각한 사회적 비용을 치를 수 있다.
 

혁신과 통제의 아슬아슬한 줄다리기, 책임 있는 AI를 위한 과제

샘 올트먼은 "AI 에이전트는 규제가 기술 발전 속도를 따라가지 못하는 상황에서 전력망, 금융 네트워크, 국방 시스템과 같은 핵심 기반 시설에 치명적인 취약점을 노출시킬 수 있다"고 지적했다.

이러한 우려는 다른 전문가들에게서도 나온다. MIT의 사이버 보안 전문가 리나 첸 박사는 "자율 에이전트가 해커에게 탈취될 경우, 조직적인 서버 다운, 에너지 공급망 교란, 공공 데이터 파괴 등 동시다발적인 공격을 감행할 수 있다"고 경고했다. 스탠퍼드 대학의 2025년 연구에 따르면, IT 리더의 45%가 2년 내에 AI가 다른 AI를 속여 조종하는 '에이전트 간 해킹'이 현실화될 것을 우려하는 것으로 나타났다.

반복적인 업무를 AI에 맡기는 것은 매력적인 미래임이 분명하다. 그러나 올트먼의 지적처럼, "명확한 안전장치가 없다면 AI 에이전트는 내부를 알 수 없는 '블랙박스' 의사결정자로 전락할 위험이 있다." 이를 방지하기 위해 유럽연합(EU)의 AI 법안 초안처럼 핵심 시스템에 사용되는 AI에 '설명가능성'을 의무화하고, 세계경제포럼(WEF)의 제안처럼 AI 기업 매출의 일정 비율(예: 2%)을 실직자 재교육 프로그램에 투자하는 등의 구체적인 제도 마련이 시급하다.

AI 에이전트 기술을 우리 사회 모든 영역에 통합하려는 경주 속에서, 인류는 이제 근본적인 질문에 직면해 있다. 윤리와 감독 체계를 통해 AI를 현명하게 통제할 것인가, 아니면 기술이 스스로의 논리에 따라 인류 사회를 재편하도록 방치할 것인가? 혁신과 책임의 균형을 맞추지 못한다면, 기술은 인류에게 가장 위험한 존재가 될 수 있다.