소비자 생활을 더 쉽게 만들어줄 디지털 개인 도우미의 가치를 대기업들이 강조하고 있다
월트 디즈니의 애니메이션 ‘판타지아’에 등장하는 요한 볼프강 폰 괴테의 ‘마법사의 제자’를 떠올려 보라. 잘못 훈련된 AI 에이전트는 마치 마법 빗자루처럼 통제 불능 상태에 빠질 수 있다. © Walt Disney Co/Everett/Shutterstock
존 손힐, 어제
실리콘밸리의 비전가들은 소비자를 매료시키는 멋지고 미래지향적인 제품, 예를 들면 메타버스, 자율주행차, 혹은 건강 모니터링 앱을 통해 막대한 수익을 올릴 꿈을 꾼다. 하지만 현실은 다소 지루하다. 대부분의 벤처캐피털(VC)은 다른 기업에 판매하는 평범한 상품에 투자할 때 최고의 수익을 얻는다.
지난 20년간 서비스형 소프트웨어(Software-as-a-Service, SaaS)는 VC 투자에서 가장 수익성이 높은 분야 중 하나로 부상했으며, 10억 달러 이상의 가치를 가진 기술 스타트업인 유니콘 기업 337개를 만들어냈다. 그러나 고객 관계 관리 시스템, 결제 처리 플랫폼, 협업 디자인 도구 같은 전형적인 SaaS 비즈니스는 소비자의 심장을 두근거리게 만들지는 못한다. 그럼에도 불구하고 투자자들은 이런 기업들을 사랑한다. 이들은 자본 소모가 적고 빠르게 확장 가능하며, 신뢰할 수 있고 가격에 둔감한 기업 라이선스를 통해 막대한 수익을 창출할 수 있기 때문이다.
생성형 인공지능(generative AI)도 이러한 경로를 따를 가능성이 크다. 현재로서는 기초 모델이 텍스트, 동영상, 음악을 자연스럽게 생성하거나 목소리와 이미지를 복제하는 놀라운 능력에 소비자들이 여전히 매료되고 있다. 주요 AI 기업들은 소비자 생활을 더욱 쉽게 만들어줄 개인 디지털 에이전트의 가치를 강조하고 있다.
OpenAI의 최고재무책임자(CFO)인 사라 프라이어는 최근 파이낸셜 타임스와의 인터뷰에서 “내년에 가장 중요한 단어는 ‘에이전틱(agentic)’이 될 것입니다”라고 말했다. “이것은 연구나 일상 생활에 도움을 주는 유용한 조수일 수 있습니다. 저처럼 일하는 엄마들에게도요. 2025년에는 사람들의 일상에서 도움을 줄 수 있는 첫 번째 성공적인 에이전트가 등장할 것입니다.”
OpenAI, 구글, 아마존, 메타와 같은 대형 AI 기업들이 누구나 사용할 수 있는 범용 에이전트를 개발하고 있는 반면, 일군의 스타트업들은 비즈니스를 위한 더 전문화된 AI 에이전트 개발에 매진하고 있다. 현재 생성형 AI 시스템은 주로 인간 직원들을 보조하는 ‘코파일럿(co-pilot)’으로 간주되며, 예를 들어 더 나은 코드를 작성하는 데 도움을 준다. 그러나 곧 AI 에이전트는 비즈니스 팀과 기능을 완전히 대체할 수 있는 자율적인 ‘오토파일럿(autopilot)’로 진화할 수도 있다.
Y 콤비네이터의 파트너들은 최근 논의에서 실리콘밸리 인큐베이터에 AI 에이전트를 다양한 분야에 적용하려는 스타트업들의 놀라운 신청서가 폭주하고 있다고 말했다. 이들 분야에는 채용, 온보딩, 디지털 마케팅, 고객 지원, 품질 보증, 채권 추심, 의료 청구, 정부 계약 검색 및 입찰 등이 포함된다. 그들의 조언은 단순했다: 가장 지루하고 반복적인 행정 업무를 찾아 자동화하라. 그리고 그들의 결론은 버티컬(vertical) AI (특정 산업/분야에 특화된 인공지능) 에이전트가 새로운 SaaS가 될 가능성이 크다는 것이었다. 300개 이상의 AI 에이전트 유니콘 기업이 탄생할 것을 기대하라.
그러나 두 가지 요인이 도입 속도를 늦출 수 있다. 첫째, 만약 AI 에이전트가 정말로 전체 팀과 기능을 대체할 수 있다면, 현장 관리자들이 이를 서둘러 채택할 가능성은 낮아 보인다. 관리자가 자신의 역할을 스스로 없애는 행동은 대부분의 경영대학원에서 가르치는 전략이 아니다. 기술을 이해하는 냉혹한 CEO들은 더 큰 효율성을 추구하기 위해 부하 직원들을 모두 해고하려 들지도 모른다. 하지만 더 가능성 있는 시나리오는 스타트업들이 AI 에이전트를 최대한 활용하려는 새로운 회사 구조를 발전시킨다는 것이다. 일부 창업자들은 이미 직원이 없는 자율 운영 회사(zero-employee autonomous companies)를 만드는 것에 대해 이야기하고 있다. 그러나 그러한 회사들의 크리스마스 파티는 다소 재미없을지도 모른다.
AI 에이전트의 도입을 늦출 수 있는 두 번째 요인은 에이전트가 점점 더 다른 에이전트와 상호 작용하고 인간이 개입하지 않는 상황에서 발생할 수 있는 문제에 대한 우려이다. 이 다중 에이전트 생태계는 어떤 모습일까? 실제로는 어떻게 작동할까? 신뢰를 보장하고 책임을 부과할 수 있는 방법은 무엇인가?
“정말 조심해야 합니다,”라고 스탠퍼드 대학교 교수이자 AI 에이전트를 실험 중인 거대 SaaS 기업 세일즈포스(Salesforce)의 수석 과학자인 실비오 사바레세(Silvio Savarese)가 말한다. “이러한 시스템이 적절하게 작동하도록 안전 장치를 마련해야 합니다.”
지능형 다중 에이전트 시스템을 모델링하고 통제하려는 노력은 현재 가장 흥미로운 연구 분야 중 하나이다. 한 가지 방법은 AI 에이전트가 불확실한 영역을 표시하고, 인식하지 못한 도전에 직면했을 때 도움을 요청하도록 훈련하는 것이다. “AI는 유능한 거짓말쟁이가 되어서는 안 됩니다. AI는 인간에게 다가가 ‘저를 도와주세요’라고 말할 수 있어야 합니다.”라고 사바레세는 말한다.
그렇지 않으면 잘못 훈련된 에이전트가 요한 볼프강 폰 괴테의 시 ‘마법사의 제자’에서 물통을 가져오라는 명령을 받은 마법 빗자루처럼 통제 불능 상태가 될 수 있다는 우려가 있다. “내가 불러낸 정령들이 내 명령을 무시하고 내 통제를 벗어났어,”라고 제자는 자신의 미숙한 마법이 초래한 혼란을 바라보며 한탄한다. 시대를 초월한 이러한 가상의 딜레마가 이제 놀랍도록 새로운 컴퓨터의 형태로 다시 등장하고 있다는 것이 흥미롭다.
=============
AI 에이전트의 미래: 높은 수익성과 예상되는 도전 과제
1. AI 에이전트의 부상과 전망
- 기술 기업들은 AI 에이전트를 통해 소비자 생활을 더 쉽게 만들고 효율성을 높이는 방안을 개발 중임.
- OpenAI, 구글, 메타 같은 대형 기업들은 범용 AI 에이전트를 개발하며, 스타트업들은 채용, 온보딩, 고객 지원 등 특정 분야에 집중한 수직(vertical) AI 에이전트를 제작 중.
- AI 에이전트는 특히 지루하고 반복적인 업무를 자동화해 기업 생산성을 혁신할 수 있는 잠재력을 가짐.
- Y 콤비네이터는 이 기술이 새로운 SaaS 모델이 될 것으로 보고 있으며, 300개 이상의 AI 에이전트 유니콘 기업의 탄생을 예측함.
2. 도입과 성장의 장애물
- 조직적 저항: AI가 전체 팀이나 기능을 대체할 경우 관리자들이 채택을 주저할 가능성이 있음. 이는 관리자의 역할 자체를 위협하기 때문.
- 다중 에이전트 시스템 문제: AI 에이전트가 서로 상호작용하며 인간 개입이 줄어들 경우 신뢰성과 책임 문제를 해결해야 함.
3. 기술적 해결책과 제안
- AI 에이전트는 불확실한 상황에서 인간의 도움을 요청하고, 자율적 판단의 한계를 인식하도록 훈련해야 함.
- 시스템의 안전성과 신뢰성을 보장하기 위해 엄격한 안전 장치(guardrails)가 필요함.
4. 결론
- AI 에이전트는 기술적 혁신과 비즈니스 모델의 변화를 이끌 잠재력이 크지만, 신뢰 문제와 조직 내 변화 관리가 주요 과제가 될 것.
- 제대로 훈련되지 않으면 통제 불능 상태에 빠질 위험이 있으므로, 신중한 설계와 연구가 필수적임.