AI 파일럿 95%는 왜 실패하는가: 샌디 카터(Sandy Carter)가 밝힌 '성공하는 AI 시스템의 7가지 패턴'

■ Sandy Carter 기조강연  | SXSW 2026, 오스틴 텍사스 | 2026년 3월 18일 | 분석: K-EnterTech Hub

"기술이 문제가 아니다. 95%의 실패는 리더십, 데이터, 변화관리의 문제다." — Sandy Carter, SXSW 2026

2026년 3월 18일(현지시간), 미국 텍사스주 오스틴에서 열린 세계 최대 창업·미디어 축제 SXSW(사우스 바이 사우스웨스트)에서 AI 전략가 샌디 카터(Sandy Carter)가 기조 강연에 나섰다.

강연 제목은 'From Pilot to Payoff: 7 Pattern-Matched Traits of AI Systems That Actually Work'(파일럿에서 성과로: 실제로 작동하는 AI 시스템의 7가지 패턴). AI 도입 붐 속에서 왜 대부분의 기업이 파일럿에 머무는지를 집중 해부한 자리였다.

Unstoppable Domains의 최고 비즈니스 책임자(CBO)이자 베스트셀러 《AI First, Human Always》의 저자인 카터는 2013년부터 AI를 연구·적용해 온 현장 전문가다. 이번 강연은 450여 개 기업을 대상으로 한 자체 연구와 다보스·MIT 데이터를 토대로, 실전에서 검증된 7가지 성공 요인을 공개했다.

파일럿 95% 실패, 원인은 기술이 아니다

"여러분도 MIT 보고서를 봤을 것입니다. 오늘날 AI 파일럿의 95%가 실패하고 있고, 투자 대비 수익을 내지 못합니다. 많은 사람들이 기술이 문제라고 결론 짓지만, 사실 기술은 문제가 아닙니다." 카터가 강연 시작과 함께 던진 말이다.

카터가 직접 1,500개 기업을 인터뷰해 발간한 연구 결과에 따르면, 파일럿에서 실제 운영(production) 단계로 전환에 성공한 기업은 단 20%에 불과했다. 그 20%가 나머지 80%와 다른 점은 거창한 기술 투자가 아니었다.

[출처] Sandy Carter 자체 연구 (1,500개 기업 인터뷰, 《AI First, Human Always》 수록) / MIT AI 파일럿 성공률 연구

핵심 1 — 사람과 리더십

CEO가 AI를 쓰면 성공률 5.22배 오른다

카터는 올해 다보스포럼에서 20명의 글로벌 CEO들과 라운드테이블을 진행하며 충격적인 현실을 목격했다. "지난 한 주 AI를 사용한 적 있는 분?"이라는 질문에 손을 든 CEO는 단 3명이었다.

WalkMe의 최신 AI 서베이 결과는 이 격차가 얼마나 큰 손실인지 수치로 보여준다.

리더십의 변화는 질문의 방식에서 시작된다는 것이 카터의 지론이다. "고객 서비스를 AI로 어떻게 자동화할까?"가 아니라 "AI가 있다는 걸 전제로 고객 서비스를 처음부터 다시 만든다면?"이라고 물어야 한다. 그가 재직하는 회사의 AI 에이전트는 현재 전체 고객 문의의 47%를 자동 처리하고, 동시에 고객 만족도를 4%p 높였다. 전 세계 480만 고객을 상대하면서 팀원들이 잠든 시간에도 에이전트가 응답한다.

신뢰 격차: 경영진 65% vs. 직원 17%

조직 내 신뢰 문제도 도마에 올랐다. 카터가 방문한 한 포츈100(Fortune 100) 기업에서는 임원들이 자리를 비우자 팀장들이 고백했다. "대시보드가 전부 초록색으로 보이도록 우회 작업을 하고 있습니다." WalkMe 조사에서 AI 결과를 신뢰한다고 답한 비율이 경영진 65%, 실무 직원 17%로 극명하게 갈리는 이유다.

해법으로 카터는 매사추세츠 종합병원(Mass General Hospital)의 '프롬프톤(promptathon)' 사례를 소개했다. 병원장, 심장전문의, 외과의, 간호사, 접수 직원까지 전 직군이 함께 AI 프롬프트를 실험하고 에이전트를 공동 구축하는 방식으로 신뢰와 역량을 동시에 쌓은 프로그램이다.

핵심 2 — 에이전트

'프롬프트 시대'는 끝났다, 에이전트가 온다

NVIDIA CEO 젠슨 황이 "오픈크로우(OpenClaw)는 역사상 가장 중요한 소프트웨어 출시"라고 평한 것을 인용하며, 카터는 AI 활용의 무게중심이 프롬프트에서 에이전트(autonomous agent)로 넘어왔음을 선언했다. 에이전트는 코드가 스스로 의사결정을 내리는 방식으로 작동한다.

[출처] NVIDIA GTC 2026 (2026.3.17) 젠슨 황 기조강연 / OpenClaw GitHub / Sandy Carter 강연 직접 인용

카터는 자신의 마케팅 팀을 예시로 들었다. 인원 충원이 불가능한 상황에서 'Mad Hatter(아이디어 생성)', 'Red Queen(캠페인 분석)' 등 이름 붙은 AI 에이전트들을 인간 팀원과 동일한 위상으로 조직도에 편제했다. 이제 인간 매니저들은 사람과 에이전트를 동시에 관리하는 역할을 맡는다.

"18개월 후, LinkedIn 프로필에는 '스킬' 대신 '보유 에이전트 목록'이 올라갈 것입니다." Oliver Wyman이 Z세대 30만 명을 대상으로 실시한 조사에서 37%가 "AI 에이전트를 상사로 두겠다"고 응답했다는 사실도 덧붙였다. 이유는 "더 공정하고, 비정치적이며, 내 아이디어를 빼앗지 않기 때문"이었다.

[출처] Oliver Wyman, Gen Z AI 보스 선호도 조사 2026 / Sandy Carter 강연 직접 인용

핵심 3 — 파일럿 종식

성공한 20%의 공통점: 문제에 '사랑에 빠져라'

파일럿 단계를 넘어선 20% 기업들의 공통 요인은 세 가지다.

① 비즈니스 아웃컴 집중: 기술이 아닌 문제가 먼저다

네덜란드의 심장전문의 마이클(Michael)은 엔지니어가 아님에도 Anthropic 해커톤(수십만 명 참가)에서 3위를 차지했다. 비결은 단순했다. "저는 기술이 아닌 문제에 먼저 빠져들었습니다." 반려견 종양 치료를 위해 비전문가가 ChatGPT와 AlphaFold로 돌연변이 단백질 매핑 약물을 약 1주 만에 도출한 사례도 소개됐다. 생화학자들은 "황당하다(gobsmacked)"는 반응을 보였다.

20th Century Fox·Netflix·Disney 출신 제작자들이 엔지니어 없이 만든 Storytown.ai도 같은 원리다. 색인 카드로 스토리 구조를 짜온 할리우드 작업 방식을 그대로 AI로 구현해, 캐릭터 감정 설계와 서사 자동화를 이뤄냈다.

[출처] Anthropic 해커톤 결과 공개 자료 / Storytown.ai 제품 데모 (카터 강연 내 시연)

② 데이터: AI에 2달러 쓰면 데이터에 2.5달러 써야 한다

카터는 IBM 재직 시절 로맨스 소설 3만 3,000편으로 학습시킨 모델이 스모 선수 이미지에 "그가 그녀를 따뜻하게 끌어안았다"는 캡션을 생성한 일화를 소개했다. "AI에 넣는 데이터가 곧 결과입니다." 다보스 분석 결과도 이를 뒷받침한다. AI 투자에서 ROI를 내는 기업들은 AI 인프라 1달러당 데이터에 1.25달러를 추가 지출했다.

[출처] 다보스포럼 2026 AI 투자 분석 발표 (카터 강연 직접 인용)

③ 변화관리: 9개월 개발, 2시간 교육의 참사

아시아의 한 제조공장 CEO는 IoT 센서가 내장된 '무드 재킷'을 9개월간 개발했다. 직원의 체온·감정 상태를 익명으로 수집하는 AI 시스템이었다. 그러나 직원 교육에 단 2시간을 할애했고, 결과는 완전한 실패였다. 직원들은 재킷에 뜨거운 차나 아이스팩을 넣어 시스템을 교란했다. 전면 재설계가 불가피했다. "AI 마법이 아무리 강해도 변화관리를 생략할 수는 없습니다."

핵심 4 — 거버넌스

거버넌스가 새로운 '해자(Moat)'다

"2027년까지 에이전트에 강력한 거버넌스와 엔터프라이즈급 감사(audit) 체계가 없는 기업은 성공하기 어렵습니다." 카터의 예측이다. 근거는 성공 기업의 예산 배분 데이터다.

[출처] Sandy Carter 자체 연구 (성공한 AI 기업 20% 분석) / 《AI First, Human Always》

강연에는 블록체인 기반 에이전트 거버넌스 스타트업 업토픽(Utopic)의 CEO 크리스틴 스미스(Kristen Smith)가 게스트로 등장해 라이브 시연을 진행했다. 국방 산업 시나리오에서 세 개의 에이전트에게 각기 다른 접근 권한을 부여하고, 모든 트랜잭션이 블록체인 불변 원장에 실시간으로 기록되는 과정을 보여줬다. "에이전트가 직원처럼 기업 내를 돌아다니는데, 그 에이전트가 누구인지, 무엇에 접근하는지 알고 있나요?" 카터가 청중에게 던진 질문이다.

[출처] Utopic (https://utopic.ai) 라이브 데모, SXSW 2026 / Sandy Carter 강연 직접 인용

핵심 5 — 월드 모델

LLM은 이미 '구형 AI', 월드 모델이 뜬다

카터는 대형언어모델(LLM)이 패턴 매칭 기반의 단일 작업 처리에 묶여 있어 이미 '구형 AI' 범주에 들어가고 있다고 진단했다. 공사 구간에서 우회전을 못 해 도로를 막아선 Waymo 자율주행차 사례가 상징적이다.

반면 월드 모델(World Model)은 인과관계로 학습하고 경험 이전의 상황을 예측하며, 텍스트 데이터를 넘어 물리·공간·맥락을 이해한다. BMW는 이미 30개 공장에서 NVIDIA 월드 모델을 활용해 차량 디지털 트윈을 구축하고 생산 공정을 사전 시뮬레이션한다. 카터가 인터뷰한 캐나다 스타트업 Splexi는 취미 드론 비행사들의 영상을 수집해 공간 맥락 데이터를 월드 모델에 공급하는 비즈니스 모델로 주목받고 있다.

[출처] BMW 디지털 트윈 프로젝트 자료 / Splexi 공식 인터뷰 (Sandy Carter, Forbes 기고) / NVIDIA GTC 2026

핵심 6 & 7 — 인간

AI First, Human Always — 인간이 ROI의 85%다

"전 세계 지식의 15%만이 디지털화되어 있습니다. 현존하는 모든 AI 모델은 인류 지식의 15%로만 학습됐습니다. 나머지 85%는 바로 여러분 안에 있습니다."

카터는 책 제목이자 강연의 결론인 'AI First, Human Always'를 이 수치로 뒷받침했다. 인간의 직관, 문화적 판단, 감정, 현장 경험 — 이것이 AI가 접근할 수 없는 85%의 지식이다.

그는 LinkedIn 데이터를 인용해, AI 등장 이후 '스토리텔러' 채용 공고가 오전 대비 2배 증가했다고 밝혔다. Indeed의 최신 데이터도 개발자 채용 공고가 감소가 아닌 급증 추세임을 보여준다. Box CEO 아론 레비(Aaron Levy)가 설명한 '제번스 역설(Jevons Paradox)'이 작동하는 것이다. AI가 코딩 비용을 낮추자 더 많은 기능이 요구되고, 더 많은 엔지니어가 필요해졌다.

"가장 AI를 잘 활용하는 집단은 후드티를 입은 젊은 개발자들이 아닙니다. 실세계 경험이 있는 45세 이상의 도메인 전문가들입니다." 다음은 인간+AI 협업의 성과 데이터다.

[출처] Accenture AI ROI 분석 보고서 2026 / Elassion Research 2026 / BMW 내부 사례 (카터 강연 직접 인용) / Indeed 채용시장 분석 2026 / LinkedIn 직무 트렌드 데이터 2026

People → Process → Platform: 지금 당장 시작하는 법

카터는 대부분의 기업이 플랫폼(기술 선택) → 프로세스 → 사람 순으로 접근하는 역순의 오류를 범한다고 지적하며, 성공 기업들의 공통 순서를 제시했다.

K-콘텐츠·테크 산업에 주는 시사점

카터의 7가지 패턴은 K-콘텐츠 및 K-테크 기업들에게도 직접적인 함의를 갖는다. '도메인 전문성이 AI ROI를 결정한다'는 명제는, K-콘텐츠 IP와 제작 노하우가 AI와 결합될 때 세계 최고 수준의 경쟁력을 가질 수 있음을 뜻한다.

스토리타운ai(Storytown.ai) 사례처럼 엔지니어 없이도 콘텐츠 전문가들이 AI를 직접 제작 파이프라인에 내재화한 모델은 한국 드라마·영화·음악 산업에서 즉시 참고 가능하다. 거버넌스에 대한 카터의 경고도 주목할 만하다. 글로벌 플랫폼 진출을 목표로 하는 K-스타트업일수록 에이전트 보안·컴플라이언스 체계를 조기에 구축해야 한다. 2027년 이후 AI 거버넌스는 선택이 아닌 필수 시장 진입 요건이 될 것이다.

■ 주요 출처 및 참고자료