"현장에서 더 자주·깊게 써야 AI 힘 발휘" … 기업 데이터·업무시스템 연결 강조'켜라·맡겨라·남겨라' 3가지 전략 제시 … "사용량보다 실제 성과 중요"
  • ▲ 김경훈 오픈AI 한국총괄대표가 8일 서울 코엑스에서 기업용 AX 콘퍼런스 '리얼 서밋(REAL Summit) 2026’에서 발표하고 있다. ⓒ곽예지 기자
    ▲ 김경훈 오픈AI 한국총괄대표가 8일 서울 코엑스에서 기업용 AX 콘퍼런스 '리얼 서밋(REAL Summit) 2026’에서 발표하고 있다. ⓒ곽예지 기자
    김경훈 오픈AI 한국총괄대표가 기업의 인공지능(AI) 전환을 위해서는 단순한 도입을 넘어 실제 업무와 시스템에 AI를 연결하고 구체적인 과업을 맡겨 비즈니스 성과로 이어가야 한다고 강조했다.

    김 대표는 8일 서울 코엑스에서 열린 삼성SDS '리얼 서밋 2026'에 연사로 나서 기업의 AI 활용 전략을 '켜라', '맡겨라', '남겨라'라는 세 가지 키워드로 제시했다.

    김 대표는 100여년 전 공장에 전기가 도입된 사례를 현재의 AI 전환과 비교했다. 당시 단순히 동력원만 전기로 바꾼 공장과 달리 기계 배치와 작업 순서까지 재설계한 공장에서 생산성 효과가 본격적으로 나타났다는 설명이다.

    그는 "AI가 다 들어왔지만 정말 현장에서 더 자주 깊게 실제 업무에 써야만 그 힘이 발휘될 것"이라고 말했다.

    AI 활용 수준에 따라 기업 간 격차도 빠르게 벌어지고 있다고 설명했다. 김 대표가 이날 소개한 오픈AI 자료에 따르면 AI를 가장 깊게 사용하는 상위 10% 기업과 중간 수준 기업 간 사용자 1명당 AI 산출물 격차는 올해 1월 2.6배에서 6월 8.6배로 확대됐다. 제조업에서도 격차가 5.3배로 나타났다.

    김 대표는 이 같은 차이를 만드는 핵심 중 하나로 기업 내부 시스템과 AI의 '연결'을 꼽았다. 선도 기업에서는 매주 AI를 사용하는 직원 가운데 약 21%가 업무 시스템과 연결된 플러그인을 이용한 반면 일반 기업은 9% 수준이라고 소개했다.

    그는 "사내 문서나 고객 정보, 업무 지침, 회사가 공유하고 있는 기록들이 연결돼야만 AI는 회사의 맥락을 이해하고 더 좋은 일을 할 수 있다"고 강조했다.

    이어 "똑똑한 직원을 채용해 놓고도 이메일이나 시스템 권한을 주지 않은 채 알아서 해보라고 하는 것과 비슷하다"며 "필요한 사람에게 필요한 권한을 주듯 AI에게도 필요한 데이터를 잘 연결해야 한다"고 말했다.

    기업 경영진의 역할도 강조했다. 김 대표는 AI 교육 6개월 뒤 활용도를 분석한 결과 경력이 짧은 직원들이 임원보다 매주 평균 13개 더 많은 메시지를 AI에 보내는 것으로 나타났다고 소개했다.

    그는 "어떻게 보면 현장이 먼저 움직이고 있다는 뜻"이라며 "이제는 경영진이 방향을 정해야 한다"고 말했다.

    개별 직원의 작은 업무 효율 향상만으로는 기업 전체의 성과로 이어지지 않을 수 있다는 지적도 내놨다.

    김 대표는 "여러 업무에서 조금씩 성과를 내지만 이것들이 실제 기업의 생산성으로 연결되지는 않는 것"이라며 이를 '작은 생산성의 함정'이라고 설명했다.

    이를 벗어나기 위해서는 기업의 핵심 업무를 선정해 처음부터 끝까지 AI를 중심으로 재설계하고, 고객 응대 속도나 사업 실적 등 구체적인 결과를 측정해야 한다고 제언했다. 실제 제조기업의 견적 업무를 AI로 재설계해 최대 6시간이 걸리던 업무를 20분까지 줄인 사례도 소개했다.

    두 번째 전략은 AI에 실제 업무를 '맡기는 것'이다. 단순히 질문에 답하는 수준을 넘어 AI가 자료를 찾고 시스템을 확인해 결과물을 만들며 여러 단계의 업무를 수행하는 방향으로 활용 범위가 확대되고 있다는 설명이다.

    김 대표는 "자료를 찾고 시스템을 확인하고 결과물을 만들어 낸다"며 "문제가 생기면 스스로 알아내서 다시 시도하고, 더 좋게 만들고 중요한 판단은 사람에게 요청한다"고 전했다.

    AI 활용은 개발 업무 이외 영역에서도 빠르게 확산되고 있다고 밝혔다. 김 대표에 따르면 올해 2월 이후 6개월간 기업 내 관련 AI의 주간 활성 사용자 수는 법무 분야에서 108배, 영업·채용에서 41배, 마케팅에서 26배 증가했다.

    오픈AI 내부 재무팀의 'IRGPT' 사례도 소개했다. 투자자 질문과 관련한 자료를 찾고 수치를 확인하는 반복 업무를 AI로 처리해 기존 몇 시간이 걸리던 작업 시간을 줄였다는 설명이다.

    기업이 AI에 업무를 맡길수록 사람의 통제와 안전장치도 중요하다고 강조했다.

    김 대표는 "물론 여기에는 사람의 통제가 필요하다"며 "중요한 행동은 에이전트가 사람에게 승인받고, 만들어낸 결과의 근거도 확인할 수 있어야 한다"고 말했다.

    세 번째 전략은 AI 활용을 실제 사업 성과로 '남기는 것'이다.

    김 대표는 "좋은 공장을 평가할 때 전기를 많이 썼다고 좋은 공장이라고 할 수 없다"며 AI 역시 단순 사용량보다는 실제로 어떤 일을 해냈는지를 기준으로 평가해야 한다고 강조했다.

    AI 비용을 평가할 때도 모델 사용료뿐 아니라 직원의 검토 시간과 작업이 제대로 완료되지 않았을 경우 발생하는 재작업 비용 등을 함께 고려해야 한다고 설명했다.

    김 대표는 "100년 전에 공장을 어떻게 바꾸느냐가 그 회사 혹은 공장의 미래를 결정한 것처럼 지금 우리도 AI를 어떻게 쓸 것인가가 우리의 미래를 결정할 것"이라고 말했다.

    이어 "AI를 조직에 더 많이 연결하고 실제 업무를 안심하고 맡겨본 뒤 상업적인 성과로 남겨야 한다"며 "이제 우리가 어떤 공장을 만들지 결정할 차례"라고 덧붙였다.