“국내 기업의 생성형 AI 활용 현황은?”

국내 유일의 HRM과 HRD를 아우르는 종합 전문지

로그인을 하시면 더 많은 혜택을 받으실 수 있습니다.

과월호 구매

아이디/비밀번호가 생각나지 않으세요?

문의전화 : 02-2231-7293

아이디 찾기
비밀번호 찾기

회원가입

결제수단을 선택하세요.

결제수단 : 신용카드 결제

결제내역 : 컨텐츠

결제금액 :

결제를 진행하시려면 아래 "결제진행" 버튼을 클릭하세요.

결제진행 닫기

“국내 기업의 생성형 AI 활용 현황은?”

HR플라자 > HR이벤트

이현아 HR Insight 기자

등록 : 2026-01-22 14:41:36

캐럿글로벌 AX 센터는 지난해 12월 15일부터 25일까지 총 11일에 걸쳐 국내 기업에 재직 중인 HR담당자 300여 명을 대상으로 조사를 진행, 이 결과를 바탕으로 최근 '2026 한국 기업 AI 활용 현황 보고서'를 발간했다.

이번 보고서에서는 국내 기업의 AI 전환 수준과 실행 구조를 종합적으로 진단했는데, 크게 ▲AI 도입 단계와 성숙도 ▲AI 실행 리스크와 투자 방향 ▲AI 전환을 이끄는 HR과 인재라는 세 가지 영역으로 구분해 조사를 진행했다. 국내 기업의 AI 활용 방안을 제시한 이번 보고서의 내용을 간략히 공유한다.

AI 도입 단계와 성숙도
국내 기업들은 AI를 어떤 수준과 방식으로 도입하고 있는지 조사한 결과, 생성형 AI 도입 현황에 대해 과반수 이상의 기업들은 탐색/준비 단계(34.8%)와 부분 확산 단계(28.5%)에 분포돼 있는 것으로 나타났다. 대다수의 기업이 생성형 AI를 도입했거나 도입 준비 단계에 진입했으며 미도입 기업은 4.1%에 불과했다. 다만 생성형 AI가 전사 시스템에 완전히 통합된 '전사 내재화 단계'에 도달한 기업은 6.7%에 그쳐 현재 기업들은 생성형 AI를 실험하고 그 효용성을 확대해 나가는 과정에 있는 것으로 보인다.

생성형 AI 도입과 관련해 산업군별 도입 단계를 들여다본 결과, <그림 1>과 같이 IT/소프트웨어/게임 산업군과 금융/은행/보험 산업군이 도입이 가장 앞선 산업군으로 조사됐다. 이는 기술 역량, 데이터 인프라, 규제 대응 역량이 상대적으로 높은 산업군 특성에 기인한 것으로 보인다. 또한 전자/반도체/통신, 자동차/철강/조선 등의 제조산업군은 '시범 도입'과 '부분 확산' 비중이 높아 생성형 AI에 대한 검증을 거쳐 단계적으로 확산하는 과정에 있는 것으로 나타났다.

한편 단순반복 업무를 넘어 지식 기반 업무까지 자동화해주는 AI 에이전트 도입의 경우, 탐색/준비 단계(39.6%)에 가장 많은 기업이 집중돼 있었고, 다음으로는 시범 도입(25.9%), 부분 확산(11.9%) 순으로 나타났다. AI 에이전트를 전사에 내재화했다고 응답한 기업은 3.7%에 그쳤으며, 미도입으로 응답한 기업도 18.9%로 나타나 아직 많은 기업들이 AI 에이전트의 도입을 신중하게 검토 중이며, 개인 또는 소규모 단위에서 제한적으로 활용하고 있었다.

AI 적용 리스크와 투자 방향
국내 기업들이 AI를 실제로 적용하는 과정에서 직면하는 리스크는 무엇인지 질문하자, 가장 큰 장애물은 보안/프라이버시 이슈(47.8%)로 나타났으며, 이어 초기 투자비 및 예산 부담(38.9%), 내부 전문 인력 부족(38.1%) 순으로 나타났다.

또한 AI 프로젝트 추진 시 어려웠던 점을 묻자, 내부 데이터 준비 미흡(26.3%)을 가장 큰 어려움으로 꼽았다. 운영 체제 부재(18.5%)와 부서 간 협업 및 소통 부족(17.4%)도 높은 비중을 차지했다. 이는 AI 프로젝트가 단순한 기술 도입이 아니라 데이터, 운영, 협업 구조를 함께 설계해야 하는 조직 차원의 실행 과제임을 보여주며, 프로젝트 진행 이전 단계에서 환경 기반을 먼저 점검하는 접근이 중요함을 시사한다.

더불어 올해 AI 투자 계획과 우선순위를 묻자, 63.3%에 달하는 기업이 'AI 투자를 확대하겠다'고 응답했다. '전년도 대비 투자 축소'를 말한 기업은 2.2%에 불과했으며, 절대다수의 기업에서 현재 수준 이상의 투자가 이뤄질 것을 예상했다. 이 같은 적극적인 투자 확대 움직임은 AI를 조직의 성장을 견인할 핵심 동력으로 바라보는 기업들의 인식을 잘 보여준다.

한편 가장 먼저 논의되고 있는 투자 부분에 대해서는 IT/개발/보안(35.9%)이 가장 높은 비중을 차지했으며, 이어 데이터/DT(30%), 전략/기획(27.8%), 인사/교육(27.4%) 순으로 집계됐다.

AI 전환을 이끄는 HR과 인재
AI 전환 국면에서 HR은 이제 단순 지원부서를 넘어, 조직과 기술을 통합하는 핵심 동력으로 부상하고 있다. 이와 관련해 HR 부서의 AI 활용 현황을 조사한 결과, 생성형 AI는 97%에 달하는 HR담당자들이 적극 활용 중이었으며, 활용 내용은 문서 작성 및 요약(79.6%), 커뮤니케이션 지원(46.7%), 데이터 분석 보조(43.3%), 아이디어 도출 및 문제 해결(40.7%), 교육 콘텐츠 개발(35.9%), PPT 등 시각화(23%), 반복 업무 자동화(17%), 채용 업무 지원(13.7%) 순으로 나타났다.

그러나 이미 문서 작성과 요약 중심의 일상적 생산성 도구로 활용 중인 생성형 AI와 달리, AI 에이전트의 경우 도입되지 않음(57%)과 도입 검토 중(30.4%)이 현재 활용 중(12.6%)보다 압도적으로 높게 나타나 HR 부서 역시 앞서 소개한 전사 대상 조사와 마찬가지로 AI 에이전트 도입에는 신중한 태도를 유지하고 있음을 알 수 있었다.

기업 규모별로 AI 인재를 어떻게 채용하고 있는지도 살펴봤다. 구성원 수 1,000명 이상의 대기업은 소규모 필요 인력 채용(27.5%)과 관련 직무 수시채용(20.9%)이 가장 높은 비중을 차지해 기존 조직을 기반으로 필요한 AI 인재를 점진적으로 보강하는 현실적 전략을 취하고 있었다. 구성원 수 100명~1,000명 규모의 중견기업은 계획은 있으나 아직 미채용(25%)과 소규모 필요 인력 채용(15.8%)이 가장 높게 나타나 AI 인재의 필요성은 인식하지만 실제 채용으로 이어지지 못하는 실행 공백을 보였다. 구성원 수 100명 이하의 소기업은 계획은 있으나 아직 미채용(30.5%)과 소규모 필요 인력 채용(15.3%)이 중견기업보다도 큰 비중으로 나타나, 의지는 있으나 재원과 여건의 제약으로 실행이 제한되는 모습을 띠었다.

마지막으로 AI 교육과 관련해서는 응답 기업 중 76.3%가 'AI 교육을 진행한다'고 답변했으며, 교육 필요성을 느끼는 형식으로는 전사 공통 교육(53.9%)의 수요가 압도적으로 높게 나타나 기업들이 전 구성원의 AI 기초 리터러시 확보를 최우선 과제로 여기는 것으로 조사됐다. 이어 팀장/중간관리자 교육(38.2%), 경영진/임원 교육(29.2%) 순으로 나타나 조직 변화를 주도할 리더십 계층의 AI 역량 강화도 시급히 여기고 있음을 알 수 있었다.

한편 이번 리포트는 캐럿글로벌 AX 센터 홈페이지를 통해 전문을 무료로 내려받을 수 있으며, 보다 상세한 분석 내용과 사례는 해당 자료에서 확인할 수 있다.

* 리포트 다운로드 링크 : https://ax.carrotglobal.com/

이현아 HR Insight 기자

리스트로 이동

등록