안전한 클라우드 컴퓨팅 환경을 보장하기 위해 표준, 인증, 모범 사례를 정의하는 세계적인 기관인 CSA(Cloud Security Alliance)와 구글 클라우드의 새로운 설문조사에 따르면 조사 대상 조직의 55%가 향후 1년 이내에 생성형 AI 솔루션을 도입할 계획이라고 대답해 생성형 AI 통합이 크게 증가할 것으로 전망된다. ‘AI 와 보안의 현황 조사’ 보고서에 따르면, 조직이 빠르게 AI 도입을 추진하는 배경에는 현대 비즈니스 환경에서 AI가 제공하는 경쟁 우위를 인식하고 있는 최고 경영진이 크게 기여하고 있었다. 실제로 응답자의 82%가 경영진의 리더십이 AI 도입의 추진 이유라고 답했다.

또한, 응답자의 67%가 보안 목적으로 AI를 테스트해 본 적이 있다고 답하는 등 사이버 보안에 AI를 통합하는 것이 단순히 구상에서 그치는 게 아니라 많은 조직에서 현실화되고 있는 것으로 나타났다. AI 활용 능력과 관련한 질문에는 조사에 응한 전문가의 약 절반이(48%) 자신의 조직이 AI 활용 보안 전략을 실행할 수 있는 능력을 가지고 있다고 자신감을 드러냈으며, 그중 28%는 ‘(능력을 보유하고 있다고) 어느 정도 확신한다’, 20%는 ‘매우 확신한다’고 대답했다. 해당 분야의 생성형 AI 도입이 초기 단계라는 점을 고려할 때, 이는 전문가들이 조직의 준비 상태에 대해 낙관적이거나 AI 통합의 복잡성을 간과하고 있음을 시사한다.

구글 클라우드 CISO 필 베나블스(Phil Venables)는 “AI 사용은 단순히 점진적인 발전이 아니라 사이버 보안 업계에 근본적인 변화를 가져올 수 매우 드문 혁신의 기회다. 생성형 AI를 사용하는 조직은 방어 역량을 10배 이상 강화해 전세를 뒤집을 수 있는 잠재력을 가질 수 있다”며, “공격자의 AI 사용에 대응해야 하는 것은 맞지만, 이보다 더 중요한 것은 사이버 방어와 AI의 통합이다. 본 보고서의 조사 결과는 구글의 ‘보안 AI 프레임워크 (Secure AI Framework; SAIF)’와도 부합한다"고 설명했다.

이번 보고서의 주 저자(lead author)이자 CSA 연구 수석 기술 책임자 힐러리 바론(Hillary Baron)은 "이번 보고서는 업계 전문가가 사이버 보안에서 진화하는 AI의 역할을 바라보는 관점 및 이를 대비하는 자세와 관련한 인사이트를 공유한다. 이런 인사이트는 전환을 모색하고, 탄력적이며 미래 지향적인 디지털 인프라를 보장하는 데 핵심 역할을 한다"고 설명했다.

CSA AI 안전 이니셔티브 의장 칼렙 시마(Caleb Sima)는 "AI는 사이버 보안을 변화시키며 새로운 기회와 복잡한 과제를 동시에 제공하고 있다"며, “하지만 AI를 성공적으로 이해하고 도입하는 데 있어 최고경영진과 직원 간의 소통 단절은 전략적이고 통합된 접근 방식의 필요성을 강조한다"고 말했다.

‘AI 와 보안의 현황 조사’ 보고서의 주요 내용은 다음과 같다.

 AI에 대한 보안 전문가들의 낙관적인 전망: 63%의 응답자는 AI가 보안 조치를 강화할 수 있는 잠재력을 가지고 있으며, 특히 위협 탐지 및 대응 능력을 향상시킬 수 있을 것으로 기대한다고 답했다. 그러나 응답한 보안 전문가의 25%는 ‘AI의 도입이 공격자에게 더 유리할 수 있다’고 우려를 표명했다. ‘AI가 보안팀에 더 유리하다’는 응답자는 34%였으며 ‘방어자와 공격자 모두에게 똑같이 유리하다’고 답한 비율은 31%였다.

 보안 전문가의 대체가 아닌 역량을 강화하는 AI: 조사에 응한 보안 전문가 중 4분의 1이 채 되지 않는 응답자(12%)만이 ‘AI가 보안 전문가의 역할을 완전히 대체할 것’이라고 답했다. 다수의 응답자는 AI가 자신의 기술을 향상시키거나(30%), 일반적으로 자신의 역할을 지원하고(28%), 역할의 상당 부분을 대체해(24%) 다른 업무에 더 많은 시간을 쓸 수 있게 해줄 것이라고 응답했다.

 AI에 대한 경영진과 직원의 견해 차이: ‘AI 기술이 매우 친숙하다’고 답한 비율은 최고경영진이 실무 직원보다 높은 것으로 나타났다. 더 나아가, 절반 이상의 최고경영진인 응답자(51%)가 ‘잠재적인 AI 사용 사례에 대해 매우 명확하게 이해하고 있다’고 답한 반면, 동일하게 답한 직원의 비율은 14%에 그쳤다.

 2024년은 AI 도입의 해: 응답한 조직의 절반 이상에 해당하는 55%가 생성형 AI를 활용한 보안 솔루션과 툴을 도입할 계획이 있는 것으로 확인됐다. 이들은 관련 기술의 유스케이스를 다양하게 탐색해 보고 있는 것으로 나타났는데, 가장 많이 시도해 본 사례는 규칙 생성(21%), 공격 시뮬레이션(19%), 컴플라이언스 위반 탐지(19%) 순이었다.

구글 클라우드는 AI에 대한 업계의 지식, 태도, 의견을 보다 잘 이해하기 위해 CSA에 설문조사 및 보고서 개발을 의뢰했으며, 프로젝트 자금을 지원하고 CSA 리서치 애널리스트와 설문지를 공동 개발했다. 설문조사는 2023년 11월 아메리카 대륙, 아시아태평양, 유럽중동 지역 내 다양한 규모의 조직의 IT 및 보안 전문가 2,486명을 대상으로 온라인으로 실시됐다. 보고서의 데이터 분석은 CSA의 리서치 분석가들이 진행했다.