사이버 보안은 점점 더 복잡해지는 디지털 환경에서 중요한 요소다. 최근에는 인공지능(AI) 기술이 발전하면서, 특히 생성형 AI의 적용이 사이버 보안 분야에서 주목받고 있다. 생성형 AI가 다양한 사이버 공격을 가정한 시나리오를 자동으로 생성하고 이를 통해 보안 팀의 대응 능력을 강화하는 데 큰 기여를 하면서 관련 시장이 확대되고 있다.

빠르게 발전하는 생성형 AI 기술

생성형 AI는 최근 기술 발전에서 주목받는 분야로 AI 자동으로 콘텐츠를 생성할 수 있게 해주는 기술이다. 이 기술은 다양한 형태의 데이터를 학습하여 새로운 텍스트, 이미지, 음악, 코드 등을 만들어 낸다. 생성형 AI는 대표적으로 GPT(Generative Pre-trained Transformer)와 같은 모델을 사용해 주어진 입력 내용에 기반해 연관된 콘텐츠를 생성해 낼 수 있다.

생성형 AI 기술은 딥러닝과 머신러닝 모델을 활용하여 데이터를 분석하고 이해한 뒤, 새로운 콘텐츠를 생성하는 원리를 기반으로 한다. 이 기술은 특히 대규모 데이터세트에서 패턴을 학습하여 이를 바탕으로 텍스트, 이미지, 음악 등을 자동으로 생성할 수 있다.

생성형 AI의 핵심은 신경망 아키텍처, 특히 변형자(Transformer)와 같은 모델에 있다. 이러한 신경망은 입력 데이터를 받아 복잡한 계산을 통해 새로운 출력을 생성한다. 예를 들어, 자연어 처리(NLP)에서는 GPT 시리즈와 같은 모델이 주로 사용되며 이 모델들은 수백만 개의 문서를 학습하여 언어의 구조를 이해하고 이를 기반으로 새로운 텍스트를 생성할 수 있다.

그러나 생성형 AI 기술력은 아직 초기 단계이며, 만족스럽지 못하거나 사용을 해보지 않은 경우도 상당한 것으로 나타났다. CCTV뉴스가 지난 3월 27일부터 4월 15일까지 진행한 생성형 AI 서비스 만족도 설문조사에서 '생성형 AI를 사용해 봤지만 결과물이 만족스럽지 않았다'는 응답자가 36.8%로 가장 높았다. 이어 '생성형 AI를 사용해 본 적이 없다'는 응답이 26.3%로 그 뒤를 이었다. '생성형 AI를 사용해 봤으며 결과물이 만족스러웠다'는 응답은 21.1%에 그쳤으며 '생성형 AI를 사용해 봤으며 결과물은 보통이었다'는 응답이 15.8%였다.

보안 훈련 시나리오 구현하는 생성형 AI

이러한 생성형 AI가 최근에는 사이버 보안 분야의 핵심 기술로 주목받고 있다. 생성형 AI는 공격자와 방어자 모두에게 유용한 기술로 여겨진다. 특정 대상들을 사회공학적 기법으로 공격해 악성 프로그램을 설치하도록 유도하는 사이버 공격의 경우 최근에는 생성형 AI를 이용해 공격 시나리오를 만들어 낸다.

역으로 이러한 활용은 사이버 보안 훈련에서도 유용하게 사용되고 있다. 기존의 사이버 보안 훈련 시나리오는 사이버 보안 전문가들이 직접 개발하거나 보안 사고에 대응하는 표준 절차와 정책을 기반으로 작성했다. 주로 참가자들이 가상의 사이버 공격 시나리오를 토론하고 이에 대응하는 전략을 수립하는 회의 형식의 연습인 테이블톱 연습을 비롯해 과거 사례를 담은 템플릿 및 체크리스트 등을 참고하면서 상황 조치 훈련을 숙달했다.

이와 더불어 예상치 못한 공격에 대비하기 위해 비용을 지불하고 보안 컨설팅을 받아 훈련 시나리오를 설계받거나 프로그램을 개발하기도 했다. 그러나 이제는 이러한 시나리오를 생성형 AI로 설계할 수 있게 된 것이다.

생성형 AI를 활용한 훈련 방법은 다양하다. 무엇보다 생성형 AI는 과거의 공격 데이터를 학습하여 실제 공격 패턴을 모방한 시나리오를 생성할 수 있으며 이를 보안 팀에게 제공해 실전 같은 연습이 가능한 환경을 만든다. 이를 통해 보안 팀은 실제 공격 상황에서의 대응력을 높일 수 있다. 

또한 조직의 특정 보안 요구와 위협 환경에 맞게 훈련 시나리오를 맞춤 설정할 수 있다. 이는 보안 팀이 자신들의 보안 환경에 최적화된 대응 전략을 개발토록 하게 만들 수 있다. 특히 '레드팀 챌린지(Red Team Challenge)'에 특화된 것으로 평가받는다.

레드팀 챌린지는 사이버 보안 분야에서 주로 사용되는 실전 훈련 방법 중 하나로 조직의 보안 체계를 검증하고 강화하는데 사용된다. 이 훈련은 레드팀이라고 불리는 공격자 팀이 실제 공격자처럼 조직의 네트워크, 시스템, 애플리케이션 등을 대상으로 공격을 시도하며 조직의 보안 팀인 블루팀이 이를 방어하는 시나리오로 진행되는 방식이다.  생성형 AI를 활용하면 레드팀의 자동화를 추진할 수 있다.

보안 훈련에 AI 활용하는 글로벌 기업들

이미 엔비디아의 사이버GPT, 구글의 세크-팜(Sec-PaLM), 시큐어프레임(Secureframe)의 컴플라이AI(Comply AI) 같은 도구들이 등장해 실제 보안 상황을 모방한 시나리오를 만들어 내 훈련 환경을 조성하고 있는 것으로 나타났다. 이들 프로그램은 보안 팀이 실제 공격에 대응하기 전에 다양한 시뮬레이션을 통해 연습할 수 있게 해준다. 이러한 실습은 보안 사고 발생 시 신속하고 효과적으로 대응할 수 있는 능력을 키우는 데 결정적인 역할을 한다.

엔비디아 사이버GPT는 사이버 보안을 위해 특별히 개발된 생성형 AI 모델로 다양한 사이버 공격 시나리오를 자동으로 생성하여 보안 팀의 대응 능력을 강화한다. 이 모델은 사이버 보안 데이터에 최적화되어 있어 공격 패턴, 악성코드의 행동, 네트워크 침입 시도 등을 정확히 예측하고 분석하는 능력을 갖추고 있다.

사용자는 특정 보안 요구 사항에 맞춰 시나리오를 맞춤 설정할 수 있으며 사이버GPT는 이를 반영해 고유한 훈련 모듈을 생성한다. 생성된 시나리오는 지속적인 피드백을 통해 개선된다. 이 과정에서 모델은 계속해서 학습하고 발전하며 이를 통해 보안 훈련은 보다 동적이고 맞춤화된 경험을 제공하면서 사이버 보안 전문가들이 실제 상황에서 겪을 수 있는 다양한 시나리오에 효과적으로 대비할 수 있도록 한다.

구글의 세크-팜은 사이버 보안 전문화를 위해 조정된 AI 언어 모델이다. 보안 위협을 식별하고 요약하는 데 중요한 역할을 한다. 이 모델은 기존 팜(PaLM) 모델에서 파생됐다. 소프트웨어 취약점, 악성코드, 위협 지표 및 행동 위협에 대한 정보를 통합해 보안 위협을 찾고 요약하며 대응하는 데 사용된다.

세크-팜은 구글의 클라우드 시큐어리티 AI 워크벤치의 일부로 사용자가 보안 사건을 검색하고 결과와 대화형으로 상호작용할 수 있도록 도와준다. 공격 노출, 권장된 완화 조치 및 보안, 컴플라이언스 및 프라이버시 발견에 대한 위험 요약을 포함한 다양한 설명을 제공한다. 

또한 보안 행동 프로필과 위협 인디케이터를 기반으로 보안 사건에 대한 자연어 처리를 통해 상호 작용하는 새로운 방식을 제공한다. 이는 공격 노출에 대한 설명을 인간이 이해할 수 있는 형태로 제공하여 보안 전문가가 더 빠르고 정확하게 위협을 분석하고 대응하도록 돕는다.

시큐어프레임의 컴플라이 AI는 리스크 평가와 테스트 실패에 대한 조치를 자동화함으로써 조직이 빠르게 보안 문제를 해결하고 규정 준수 시간을 단축할 수 있게 한다. 이러한 자동화는 보안 팀이 보다 전략적인 작업에 집중할 수 있게 해주며, 전체적인 보안 태세를 강화한다.

국가 보안 전략에도 생성형 AI 적용 필요

이처럼 생성형 AI는 사이버 보안 훈련을 현실에 가깝게 재현할 수 있는 기술적 수단을 제공하며 이를 통해 기업은 보안 위협에 대응하는 능력을 실질적으로 강화할 수 있다. 따라서 보안 훈련 프로그램에 생성형 AI를 적극적으로 통합해야 할 필요성이 점점 더 커지고 있다.

국내서도 이에 대한 활용 방안을 구상하고 대응해야 할 필요성이 제기된다. 이는 단순히 반응적인 보안 태세를 넘어서 예방적이고 전략적인 보안 관리로 나아가는 중요한 발판이 될 것으로 예상된다. 이제는 조직을 넘어 국가 차원에서 생성형 AI 기술을 적극 활용해 사이버 보안 체계를 강화할 필요가 있다.

한평훈 기자 다른기사 보기