클라우드플레어(Cloudflare)가 거대언어모델(LLM)을 상대로 한 남용과 공격을 식별하는 새로운 보호 레이어(layer)인 ‘AI용 방화벽(Firewall for AI)’을 선보인다.
최근 실시된 한 조사에 따르면 최고 경영진 4명 중 1명만이 자신의 조직이 AI로 인한 위험에 대비하고 있다고 확신하는 것으로 나타났다. LLM을 보호하는 데 있어 사용자 상호 작용을 제한하는 것은 거의 불가능하다.
또한 LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있는 등 사전 설계에 의해 미리 결정되지 않는다는 점으로 인해 처음부터 적절한 보안 시스템을 구축하는 것이 어렵다. 이 때문에 LLM은 위협 행위자에게 무방비 상태가 되어 조직이 모델 조작, 공격 및 남용에 취약한 상태로 노출되는 결과를 야기한다.
매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 “클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다. AI 모델을 위한 최초의 보호막 중 하나를 제공하여 기업이 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다”고 말했다.
조직의 보안 팀은 클라우드플레어의 AI용 방화벽을 통해 AI 모델의 무기로 사용될 수 있는 잠재적 취약성으로부터 LLM 애플리케이션을 보호할 수 있다. 클라우드플레어는 ▲신속한 위험 요소 탐지 ▲사람의 개입 없이 위협을 자동으로 차단 ▲기본적인 무료 보안을 제공함으로써 고객을 지원한다.
시장 조사 기업 가트너에 따르면 생성형 AI 애플리케이션은 단독으로 보호할 수 없으며 생성형 AI 전용 보안 제어 기능을 계획하고 배포하기 전에 반드시 클라우드, 데이터 및 애플리케이션 보안의 견고한 기반이 마련되어야 한다. 클라우드플레어의 AI용 방화벽은 기존의 포괄적인 보안 플랫폼에 레이어를 추가하여 새로운 기술로 인한 위협을 궁극적으로 차단한다.
