ChatGPT와 같은 생성적 AI 도구가 기업 전체에 확산되면서 CISO는 성능 향상과 알려지지 않은 위험이라는 매우 어려운 균형을 맞춰야 합니다. 생성적 AI는 사이버 보안에 더 높은 정밀도를 제공할 뿐만 아니라 차세대 공격자가 사용하기 쉽다는 것을 광고하는 FraudGPT와 같은 새로운 공격 도구로 무기화되고 있습니다.
성능 대 위험의 문제를 해결하는 것이 사이버 보안 지출의 성장 촉매제임이 입증되었습니다. 생성적 AI 기반 사이버 보안 플랫폼, 시스템 및 솔루션의 시장 가치는 2022년 16억 달러에서 2032년 112억 달러로 증가할 것으로 예상됩니다. Canalys는 생성적 AI가 5년 내에 기업 사이버 보안 운영의 70% 이상을 지원할 것으로 예상합니다.
신원 보안의 핵심을 공격하는 무기화된 AI
생성적 AI 공격 전략은 먼저 신원을 제어하는 데 중점을 둡니다. Gartner에 따르면 액세스 권한 및 ID 관리에 있어 사람의 실수로 인해 발생한 보안 실패 비율은 2년 전의 50%에서 75%로 늘어났습니다. 생성 AI를 사용하여 인간의 오류를 강제하는 것은 공격자의 목표 중 하나입니다.
VentureBeat는 CrowdStrike의 사장인 Michael Sentonas를 인터뷰하여 사이버 보안 리더가 고객이 기존 탐지 및 대응 기술을 무시하는 새롭고 더욱 치명적인 공격에 대처하도록 어떻게 돕고 있는지에 대한 통찰력을 얻었습니다.
Sentonas는 “(우리가) RSA(2023)에서 수행한 해킹(데모) 세션은 정체성과 복잡성에 대한 몇 가지 과제를 보여주기 위한 것이었습니다. 엔드포인트를 ID와 사용자가 접근하는 데이터로 연결한 이유는 매우 중요한 문제이기 때문입니다. 그리고 이를 해결할 수 있다면 조직이 안고 있는 사이버 문제의 큰 부분을 해결할 수 있습니다.”
사이버 보안 리더는 도전에 응하고 있습니다
선도적인 사이버 보안 공급업체는 DevOps를 통해 생성 AI 앱을 베타 버전으로 빠르게 추적하고 개발 중인 많은 모델을 두 배로 늘리는 과제에 직면해 있습니다.
Palo Alto Networks의 최근 수익 보고에서 회장 겸 CEO인 Nikesh Arora는 회사가 생성 AI에 쏟고 있는 강도를 강조하면서 다음과 같이 말했습니다. 팔로알토의 모든 제품. 그리고 우리는 고객에게 더 나은 보안을 제공하기 위해 좋은 데이터를 수집하는 수문을 열었습니다. 이것이 실시간 보안을 위해 이 문제를 해결하는 방법이라고 생각하기 때문입니다.”
AI 기반 위협에 대한 회복력을 향하여
CISO와 그 팀이 AI 공격 및 위협과의 전쟁에서 승리하려면 생성 AI 기반 앱, 도구 및 플랫폼이 무기고의 일부가 되어야 합니다. 공격자들은 가장 적응력이 뛰어난 기업을 능가하여 가장 취약한 공격 벡터에 침투할 수 있도록 기술을 연마하고 있습니다. 필요한 것은 더 뛰어난 사이버 탄력성과 자가 치유 엔드포인트입니다.
Absolute Software의 2023 탄력성 지수는 VentureBeat가 Absolute가 발견한 연결 준수 추세에서 탁월한 성과를 거두는 것이 얼마나 어려운지에 대해 배운 내용과 잘 일치합니다. 보안과 사이버 탄력성의 균형을 맞추는 것이 목표이며, 지수는 조직이 이를 추구할 수 있는 방법에 대한 유용한 로드맵을 제공합니다. 제로 트러스트와 마찬가지로 사이버 복원력은 조직의 변화하는 요구 사항에 적응하는 지속적인 프레임워크입니다.
RSAC 2023에서 인터뷰한 모든 CEO 및 CISO VentureBeat는 직원 및 회사 소유의 엔드포인트 장치가 가장 빠르게 움직이고 가장 보호하기 어려운 위협 표면이라고 말했습니다. 생성적 AI 기반 공격의 위험이 증가함에 따라 운영 체제와 구성을 재생성할 수 있는 탄력적이고 자가 치유 기능을 갖춘 엔드포인트가 엔드포인트 보안의 미래입니다.
CISO와 팀이 준비할 수 있는 5가지 방법
생성적 AI 기반 공격에 대비하는 데 있어 핵심은 모든 침입 시도로부터 학습하는 AI, 생성적 AI 및 기계 학습(ML) 알고리즘을 사용하여 대규모의 모든 침해 또는 침입 시도에 대한 머슬 메모리를 생성하는 것입니다. CISO와 팀이 생성 AI 기반 공격에 대비하는 5가지 방법은 다음과 같습니다.
브라우저에서 생성 AI 및 ChatGPT 세션 보호
기밀 데이터가 LLM으로 유출되는 보안 위험에도 불구하고 조직은 생성 AI 및 ChatGPT를 통해 생산성을 높이는 데 흥미를 갖고 있습니다. RSA에서 시작하여 이번 달 계속되는 VentureBeat의 CISO 인터뷰에서는 이러한 전문가들이 AI 거버넌스 정의에 대해 의견이 분분하다는 사실을 보여줍니다. 이 문제에 대한 솔루션이 작동하려면 브라우저, 앱 및 API 수준에서 액세스를 보호해야 효과적입니다.
여러 스타트업과 대규모 사이버 보안 공급업체가 이 분야의 솔루션을 개발하기 위해 노력하고 있습니다. Nightfall AI가 최근 혁신적인 보안 프로토콜을 발표한 것은 주목할 만합니다. Genesys에 따르면 Nightfall의 사용자 정의 가능한 데이터 규칙과 문제 해결 통찰력은 사용자가 스스로 수정하는 데 도움이 됩니다. 이 플랫폼은 CISO가 데이터 보안을 보장하면서 AI를 사용할 수 있도록 가시성과 제어 기능을 제공합니다.
항상 새로운 공격 벡터와 침해 유형을 검색합니다.
SOC 팀은 생성 AI로 인한 더욱 정교한 사회 공학, 피싱, 맬웨어 및 비즈니스 이메일 손상(BEC) 공격을 목격하고 있습니다. LLM 및 생성 AI 앱에 대한 공격은 오늘날 초기 단계이지만 CISO는 이러한 위험을 줄이기 위해 이미 제로 트러스트를 두 배로 늘리고 있습니다.
여기에는 생성적 AI 트래픽 패턴을 지속적으로 모니터링 및 분석하여 새로운 공격을 나타낼 수 있는 이상 현상을 탐지하고, 잠재적인 취약점을 발견하기 위해 개발 중인 생성적 AI 시스템을 정기적으로 테스트하고 레드팀으로 구성하는 것이 포함됩니다. 제로 트러스트는 모든 위험을 제거할 수는 없지만 생성적 AI 위협에 대해 조직의 탄력성을 높이는 데 도움이 될 수 있습니다.
마이크로세그먼테이션의 격차와 오류를 찾아서 해소합니다.
제로 트러스트의 초석인 마이크로 세분화를 개선하는 제너레이티브 AI의 잠재력은 스타트업의 독창성 덕분에 이미 실현되고 있습니다. 거의 모든 마이크로 세분화 제공업체는 DevOps 노력을 빠르게 추적하고 있습니다.
심층적인 AI 및 ML 전문 지식을 갖춘 주요 공급업체로는 Akamai, Airgap Networks, AlgoSec, Cisco, ColorTokens, Elisity, Fortinet, Illumio, Microsoft Azure, Onclave Networks, Palo Alto Networks, VMware, Zero Networks 및 Zscaler가 있습니다.
마이크로 세분화 분야에서 가장 혁신적인 스타트업 중 하나는 2023년 최고의 제로 트러스트 스타트업 20개 중 하나로 선정된 Airgap Networks입니다. 에이전트 없는 마이크로 세분화에 대한 Airgap의 접근 방식은 모든 네트워크 엔드포인트의 공격 표면을 줄이고 기업 전체의 모든 엔드포인트를 분할하는 것이 가능합니다. 장치 변경, 가동 중지 시간 또는 하드웨어 업그레이드 없이 솔루션을 기존 네트워크에 통합합니다.
Airgap Networks는 또한 그래프 데이터베이스와 GPT-3 모델을 사용하여 SecOps 팀이 새로운 위협 통찰력을 얻을 수 있도록 지원하는 ThreatGPT가 포함된 제로 트러스트 방화벽(ZTFW)을 도입했습니다. GPT-3 모델은 자연어 쿼리를 분석하고 보안 위협을 식별하며, 그래프 데이터베이스는 엔드포인트 트래픽 관계에 대한 상황별 인텔리전스를 제공합니다.
Airgap의 CEO인 Ritesh Agrawal은 VentureBeat에 “매우 정확한 자산 검색, 에이전트 없는 마이크로 세분화 및 보안 액세스를 통해 Airgap은 진화하는 위협에 대처할 수 있는 풍부한 인텔리전스를 제공합니다.”라고 말했습니다. “지금 고객에게 필요한 것은 프로그래밍 없이 이러한 기능을 쉽게 활용할 수 있는 방법입니다. 이것이 ThreatGPT의 장점입니다. AI의 순수한 데이터 마이닝 인텔리전스와 쉬운 자연어 인터페이스가 결합된 것입니다. 이는 보안 팀의 판도를 바꾸는 일입니다.”
생성적 AI 기반 공급망 공격으로부터 보호
보안은 소프트웨어 개발 수명주기(SDLC)가 끝날 때 배포 직전에 테스트되는 경우가 많습니다. 새로운 생성적 AI 위협이 등장하는 시대에 보안은 지속적인 테스트와 검증을 통해 SDLC 전반에 걸쳐 확산되어야 합니다. API 보안도 우선 순위가 되어야 하며 모든 DevOps 파이프라인에서 API 테스트 및 보안 모니터링이 자동화되어야 합니다.
새로운 생성 AI 위협에 대해 완벽하지는 않지만 이러한 관행은 장벽을 크게 높이고 빠른 위협 탐지를 가능하게 합니다. SDLC 전체에 보안을 통합하고 API 방어를 개선하면 기업이 AI 기반 위협을 차단하는 데 도움이 됩니다.
모든 생성 AI 앱, 플랫폼, 도구 및 엔드포인트에 대해 제로 트러스트 접근 방식 채택
생성적 AI 도구, 앱, 플랫폼, 그리고 이들이 의존하는 엔드포인트와의 모든 상호 작용에 대한 제로 트러스트 접근 방식은 모든 CISO 플레이북에서 필수입니다. 최소한의 권한 액세스를 적용하고 저장 및 전송 중인 사용자, 장치 및 사용 중인 데이터에 대한 상시 확인을 적용하는 데 필요한 세부적인 가시성을 제공하려면 지속적인 모니터링 및 동적 액세스 제어가 마련되어 있어야 합니다.
CISO는 생성 AI가 어떻게 보호할 준비가 되어 있지 않은 새로운 공격 벡터를 가져올지 가장 걱정하고 있습니다. 대규모 언어 모델(LLM)을 구축하는 기업의 경우 쿼리 공격, 신속한 삽입, 모델 조작 및 데이터 중독으로부터 보호하는 것이 최우선 과제입니다.
제로 트러스트를 통한 생성적 AI 공격 준비
CISO, CIO 및 그 팀은 오늘날 어려운 문제에 직면해 있습니다. ChatGPT와 같은 생성적 AI 도구는 조직에서 더 나은 생산성을 제공하기 위해 자유롭게 통제됩니까, 아니면 제한되어 통제됩니까? 그렇다면 어느 정도입니까? 삼성의 지적 재산 보호 실패는 여전히 많은 이사회 구성원의 마음 속에 생생하게 남아 있으며, VentureBeat는 이사회에 정기적으로 브리핑을 하는 CISO와의 대화를 통해 알게 되었습니다.
이사회 수준에서 SOC 팀에 이르기까지 모두가 동의하는 한 가지는 생성적 AI 기반 공격이 증가하고 있다는 것입니다. 그러나 특히 인플레이션과 이자율 상승을 고려할 때 자본 지출 예산 책정에 뛰어들고 싶어하는 이사회는 없습니다. 많은 사람들이 도달한 대답은 제로 트러스트 이니셔티브를 가속화하는 것입니다. 효과적인 제로 트러스트 프레임워크가 생성적 AI 공격을 완전히 차단할 수는 없지만 폭발 반경을 줄이고 ID 및 권한 있는 액세스 자격 증명을 보호하는 1차 방어선을 구축하는 데 도움이 될 수 있습니다.
