생성형 AI가 기업 보안에 미치는 영향

생성형 AI의 등장으로 인공지능의 역량에 대한 생각이 빠르게 변화되었으며, 이를 주류 기술로 채택하려는 움직임은 기술 분야에서 일하지 않는 많은 사람들에게 충격적으로 보일 수 있습니다. 이는 경외감과 불안감을 야기하며, 종종 두 가지를 동시에 불러오기도 합니다.

그렇다면 생성형 AI가 기업과 사이버 보안에 미치는 영향은 무엇일까요?

기술의 변곡점

생성형 AI는 뇌가 작동하는 것처럼 딥 러닝 시스템으로 구동되는 신경망에서 작동합니다. 이러한 시스템은 인간의 학습 과정과 유사한 과정을 따릅니다. 그러나 인간의 학습과는 달리, 생성형 AI에서 올바른 정보와 결합된 크라우드소싱 데이터의 위력으로 처리 속도가 몇 광년 더 빨라집니다. 개인이 처리하려면 30년이 걸릴 수도 있는 일이 눈 깜짝할 사이에 완료됩니다. 이러한 이점은 투입되는 데이터의 품질과 양에 따라 달라질 수 있습니다.

생성형 AI는 기업의 입장에서 과학적, 공학적 게임체인저가 될 것입니다. 조직의 효율성을 크게 향상시킬 수 있는 기술 – 동일한 수의 인력으로 조직의 생산성을 크게 향상시킬 수 있습니다. 그러나 거의 하룻밤 사이에 급부상한 것 같은 ChatGPT, Bard, GitHub Copilot 등 생성형 AI 애플리케이션의 빠른 성장에 대한 충격으로 기업의 IT 리더들은 놀랄 수밖에 없었습니다. 생성형 AI 도구가 너무나 빠른 속도로 대중화되어 6개월 만에 이미 기술의 변곡점에 도달하고 있습니다.

사이버 보안과 관련된 과제

ChatGPT를 포함한 생성형 AI는 주로 서비스형 소프트웨어(SaaS) 모델을 통해 제3자에 의해 제공됩니다. 여기에서 제기되는 과제 중 하나는 생성형 AI와 상호 작용하기 위해서는 이러한 제3자에게 데이터를 제공해야 한다는 것입니다. 이러한 AI 도구를 지원하는 대규모 언어 모델(LLM)은 후속 프롬프트에 지능적으로 응답하기 위해 해당 데이터를 저장해야 합니다.

AI의 사용으로 민감한 데이터의 손실 및 규정 준수와 관련하여 중대한 문제가 발생합니다.  개인 식별 가능 데이터(PII), 보호 대상 건강 정보(PHI) 또는 지식재산권(IP)과 같은 민감한 정보를 생성형 AI 프로그램에 제공하는 것은 다른 데이터 프로세서 및 데이터 컨트롤러 관계와 동일한 관점에서 바라볼 필요가 있습니다. 따라서 적절한 제어장치가 마련되어야 합니다.

ChatGPT와 같은 AI 도구에 입력되는 정보는 지식 자원의 일부가 됩니다. 모든 ChatGPT 가입자는 이러한 공통 데이터세트에 액세스할 수 있습니다. 즉, 업로드하거나 문의한 모든 데이터가 특정 앱 내에서 유사한 질문을 하는 다른 제3자에게 다시 재생될 수 있습니다. 이는 교육 세트로 사용될 경우 향후 질의응답에 영향을 미칠 수 있기 때문에 서비스형 소프트웨어(SaaS) 애플리케이션 문제와 매우 유사합니다. 현재 대부분의 생성형 AI 도구에는 사용자가 제공하는 데이터에 대한 구체적인 데이터 보안 정책이 마련되어 있지 않습니다.

AI와 관련된 내부자 위협도 중대한 문제로 대두되고 있습니다. 자신이 속한 기업에 대해 잘 알고 있는 내부자는 ChatGPT를 사용해 실제와 매우 유사한 이메일을 작성할 수 있습니다. 이들은 다른 사람의 스타일, 오타 등 모든 것을 복제할 수 있습니다. 또한 공격자가 웹사이트를 정확히 복제할 수도 있습니다.

기업이 갖추어야 할 보안 대책

다행히 Symantec DLP Cloud,Symantec Endpoint Security Complete(SESC)의 적응형 보호 기능 및 이메일 보안을 위한 실시간 링크와 같은 생성형 AI 보호 솔루션이 이러한 새로운 과제를 해결하고 대상에 맞춰 다양한 방식으로 공격을 차단합니다.

Symantec DLP Cloud는 기업을 대상으로 생성형 AI 보호 기능을 확장하여 기업이 조직 내에서 이루어지는 생성형 AI 도구와의 상호 작용을 찾고 모니터링 및 제어하는 데 필요한 기능을 제공합니다. 무엇보다 DLP는 AI를 사용하여 사고의 우선순위를 빠르게 지정할 수 있으며, 전문 분석가들이 가장 중요한 사고를 분류하고 기업에 중대한 위협이 되지 않는 사고를 파악할 수 있도록 도와줍니다. 

제공되는 이점은 다음과 같습니다.

• 기업이 생성형 AI에서 발생할 수 있는 위험을 도구별로 이해할 수 있는 역량을 제공합니다.
• 중요한 데이터가 의도적으로 또는 부주의로 인해 업로드되거나 게시되는 것을 차단하는 데 필요한 안전장치를 제공하여, 인기 있는 AI 도구를 보안을 유지하며 안전하게 사용할 수 있게 합니다. 
• PHI, PII 및 기타 중요 데이터에 대한 규정 준수를 식별, 분류 및 문서화합니다.

결론적으로 다음과 같습니다. Symantec Generative AI Protection을 통해 기업은 생성형 AI의 생산성을 긍정적으로 활용하여 데이터 보안 및 규정 준수를 유지하면서 동시에 혁신을 강화할 수 있습니다.