Skip to main content
Build the future with Agentforce at TDX in San Francisco or on Salesforce+ on March 5–6. Register now.

AI 위협 및 방어에 대해 알아보기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

  • 일상에서 사용하는 애플리케이션에 대한 AI 위험과 방어 전략을 파악할 수 있습니다.
  • 시스템, 사용자, 비즈니스를 보호하는 사이버 방어자의 역할에 대해 설명할 수 있습니다.

인공지능(AI)의 영역이 점점 더 확장됨에 따라 윤리적 고려 사항과 보안 프로토콜에 대한 이해가 더욱 중요해지고 있습니다. AI는 혁신적인 편리함을 제공하지만 잠재적인 위험도 함께 수반한다는 점을 기억하세요.

중요한 주제인 AI 사이버 공격과 방어를 다루기 전에 이러한 두 가지 측면에 대해 간략히 살펴보겠습니다.

AI 사이버 공격 및 방어

볼 만한 영화를 골라 주고, 집이 안전하도록 감시하고, 자녀의 숙제를 도와주는 등 AI의 역할은 일상 생활에서 계속 확대되고 있습니다. 하지만 우리는 이러한 편리함에 여러 위험이 함께 따른다는 사실을 알아야 합니다. 기술의 발전과 함께 이를 악용하려는 사람들의 전략도 진화하고 있습니다.

일상에서 사용하는 AI의 위험성 이해하기

먼저, AI 시스템 자체에 대한 공격이 있습니다.

  • 알고리즘 오염: AI에 잘못된 정보를 제공하여 잘못된 답을 유도하는 것입니다. 자동차의 GPS가 고의로 잘못된 방향으로 작동해 엉뚱한 위치로 이동했다고 상상해 보세요.
  • 데이터 변조: 스마트 키친이 따라야 하는 레시피의 재료를 변경해 여러분이 예상하거나 원했던 것과는 다른 식사가 만들어진 것과 같은 상황입니다.
  • 무단 액세스: 누군가 음성 인식 홈 어시스턴트에게 비밀 명령을 입력해 사용자의 허락 없이 제어할 수 있다고 상상해 보세요.

나란히 배치되어 있는 두 순서도 왼쪽의 순서도는 데이터 집합에서 학습 알고리즘, 머신 러닝 모델에 이르는 AI 학습 모델의 단계를 나열한 것입니다. 오른쪽의 순서도에는 같은 단계가 나열되어 있지만 데이터 집합 마지막 단계를 '오염'시키는 오염 공격이 포함되어 있습니다.

다음으로, 사용자에게 직접적인 영향을 미치는 위험이 있습니다.

  • 디지털 사칭: 누군가의 모습과 목소리를 무서울 정도로 정확하게 재현하는 딥페이크에 대해 들어보셨을 것입니다. 마치 믿을 수 있는 친구나 가족이 보낸 메시지인 것처럼 속여 범죄를 저지르는 데 사용될 수 있습니다.
  • AI 기반 사기: 정상적으로 보이지만 어딘가 이상한 이메일이나 문자를 받은 적이 있나요? AI는 사용자를 속여 민감한 정보를 공개하도록 유도하는 매우 그럴듯한 사기 메시지를 생성할 수 있습니다.
  • 스마트 멀웨어: 사용자의 행동에 적응하고 학습할 수 있는 바이러스 또는 유해한 소프트웨어입니다. 예를 들어, 온라인 쇼핑을 자주 하는 경우 여러분의 결제 정보기 멀웨어의 타겟이 될 수 있습니다.

마지막으로, 직장이나 더 넓은 지역 사회에 영향을 미칠 수 있는 위험이 있습니다.

  • 기업 데이터 변조: 비즈니스 운영에 AI를 사용하는 경우, 해당 AI를 조작하면 회사의 이익에 반하는 행위가 발생할 수 있습니다.
  • 평판 손상: AI를 사용하여 고객과 소통하는 비즈니스의 경우, AI 시스템이 손상되면 신뢰를 잃을 수 있습니다.

사용자는 AI를 안전하고 윤리적으로 유지하는 데 중요한 역할을 합니다. 최종 사용자의 통제 범위를 벗어나는 제어 기능도 있지만, 사용자가 할 수 있는 한도 내에 가정과 직장에서 안전하고 윤리적인 AI 사용 환경을 유지할 수 있도록 하는 조치가 있습니다. 방법은 다음과 같습니다. 

  • 정보 숙지: 사용하는 AI 기반 애플리케이션이나 서비스의 개인정보보호 정책과 서비스 약관을 읽어보세요. 수집되는 데이터의 종류와 사용 방법을 정확히 파악하는 것이 좋습니다.
  • 정기적인 업데이트: 애플리케이션과 소프트웨어를 최신 상태로 유지하세요. 이렇게 하면 최신 보안 패치뿐만 아니라 AI 시스템 내에서 윤리적 고려 사항을 다루는 패치도 받을 수 있습니다.
  • 보안 설정 활성화: 특히 개인 데이터에 액세스할 수 있는 AI 기반 서비스의 경우, 2단계 인증과 같이 사용 가능한 모든 보안 옵션을 활용하세요.
  • 검토 및 감사: AI 시스템과 공유하는 데이터를 주기적으로 검토하세요. 불필요한 정보를 삭제하고 설정을 조정하여 데이터 노출을 제한하는 것이 좋습니다.
  • 의심하기: 메시지나 동영상이 의심스러워 보인다면 확인해 볼 필요가 있습니다. 정보를 공유하거나 행동에 옮기기 전에 주의를 기울이고 정보를 확인하세요.
  • 교육하기: AI 사용 시 고려해야 할 윤리적, 보안적 사항에 대한 지식과 인사이트를 친구 및 가족과 공유하세요.
  • 문제 보고:편향적이거나 비윤리적인 행동을 발견하면 보고하세요. 문제를 보고하는 방법은 문제가 있는 AI 동작이 발생한 상황에 따라 다릅니다.
    • 서비스 공급자: 첫 번째 연락 창구는 AI 서비스를 제공하는 회사 또는 조직이어야 합니다. 대부분의 플랫폼에는 보안 또는 윤리 문제에 대한 보고 체계가 마련되어 있습니다.
    • 규제 기관: 개인정보보호 또는 차별 등과 관련된 심각한 사안인 경우, 미국의 연방거래위원회(FTC) 또는 평등고용기회위원회(EEOC)와 같은 관련 정부 기관이나 규제 기관 또는 국제재판관할의 유사한 기관에 문제를 보고할 수 있습니다.
    • 내부 채널: 고용주가 업무용으로 AI 시스템을 제공한 경우, IT 부서 또는 사내 윤리 위원회에 해당 문제를 보고하세요.
    • 개발자 그룹: 오픈 소스 소프트웨어인 경우, 일반적으로 GitHub와 같은 리포지토리를 통해 개발자에게 직접 문제를 보고할 수 있습니다.

이러한 조치를 취하는 것은 AI 공간에서 안전과 윤리적 책임을 다하는 문화에 기여하는 것입니다. 스마트 기술의 혜택을 누리는 데 그치지 않고 현명하게 사용하는 것이 중요합니다.

AI 중심의 세계로 더 나아가고 있는 상황에서 이러한 위협을 인식하고 완화하는 것이 디지털 미래를 보호하는 핵심입니다. 

AI와 사이버 방어

AI가 가져오는 모든 과제와 관련해 사이버 보안에서도 혁신적인 솔루션을 기대할 수 있습니다. AI를 갖춘 사이버 방어는 다양한 기법과 기술을 활용해 AI 기반 공격을 적극적으로 방어할 수 있습니다. 좀 더 자세히 살펴보고 AI가 사이버 방어에 어떤 도움을 주는지 살펴보겠습니다.

사이버 보안의 역할 

보호 및 방어 기법과 기술 

AI 시스템 보호
  • 행동 분석: AI는 일반적인 사용 사례에서 비정상적인 패턴을 스캔하여 잠재적인 위협이나 공격을 나타내는 편차를 표시합니다.
  • 견고성 훈련: AI 모델을 악의적인 코드에 노출시켜 공격에 대응하도록 학습시키고 시스템 복원력을 강화합니다.
  • 모델 모니터링: 모델을 지속적으로 모니터링하여 학습 동작과 실제 동작 간의 불일치를 확인하면 백도어 공격이나 데이터 오염으로 인해 발생하는 이상 징후를 탐지하는 데 도움이 됩니다.
  • 데이터 검증: AI는 실시간으로 학습 데이터의 무결성을 검증하여 모델에 영향을 미치기 전에 악성 데이터나 오염된 데이터를 발견하고 필터링할 수 있습니다.

사람 보호
  • 딥페이크 탐지: 고급 AI 알고리즘은 학습을 통해 사람이 눈치채지 못하는 동영상, 오디오 또는 이미지의 미묘한 불일치를 감지하여 딥페이크를 탐지할 수 있습니다.
  • 실시간 피싱 탐지: AI는 이메일과 기타 커뮤니케이션 폼에서 피싱 징후를 빠르게 스캔할 수 있습니다. AI는 방대한 피싱 데이터를 분석하여 새롭고 정교한 피싱 수법까지 인지할 수 있습니다.
  • 적응형 위협 인텔리전스: 사이버 보안 시스템은 AI를 사용해 AI 기반 멀웨어의 변화하는 기술에 적응합니다. 새로운 패턴을 인식하여 지속적으로 학습하고 진화하기 때문에 가능한 일입니다.
  • 최종 사용자 행동 분석(EUBA): AI는 정상적인 사용자 프로필을 분석하여 비정상적인 활동을 실시간으로 감지할 수 있습니다. 이를 통해 손상된 AI 시스템으로 인한 잠재적 위협을 막을 수 있습니다.

비즈니스 목표 지키기
  • 예측 분석: AI는 과거 데이터의 패턴을 분석하여 미래의 보안 위협을 예측할 수 있습니다. 이러한 예방적 접근 방식은 비즈니스 위협이 실제로 발생하기 전에 대응할 수 있도록 지원하여 비지니스 목표를 유지할 수 있게 해 줍니다.
  • 자동화된 대응 시스템: 위협이 감지되면 AI는 대응을 자동화하여 시스템을 격리하고, 백업을 시작하고, 알림을 전송하는 등 적절한 조치를 검토 및 결정할 수 있습니다. 위협에 대한 대응 속도가 중요한 경우가 많으며, 자동화는 사람보다 더 빠르게 대응할 수 있으므로 유용합니다.
  • 통합 위협 인텔리전스: AI는 시스템 전반의 다양한 위협 인텔리전스 소스와 실행 가능한(가장 효과가 있을 것으로 예상되는) 권장 사항을 지침에 통합하여 주어진 위협에 효과적으로 대처할 수 있습니다.
  • 시맨틱 분석: AI는 커뮤니케이션의 문맥과 의미를 이해하기 때문에 AI 기반 의사결정 프로세스를 조작하려는 미묘한 시도를 감지할 수 있습니다.

AI의 기능을 활용하면 사이버 보안은 AI에 대한 악의적인 공격으로 인해 발생하는 수많은 위협을 능동적이고 효율적으로 방어할 수 있습니다. 사이버 보안에 AI를 더하면 현대 디지털 시대에 맞는 역동적이고 적응력이 뛰어나며 강력한 방어 메커니즘을 구축할 수 있습니다.

AI를 사용하여 네트워크를 모니터링하는 사람

앞으로 나아갈 길

인공 지능과 사이버 보안의 만남은 모든 사이버 보안 전문가들이 깊이 공감하는 패러다임의 변화를 제시합니다. AI의 복잡성과 잠재력은 기술 환경을 재정의할 뿐만 아니라 기술 향상, 지식 습득, 성과에 대한 새로운 길을 개척하고 있습니다.

이러한 변화에 있어서 AI에는 그 능력에 상응하는 취약성이 있다는 사실을 깨닫는 것이 중요합니다. 사이버 보안 전문가에게 이는 다음과 같은 기회를 의미합니다.

  1. 교육 및 훈련: AI 모델이 점점 더 복잡해짐에 따라 이에 대한 이해도를 높여야 할 필요성도 커지고 있습니다. AI 중심의 사이버 보안에 초점을 맞춘 맞춤형 교육 과정과 인증은 곧 선택이 아니라 필수가 될 것입니다.
  2. 기술 증대: 어제까지만 해도 충분했던 도구와 기술이 내일의 AI 기반 위협에 대응하지 못할 수도 있습니다. 위협 탐지 및 분석, 자동화된 사고 대응 전략, AI 배포 시 윤리적 고려 사항에 대한 지속적인 기술 개발이 중요합니다.
  3. 영향력 확장: AI가 산업에 통합되면서 사이버 보안의 역할이 시스템 보호에서 비즈니스 궤도로 확장되었습니다. 보안이 잘 갖춰진 AI 모델은 비즈니스의 성장을 촉진하고, 사용자의 신뢰도를 높이며, 윤리적 원칙을 준수합니다.

AI가 주도하는 미래에는 적응과 혁신이 필요합니다. 사이버 보안 전문가는 지속적으로 학습하고, 기술을 개선하며, 더 큰 영향력을 발휘하는 것을 목표로 삼음으로써 AI 환경을 탐색하는 데 그치지 않고 더 나아가 AI를 정의할 수 있습니다.

요약

이 모듈에서는 업무 및 일상에서의 AI와 AI의 윤리적 및 보안적 의미에 대해 소개했습니다. AI 사이버 공격과 이를 방어할 수 있는 방법에 대해서도 배워보았습니다. 우리는 이제 이러한 지식을 갖췄으므로 AI의 혁신을 지지하고 방어 체계를 강화할 수 있습니다!

사이버 보안 역할에 대해 자세히 알아보고 보안 전문가의 이야기를 들어보고 싶으신가요? Trailhead에서 사이버 보안 경력 경로를 확인하세요. 

리소스

Salesforce 도움말에서 Trailhead 피드백을 공유하세요.

Trailhead에 관한 여러분의 의견에 귀 기울이겠습니다. 이제 Salesforce 도움말 사이트에서 언제든지 새로운 피드백 양식을 작성할 수 있습니다.

자세히 알아보기 의견 공유하기