데이터 윤리, 개인정보보호 및 실질적 구현 이해하기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

• 데이터 수집 및 분석에 관한 윤리적 고려 사항의 중요성을 정의하고 이해합니다.
  
• 데이터 개인정보보호, 동의 및 기밀성 확보에 관한 윤리적 문제를 이해합니다.
  
• 데이터를 보호하는 여러 방법과 GDPR, CCPA 및 기타 관련 법률 및 규정을 포함하여 데이터 보호를 위한 법률 및 규제 프레임워크를 파악합니다.
  

윤리, 데이터 및 AI

데이터 수집과 분석은 AI와 머신 러닝의 중요한 구성 요소이지만 윤리적인 문제를 일으킬 수도 있습니다. 데이터의 가치와 접근성이 점점 더 높아지면서 데이터 수집, 분석 및 사용 방식에 대한 윤리적 영향을 고려하는 것도 중요해지고 있습니다.

데이터 수집 및 분석에서 윤리적 문제가 발생할 수 있는 몇 가지 예시는 다음과 같습니다.

• 개인정보보호 위반: 동의 없이 개인정보를 수집 및 분석하거나, 개인정보를 수집한 목적과 다른 목적으로 사용하는 행위를 가리킵니다.
  
• 데이터 침해: 민감한 데이터에 대한 무단 액세스 또는 공개로 인해 개인이나 조직에 금전 또는 평판 손실을 초래할 수 있는 경우를 가리킵니다.
  
• 편견: 데이터, 알고리즘 또는 의사 결정 프로세스에 불공평하거나 차별적인 결과를 초래할 수 있는 조직적 오류나 부정확성이 존재하는 경우를 가리킵니다.
  

데이터 개인정보보호, 동의 및 기밀성 보장

이러한 윤리적 문제를 해결하려면 데이터를 책임감 있고 윤리적인 방식으로 수집, 분석 및 사용해야 합니다. 이를 위해서는 데이터 개인정보보호, 동의 및 기밀성을 보장하기 위한 전략이 필요합니다.

다음과 같은 전략을 통해 데이터 개인정보보호 및 기밀성을 증진할 수 있습니다.

• 암호화: 적절한 권한이 부여된 사용자만 액세스할 수 있도록 민감한 데이터를 암호화하여 보호합니다.
  
• 익명화: 데이터에서 개인 식별 정보를 제거하여 특정 개인에게 다시 연결될 수 없도록 합니다.
  
• 액세스 제어: 민감한 데이터에 대한 액세스를 권한이 부여된 사용자로 제한하고, 데이터가 원래 의도된 목적으로만 사용되도록 합니다.
  

데이터 기반 의사 결정의 편향성 및 공정성 문제 해결

데이터 기반 의사 결정의 주요 과제 중 하나는 불공평하거나 차별적인 결과를 초래할 수 있는 편향성입니다. 편향성은 데이터 수집부터 알고리즘 의사 결정에 이르기까지 데이터 수명 주기의 모든 단계에서 발생할 수 있습니다.

편향성 문제를 해결하고 공정성을 증진하려면 다음과 같이 다양한 전략이 필요합니다.

• 데이터 소스 다양화: 편향성을 해결하는 주요 방법 중 하나는 다양한 소스에서 데이터를 수집하는 것입니다. 이렇게 하면 데이터가 대상 모집단을 대표하고 한 소스에 존재할 수 있는 편향성이 다른 소스를 통해 상쇄되도록 하는 데 도움이 될 수 있습니다.
  
• 데이터 품질 개선: 편향성을 해결하기 위한 또 다른 주요 전략은 데이터 품질을 개선하는 것입니다. 여기에는 데이터가 정확하고 완전하며 대상 모집단을 대표하도록 하는 작업이 포함됩니다. 또한 데이터에 존재할 수 있는 오류나 편견을 식별하고 수정하는 작업도 포함될 수 있습니다.
  
• 편향성 감사 실시: 데이터와 알고리즘을 정기적으로 검토하여 존재할 수 있는 편향성을 식별하고 해결하는 것 또한 편향성 문제를 해결하는 데 필요한 중요 전략입니다. 여기에는 데이터를 분석하여 편향성을 나타낼 수 있는 패턴이나 추세를 식별하고 이를 해결하기 위한 시정 조치를 취하는 작업이 포함될 수 있습니다.
  
• 공정성 지표 통합: 공정성을 높이기 위한 또 다른 중요 전략은 알고리즘 및 의사 결정 프로세스의 설계에 공정성 지표를 통합하는 것입니다. 여기에는 특정 의사 결정이 여러 그룹에 미치는 영향을 측정하고 결정이 공정하면서도 편향되지 않도록 조치를 취하는 작업이 포함될 수 있습니다.
  
• 투명성 강화: 투명성 강화는 편향성 문제를 해결하고 공정성을 높이기 위한 또 다른 주요 전략입니다. 여기에는 데이터와 알고리즘을 공개하고 의사 결정 방식에 대한 설명을 제공하는 작업이 포함될 수 있습니다. 또한 이해관계자에게 피드백을 요청하고 이들의 의견을 의사 결정 과정에 반영하는 것도 포함될 수 있습니다.
  

이러한 전략을 도입하면 조직은 데이터 기반 의사 결정 프로세스가 공정하고 편향되지 않은 방식으로 이루어지도록 할 수 있습니다.

AI와 머신 러닝이 책임감 있고 윤리적인 방식으로 개발 및 배포되도록 하려면 윤리 프레임워크와 가이드라인을 마련해야 합니다. 데이터 및 AI에 관한 주요 규제 프레임워크를 자세히 알아보세요.

데이터 및 AI 관련 법률 및 규제 프레임워크

데이터 보호 법률 및 규정은 데이터를 책임감 있고 윤리적인 방식으로 수집, 분석 및 사용하는 데 중요한 요소입니다.

다음은 네 가지 중요한 데이터 보호 법률 및 규정입니다.

• 캘리포니아 소비자 개인정보보호법(CCPA): 캘리포니아에서 비즈니스를 운영하며 캘리포니아 거주자의 개인정보를 수집하는 회사에 적용되는 일련의 규정입니다.
  
• 건강 보험 이동성 및 책임법(HIPAA): 의료 기관에 적용되며 미국에서 보호받는 건강 정보의 사용 및 공개를 관리하는 일련의 규정입니다.
  
• 개인정보보호 규정(GDPR): 유럽 연합 거주자의 개인정보를 처리하는 모든 조직에 적용되는 일련의 규정입니다.
  
• European Union Artificial Intelligence Act (EU AI Act): 허용 불가능한 위험이 존재하는 시스템을 금지하고 고위험 애플리케이션에 필요한 구체적인 법적 요건을 지정하는 포괄적 AI 규제입니다.
  

정부 기관은 이러한 법률과 규정을 집행할 책임을 갖습니다. 정부 기관은 불만 사항 및 데이터 침해를 조사하고, 감사 및 검사를 실시하며, 규정 미준수에 대한 벌금 및 페널티를 부과하고, 데이터를 보호하고 데이터 보호 법률 및 규정을 준수하는 방법에 대한 지침과 조언을 조직에 제공합니다.

데이터 수명 주기 관리를 위한 모범 사례

효과적인 데이터 수명 주기 관리를 위해서는 책임감 있고 윤리적인 방식으로 데이터를 수집, 저장 및 사용할 수 있도록 다양한 모범 사례가 필요합니다.

데이터 수명 주기 관리를 위한 몇 가지 모범 사례는 다음과 같습니다.

• 데이터 거버넌스 정책 및 절차를 구현하여 책임감 있고 윤리적인 방식으로 데이터를 수집하고 사용하도록 합니다.
  
• 데이터 수명 주기의 약점이나 취약성을 식별하기 위해 정기적인 감사 및 평가를 실시합니다.
  
• 데이터가 정확하고 완전하며 대상 모집단을 대표하도록 합니다.
  
• 데이터가 안전하게 저장되고 적절한 권한이 부여된 사용자에게만 액세스 권한이 부여되도록 합니다.
  
• 데이터가 의도된 목적으로만 사용되며 책임감 있고 윤리적인 방식으로만 공유되도록 합니다.
  
• 데이터를 보호하기 위해 적절한 안전장치를 마련합니다.
  
• 데이터 보존 정책을 마련하고 더 이상 필요하지 않은 데이터가 안전하게 삭제되도록 합니다.
  

조직은 이러한 모범 사례를 준수함으로써 데이터를 책임감 있고 윤리적으로 관리하며 개인과 조직의 개인정보와 기밀 데이터를 보호할 수 있습니다.

AI는 학습과 예측을 위해 방대한 양의 데이터를 활용합니다. 효과적인 AI 모델을 개발하려면 데이터의 중요성을 이해해야 합니다. 개인과 조직은 데이터 활용의 기본 개념을 이해함으로써 데이터와 AI를 사용하여 데이터를 윤리적이고 책임감 있는 방식으로 사용하는 동시에 혁신과 성공을 추진할 수 있습니다.

Einstein Trust Layer

AI와 그 윤리적 영향력은 복잡할 수 있지만, AI의 힘 때문에 사람들이 걱정하는 일은 없어야 합니다. Salesforce의 AI 솔루션을 사용하면 Einstein Trust Layer 덕분에 방금 배운 모든 원칙을 실제로 적용할 수 있습니다. Einstein Trust Layer는 Salesforce Platform에 내장된 보안 AI 아키텍처입니다. 이는 생성형 AI 솔루션을 탐색하는 동안 회사를 안전하게 보호하기 위해 사용되는 일련의 계약, 보안 기술, 데이터 및 개인정보보호 제어입니다. Einstein Trust Layer는 보안과 브랜드에 대한 신뢰에 도움이 되는 다양한 기능을 제공합니다. 신뢰를 얻기 위한 전용 플랫폼을 통해 평판 위험 없이 에이전트 및 생성 기능과 같은 혁신적인 최신 기능을 사용할 수 있습니다. 민감한 데이터를 마스킹하는 것부터 보다 정확한 결과를 위해 관련 기록 데이터를 프롬프트와 병합하는 것까지, Einstein Trust Layer를 통해 Salesforce 제품의 안전성을 높이고 최첨단 제품에 대해 신뢰하고 안심할 수 있습니다.

리소스

• 외부 사이트: 공정성: 편향 유형 
• Trailhead: 인공 지능의 책임 있는 구현
• Trailhead: Einstein 트러스트 레이어