인공지능(AI) 회사 정책은 AI 기술의 승인된 사용과 관련된 일련의 운영 규칙입니다. 이를 통해 규정 준수를 유지하고 데이터 프라이버시를 보장하며 디지털 보안을 유지할 수 있습니다.
목차
AI 회사 정책 템플릿
모범 사례에 대해 효과적으로 교육하고 위험을 완화하기 위해서는 여러 주요 영역에 집중해야 합니다. 여기에는 다음이 포함됩니다.
목적 및 범위
이 시작 섹션은 AI 회사 정책의 의도를 명확히 하기 위한 것입니다. 또한 정규 직원 외에도 외부 아웃소싱 개인 또는 기관과 같은 요구 사항을 준수해야 하는 사람을 명시해야 합니다.
승인된 애플리케이션
여기서는 사용이 승인된 AI 관련 애플리케이션만 나열해야 합니다. 로그인 자격 증명과 같은 민감한 세부 정보는 제외해야 하지만 규정 준수를 보장하기 위해 여기에 각각에 대한 올바른 액세스 절차도 지정할 수 있습니다. 대신에 접근하려는 개인의 요청 및/또는 온보딩 프로세스 중에 안전한 방식으로 경영진이 제공할 수 있습니다.
프로세스 및/또는 사용 지침
글머리 기호 목록과 같이 AI 사용에 대한 적절한 프로세스를 요약하면 사용자가 적절한 단계를 이해하고 준수하는 데 도움이 됩니다. 이는 운영 가드레일을 구현하고 권한, 내부 커뮤니케이션, AI 생성 콘텐츠의 품질 보증, AI 시스템에 부여된 전체 데이터 및 도구 액세스를 어떻게 처리해야 하는지를 전달할 수 있는 기회입니다. 또한 위의 사항과 관련된 위험 또는 취약성이 의심되는 경우 어떻게 해야 하는지 명시하는 것이 도움이 될 수 있습니다.
금지된 사용
이 섹션에서는 승인된 AI 애플리케이션을 언제, 어디서, 어떻게 사용해서는 안 되는지 명확히 해야 합니다. 구체적인 합리적인 예외가 있는 경우, 이것도 여기에 포함되어야 합니다. 정책의 나머지 부분과 마찬가지로, 여러분이 선택한 표현은 명확하고 간결하며 따르기 쉬우면서도 오해나 혼란의 위험을 최소화해야 합니다.
데이터 프라이버시, 지적 재산권 및 사용 약관
이 섹션에서는 사용자에게 액세스가 허용된 AI 도구의 사용 약관을 검토하도록 상기시켜 주고 오용 및/또는 책임 관련 문제로부터 보호합니다. 또한 데이터 프라이버시를 유지하고 표절을 피하고, 지적 재산권과 그 보유자를 존중하며, 문제의 도구(들)에 기밀 정보에 대한 접근을 제공하지 않는 것의 중요성에 중점을 두어야 합니다.
법률 및 규정 준수
여기서 AI를 사용할 때 조직과 확장을 통해 팀이 규정 준수를 유지하는 데 필요한 관리 기관과 규정을 지정합니다. 여기에는 확립된 정부 행위 및 법률, 보안 및/또는 IT 팀에 대한 요구 사항이 포함되어야 합니다.
AI 회사 정책 사례
범캐나다 AI 전략
범캐나다 인공지능 전략은 여러 가지 전략적 우선순위로 나뉘어졌지만 사명에 통합되었습니다. “사람과 지구를 위해 긍정적인 사회적, 경제적, 환경적 혜택을 제공”하고자 합니다.
Microsoft 책임 AI 관행
윤리적이고 책임 있는 방식으로 AI를 발전시키는 데 중점을 둔 연구, 정책 및 엔지니어링 문서 모음입니다. 또한 Microsoft는 2024년 5월에 AI 위험 매핑, 측정 및 관리부터 안전하고 책임감 있는 프런티어 AI 모델 구축에 이르기까지 모든 것을 다루는 포괄적인 책임감 있는 AI 투명성 보고서를 발표했습니다.
NIST(National Institute of Standards and Technology) AI 표준 및 정책 기여
NIST는 새로운 AI 표준을 개발하기 위해 주요 민간 및 공공 부문 이해관계자 및 연방 기관과 긴밀히 협력해 왔습니다. 이들은 “US-EU 무역기술위원회, OECD, 유럽위원회, 사중 보안 대화” 및 기타 여러 이니셔티브와 같은 미국 및 국제 AI 정책 노력에 적극적으로 참여하고 있습니다. NIST는 또한 이러한 노력의 일환으로 미국 상무부 국제무역청 및 미국 국무부와 협력하고 있습니다.
2024년 7월, NIST는 또한 “AI 시스템의 안전, 보안 및 신뢰성을 개선하는 데 도움이 되는” 4편의 간행물을 발표했습니다. 이에는 다음이 포함됩니다.
- 세대 AI
- 보안 소프트웨어
- AI 표준
- 이중 용도 기반 모델의 오용 위험 관리 보고서의 초기 공개 초안
AI 규제 및 규정 준수
AI 윤리 정의
AI 윤리에는 AI 시스템의 책임 있는 개발, 배포 및 사용을 규율하는 원칙과 지침이 포함됩니다. 안전 및 보안, 공정성, 책임성, 투명성, 프라이버시, 인적 통제, 사회적 책임 및 지속적인 개선과 같은 문제를 해결합니다.
프런티어 AI 규제에 대한 전문가 권장 사항
OpenAI 연구원들이 발표한 보고서(arXiv:2307.03718: Frontier AI Regulation: Managing Emerging Risks to Public Safety)는 사용자를 보호하기 위해 Frontier AI 모델을 규제하는 것과 관련된 몇 가지 과제를 강조합니다. “프런티어 AI 모델은 뚜렷한 규제 문제를 제기합니다. 위험한 기능은 예기치 않게 발생할 수 있습니다. 배포된 모델의 오용을 강력하게 방지하는 것은 어렵고 모델의 기능이 광범위하게 확산되는 것을 막는 것은 어렵습니다.”
또한 보고서 요약은 규제에 필요한 “최소 3개의 구성 요소”가 있음을 언급합니다.
- “프런티어 AI 개발자를 위한 적절한 요구 사항을 식별하기 위한 표준 설정 프로세스”
- “규제 기관에 프런티어 AI 개발 프로세스에 대한 가시성을 제공하기 위한 등록 및 보고 요구 사항”
- “프론티어 AI 모델의 개발 및 배포를 위한 안전 표준 준수를 보장하는 메커니즘”
AI 회사 정책을 관리하는 데 도움을 줄 수 있는 사람은 누구입니까?
조직은 내부 보안팀 활용 또는 전문 컨설팅 회사와의 협력, 레드팀 평가 수행이라는 두 가지 상호 보완적인 접근 방식을 통해 효과적인 AI 정책을 개발할 수 있습니다. 내부 팀 또는 컨설턴트는 기본 정책을 정의하고 구현하는 데 중점을 두지만 Red Teaming은 취약점과 잠재적 위험을 식별하여 정책을 견고하고 포괄적으로 보장함으로써 중요한 통찰력을 제공합니다.
컨설팅 회사는 AI 거버넌스, 규정 준수 및 모범 사례에 대한 전문 지식을 제공하여 조직이 업계 표준에 부합하면서 데이터 프라이버시, 지적 재산 보호 및 위험 완화와 같은 주요 영역을 다루는 정책을 만들 수 있도록 지원합니다. Red Teaming은 시스템 취약점을 발견하고, 공격자 공격, 데이터 중독 또는 모델 도난과 같은 실제 위협을 시뮬레이션하고, 정책 프레임워크를 개선하고 강화하기 위한 실행 가능한 통찰력을 제공함으로써 이를 보완합니다. 또한 이러한 평가는 기존 정책의 효과를 테스트하고, 섀도우 AI 배포 또는 무단 액세스와 같은 잠재적 오용 시나리오를 공개하며, AI 시스템의 편견 또는 윤리적 문제를 식별합니다. 조직은 전략적 컨설팅과 취약점 평가의 통찰력을 통합하여 보안, 공정, 적응성을 갖춘 AI 정책을 수립하는 동시에 고유한 운영 및 전략적 요구를 충족할 수 있습니다.