EU의 새로운 AI 행동 강령이 규제에 영향을 미칠 예정이다.

 

무엇이 다를까? 처음으로 OpenAI와 Google과 같은 기업이 외부 테스트를 위해 모델을 공개하도록 강제할 수 있는 구체적인 규칙을 보고 있다. 이는 유럽에서 AI 시스템을 개발하고 배포하는 방식에 근본적인 변화이다.

 

AI 감독의 새로운 파워 플레이어

유럽 위원회는 "시스템적 위험"이 있는 AI 시스템을 특별히 겨냥한 프레임워크를 만들었다. 우리는 10^25 FLOP 이상의 계산 능력으로 훈련된 모델에 대해 이야기하고 있다. 이는 GPT-4가 이미 넘어선 임계값이다.

기업은 AI 훈련 계획을 시작하기 2주 전에 보고해야 한다.

 

이 새로운 시스템의 중심에는 안전 및 보안 프레임워크(SSF)와 안전 및 보안 보고서(SSR)라는 두 가지 주요 문서가 있다. SSF는 초기 위험 식별에서 지속적인 보안 조치에 이르기까지 모든 것을 포괄하는 AI 위험을 관리하기 위한 포괄적인 로드맵이다. 한편, SSR은 각 개별 모델에 대한 자세한 문서화 도구 역할을 한다.

 

고위험 AI 모델에 대한 외부 테스트

위원회는 고위험 AI 모델에 대한 외부 테스트를 요구하고 있다. 이것은 일반적인 내부 품질 검사가 아니다. 독립 전문가와 EU의 AI 사무소가 이러한 시스템의 후드를 파고들고 있다.

의미는 크다. OpenAI나 Google이라면 갑자기 외부 전문가가 시스템을 검사하도록 해야 한다. 초안에서는 회사가 "배포하기 전에 충분한 독립 전문가 테스트를 보장해야 한다"고 명시적으로 명시되어 있습니다. 이는 현재의 자체 규제 방식에서 크게 벗어난 것이다.

 

의문이 생긴다. 누가 이처럼 엄청나게 복잡한 시스템을 테스트할 자격이 있을까? EU의 AI 사무소는 전에는 없었던 영역에 발을 들여놓았다. 그들은 발견한 내용에 대해 엄격한 기밀을 유지하면서 새로운 AI 기술을 이해하고 평가할 수 있는 전문가가 필요할 것이다.

이 외부 테스트 요구 사항은 위원회의 시행법을 통해 EU 전역에서 의무화될 수 있다. 회사는 "적절한 대체 수단"을 통해 준수를 입증하려고 할 수 있지만 실제로 그것이 무엇을 의미하는지 아무도 확실히 알지 못한다.

 

저작권 보호가 심각해지고 있다.

EU도 저작권에 대해 심각해지고 있다. 그들은 AI 제공업체가 지적 재산을 처리하는 방법에 대한 명확한 정책을 만들도록 강요하고 있다.

위원회는 robots.txt 표준을 지원하고 있다. 이 표준은 웹 크롤러에게 어디로 갈 수 있고 갈 수 없는지 알려주는 간단한 파일이다. 웹사이트가 robots.txt를 통해 "아니요"라고 말하면 AI 회사는 그냥 무시하고 그 콘텐츠로 훈련할 수 없다. 검색 엔진은 이러한 제외를 사용하는 사이트에 대해 처벌할 수 없다. 이는 콘텐츠 제작자를 다시 운전석에 앉히는 강력한 움직임이다.

AI 회사는 또한 훈련 데이터를 수집할 때 불법 복제 웹사이트를 적극적으로 피해야 할 것이다. EU는 시작점으로 "위조 및 불법 복제 감시 목록"을 지적하기도 한다.

 

이것이 미래에 의미하는 바

EU는 AI 개발을 위한 완전히 새로운 경기장을 만들고 있다. 이러한 요구 사항은 회사가 AI 프로젝트를 계획하는 방법부터 교육 데이터를 수집하는 방법에 이르기까지 모든 것에 영향을 미칠 것이다.

모든 주요 AI 회사는 이제 선택에 직면해 있다. 다음 중 하나를 선택해야 한다:

●외부 테스트를 위해 모델을 개방한다.

●이러한 신비한 "대체 수단"이 어떤 모습인지 파악한다.

●또는 잠재적으로 EU 시장에서의 운영을 제한한다.

 

여기서 타임라인도 중요하다. 이것은 먼 미래의 규제가 아니다. 위원회는 빠르게 움직이고 있다. 그들은 약 1,000명의 이해 관계자를 4개의 작업 그룹으로 나누어 이것이 어떻게 작동할지에 대한 세부 사항을 모두 해결했다.

 

AI 시스템을 구축하는 회사의 경우 "빠르게 움직이고 나중에 규칙을 파악"하는 시대는 끝나갈 수 있다. 그들은 이러한 요구 사항이 의무화될 때가 아니라 지금 당장 이러한 요구 사항에 대해 생각하기 시작해야 한다. 즉, 다음을 의미한다:

●개발 일정에 대한 외부 감사 계획

●강력한 저작권 준수 시스템 설정

●EU 요구 사항과 일치하는 문서 프레임워크 구축

 

이러한 규정의 실제 영향은 앞으로 몇 달 동안 드러날 것이다. 일부 회사는 해결책을 모색할 수 있지만 다른 회사는 이러한 요구 사항을 개발 프로세스에 통합할 것이다. EU의 프레임워크는 특히 다른 지역에서 유사한 감독 조치를 따르는 경우 AI 개발이 전 세계적으로 어떻게 이루어지는지에 영향을 미칠 수 있다. 이러한 규칙이 초안에서 구현으로 이동함에 따라 AI 산업은 지금까지 가장 큰 규제 변화에 직면해 있다.