Anthropic AI 안전성 초안: 연방 우선 적용, 모델 중지 권한과 예정된 변경 사항

Anthropic이 연방 정부에 제안한 것으로 알려진 AI 안전성 법안 초안이 안전성 옹호 단체와 경쟁사 양측으로부터 비판을 받고 있습니다. 제공된 자료는 연방 대외정책 담당 책임자 Anthony Cimino가 계획한 수정안, Encode AI의 Nathan Calvin이 제기한 비판, OpenAI의 Chris Lehane이 발표한 거버넌스 입장을 설명합니다.

Semafor의 10월 20일 보도는 더 넓은 범위의 논쟁을 확인합니다. 유통된 초안이 공개되었고 Anthropic은 변경 사항을 논의했으며, 비판자들은 주 정부의 권한과 재앙적 위험에 대한 초안의 접근 방식을 문제 삼았습니다. 이는 새로운 법이 시행되는 상황이 아니라 제안에 관한 논쟁입니다.

제공된 AREX/BAAI Hub 페이지의 삽화이며, 입법 문서의 이미지는 아닙니다.

자료에 따르면 Politico는 10월 16일 이 초안을 공개했습니다. 이 초안은 Anthropic의 Advanced AI Framework를 입법 형태로 옮긴 것으로 설명되며, 위험한 모델을 제한하기 위한 연방 절차와 외부 평가 요건을 포함합니다.

보도된 세부 사항 중 특히 중요한 내용은 다음과 같습니다.

보도된 기준은 제안된 개입 메커니즘에 관한 것입니다. 이는 그보다 작은 규모의 피해가 합법적이거나 허용되며 다른 모든 법적 의무에서 면제된다는 의미가 아닙니다.

주법 우선 적용 배제와 위험 기준에 대한 예정된 수정

연방 우선 적용 배제는 연방법이 주법을 대체하는 상황을 의미합니다. 여기서 쟁점은 연방 체계가 채택된 이후 어떤 AI 안전성 권한이 주 정부에 남게 되는가입니다.

Anthropic의 공개 프레임워크는 의회가 충분히 강력한 연방 법률을 통해서만 주 정부의 안전성 규정을 대체해야 한다고 밝히며, 의도된 대체 범위가 좁다고 설명합니다. 또한 아동 안전과 소비자 보호를 포함해 연방 체계의 구체적인 안전 기능을 벗어나는 사안에 대해서는 주 정부가 권한을 유지해야 한다고 명시합니다.

제공된 자료에 따르면 Cimino는 독립 평가자와 연구소가 모델을 중지할 수 있는 능력에 대한 감독과 관련해 주 정부가 중요한 역할을 유지한다는 점을 명확히 할 계획입니다. 보도된 그의 설명은 일부 의원들이 규제 권한의 중복 문제를 해결하는 법안을 원한다는 점도 인정합니다.

자료는 제안된 위험 기준이 기존 캘리포니아 기준에 근거한다고 설명하며, Cimino가 이를 재검토할 가치가 있다고 본다고 전합니다. 완전한 제안문과 정확한 주법 조항을 나란히 검토하지 않은 상태에서, 두 기준이 동일하게 작동한다고 단정해서는 안 됩니다.

보고 의무와 평가자 독립성

제공된 자료에 따르면 제안된 업데이트는 위험한 내부 사용, 봉쇄 조치의 침해, 외부 시스템에 대한 접근도 다룹니다. 또한 사고 보고 의무, 평가자 기준, 개발자가 가장 유리한 평가자를 찾는 ‘평가자 쇼핑’을 방지하는 방안에 대한 추가 작업도 설명합니다.

이러한 우려는 자격을 갖춘 독립 평가를 요구하는 공개 프레임워크의 광범위한 요건과도 일치합니다. 공개 프레임워크의 의제에는 안전성 요약 공개, 정기적인 위험 보고, 프런티어 개발자를 위한 강화된 보안 프로그램이 포함됩니다.

이 프레임워크는 제안된 적용 범위도 설정합니다. 즉, 10²⁵ FLOPs를 초과하는 연산량으로 학습되고, 일정한 AI 매출 또는 연구개발 지출 기준을 초과하는 기업이 개발한 모델입니다. 이러한 프레임워크 기준을 별도로 유출된 입법 초안의 적용 범위로 조용히 대체해서는 안 됩니다.

안전장치를 갖춘 긴급 권한의 필요성

제공된 자료에 따르면 Cimino는 법원의 감독을 받는 메커니즘이 신속한 개입과 권한 남용 방지 사이의 균형을 이룬다고 옹호했습니다. 핵심 정책적 긴장은 재앙적 피해가 발생하기 전에 당국이 조치를 취하면서도 잘못된 제한에 대해 책임을 지도록 하는 방법에 있습니다.

Anthropic의 공개 프레임워크는 위험한 배포를 차단하거나 억제할 수 있는 정부 권한과 과도한 규제 권한을 방지하기 위한 안전장치를 함께 요구합니다. 또한 투명성, 모델 보안, 생물학적 위험·사이버 위험·통제 상실 위험에 대한 광범위한 회복탄력성 조치도 논의합니다.

이 공개 프레임워크는 회사의 정책적 입장을 보여줍니다. 그러나 유출된 초안의 법률 문구가 그 입장을 효과적으로 구현하는지는 결정하지 않습니다.

자료에 따르면 프런티어 개발 속도를 통제하는 제안은 여전히 검토 중이었으며, 이미 입법 문안으로 완전히 옮겨진 상태는 아니었습니다. 향후 속도 조절 정책을 연구하자는 제안은 현재 시행 가능한 모델 개발 제한과 다릅니다.

비판자들이 균형과 입법 절차에 의문을 제기하는 이유

자료는 Nathan Calvin이 제기한 핵심 반론으로 두 가지를 제시합니다. 하나는 주법 우선 적용 배제 문구가 지나치게 광범위하다는 것이고, 다른 하나는 연방 개입 기준을 충족하기가 지나치게 어렵다는 것입니다. 자료에는 주 법원이 행사할 수 있는 권한, 높은 수준의 임박한 피해 입증 요건, 정부의 분석에 대한 법원의 처리 방식에 관한 우려도 담겨 있습니다.

이는 초안에 대한 비판자의 해석입니다. 보도 당시 전체 문서가 제공되지 않았으므로, 이를 초안의 법적 효과에 관한 사법적 판단이 내려진 결론처럼 제시해서는 안 됩니다.

Semafor가 보도한 Lehane의 별도 입장은 국가 차원의 안전성 기준을 지지하면서도 민주적 의사결정을 강조합니다. 그의 성명은 선출직 공직자가 주도해야 하며 OpenAI를 포함한 어느 한 기업도 단독으로 규칙을 작성해서는 안 된다고 주장합니다.

제공된 자료는 이 성명을 초당적 FRONTIER Act에 대한 지지와 연결합니다. 그러나 이러한 언급만으로 Anthropic의 유통된 초안이 해당 법안과 동일하다거나, 어느 한쪽이 통과되었다거나, 모든 참여자가 세부 사항에 동의한다고 볼 수는 없습니다.

기업들의 워싱턴 전략에 대한 Semafor의 비교는 편집적 분석입니다. 초안이 유통되었고 비판이 뒤따랐으며 변경 사항이 논의되었다는 좁은 범위의 사실과 구분해야 합니다. 자료가 언급하는 다른 정부와 기업 간 분쟁은 이러한 조항의 법적 타당성을 결정하지 않습니다.

변경 사항은 아직 예정 단계에 머물러 있음

제공된 자료에 따르면 발표된 수정안은 아직 완전한 공개 대체 문서로 발표되지 않았습니다. 따라서 의도된 주법 우선 적용 배제 변경이나 수정된 기준을 확정된 문구로 간주해서는 안 됩니다.

의회 일정에 대한 설명 역시 포괄적인 프런티어 모델 안전성 법률이 없다는 이유만으로 AI에 적용되는 연방법이 전혀 없다는 점을 의미하지 않습니다. 기존 법률은 포괄적인 법률이 없더라도 AI 관련 행위에 적용될 수 있습니다.

다음으로 유용한 문서는 수정된 초안, 공식 발의된 법안임을 명확히 확인할 수 있는 문서, 법안의 정의 조항과 입법 상태입니다. 이러한 자료가 있어야 주 정부의 권한, 긴급 개입 기준, 평가자의 의무, 개발 속도 조절 제안 등을 직접 비교할 수 있습니다.

자주 묻는 질문

Anthropic의 AI 안전성 초안은 이미 법률인가요?

제공된 보도는 유통된 제안을 설명합니다. 해당 제안이 제정되었거나 현재의 법적 의무를 만들었다는 점은 확인되지 않습니다.

여기서 주법 우선 적용 배제는 무엇을 의미하나요?

연방 규정이 일부 주 정부 권한을 대체하는 것을 의미합니다. 쟁점은 그 대체 범위가 얼마나 넓은지, 그리고 어떤 안전성 권한이 주 정부에 남는지입니다.

보도된 기준은 그보다 낮은 수준의 피해를 허용하나요?

보도만으로는 그런 결론을 내릴 수 없습니다. 제안된 특정 개입 권한에 적용되는 기준은 다른 법률과 의무의 적용 범위와 다릅니다.

예정된 변경 사항은 이미 최종 법안에 작성되었나요?

아닙니다. 이번 보도를 위해 완전한 수정 입법 문서는 확보되지 않았습니다. 예정된 변경 사항에 관한 발언은 제정되었거나 최종 확정된 문구와 구분해야 합니다.

독립 평가가 논쟁적인 이유는 무엇인가요?

평가자는 위험을 판단할 수 있을 만큼 충분한 접근 권한과 전문성을 갖추면서도, 비용을 지급하는 개발자로부터 독립적이어야 합니다. 자료는 개발자가 엄격한 검토보다 자신에게 유리한 평가자를 찾을 수 있다는 우려를 설명합니다.

OpenAI는 기업이 정책에 전혀 관여해서는 안 된다고 말했나요?

여기서 보도된 성명은 선출직 공직자와 민주적 절차가 주도해야 한다고 주장합니다. 이는 업계의 의견 제시를 금지한다는 뜻이 아니라, 어느 한 기업이 단독으로 규칙을 작성하는 데 반대한다는 의미입니다.

관련 도구

• Congress.gov: 연방 법안의 발의 여부, 법안 원문과 입법 상태를 확인할 수 있는 공식 서비스입니다.
• Federal Register: 연방 기관의 규칙 제정과 공고를 확인할 수 있는 공식 간행물입니다.

관련 링크

• BAAI Hub에 게시된 AREX 기사: 이번 보도의 계기가 된 집계 기사로, 해당 자료의 출처상 한계도 포함합니다.
• Anthropic의 공개 정책 프레임워크: 프런티어 거버넌스와 주법 우선 적용 배제에 관한 회사의 공개 입장입니다.
• Semafor의 10월 20일 보도: 유출된 초안과 그로 인해 발생한 의견 충돌을 다룬 보도입니다.
• Anthony Cimino가 출처로 제시한 답변: AREX가 인용한 소셜 미디어 성명이며, 검증 과정에서 직접 검색이 차단되었습니다.
• Nathan Calvin이 출처로 제시한 비판: 제공된 자료에서 언급된 비판입니다.
• Chris Lehane의 거버넌스 성명: AREX와 Semafor가 모두 연결한 LinkedIn 성명입니다.

요약

이번 논쟁의 핵심은 연방 개입 절차와 기존 주 정부 권한의 관계, 그리고 평가자와 규제 당국이 효과적으로 조치할 수 있는지에 있습니다. Anthropic은 변경 사항을 논의했지만 비판자들은 초안의 균형에 의문을 제기하고 있으며, OpenAI는 선출직 공직자의 주도권을 강조합니다.

유통된 제안과 수정 약속은 새로운 법률이 아닙니다. 실제 수정 문서와 입법 상태를 확인해야만 그 영향을 평가할 수 있습니다.