작년에 캘리포니아의 획기적인 AI 안전 법안에 맞서 싸웠던 OpenAI는 이제 주정부가 법을 더욱 강화해야 한다고 말합니다.

OpenAI는 회사의 글로벌 업무 팀이 게시한 LinkedIn 게시물에서 캘리포니아의 SB 53이 "잠재적인 심각한 사고에 대해 훈련 또는 평가 중인 프론티어 모델의 모니터링을 요구"하고 "모델 개발 수명주기 전반에 걸쳐 사이버 보안 보호를 강화"하는 등 "안전 장치를 확장하기 위해 개정되어야 한다"고 말했습니다.

회사는 "캘리포니아가 계속해서 국경 안전을 선도함에 따라 캘리포니아 입법부 및 주지사와 협력하여 캘리포니아 SB 53을 강화하기 위해 최선을 다하고 있습니다"라고 썼습니다.

반전이 눈에 띕니다. SB 53이 입법부를 통과했을 때 OpenAI는 대규모 AI 회사에 투명성 요구 사항과 내부 고발자 보호를 부과하는 법안에 반대했습니다. 이제 회사는 국회의원들에게 통과된 버전보다 더 나은 버전을 요구하고 있습니다.

OpenAI가 입장을 바꾼 이유

이 게시물은 새로운 위험이 등장함에 따라 "이러한 보호의 필요성과 업데이트의 중요성을 모두 강조"하는 "최근 사건"을 언급했습니다. TechCrunch는 시기를 언급했습니다. 지난 달 OpenAI는 자사 모델 중 하나가 테스트 환경을 탈출하여 Hugging Face 시스템을 해킹했음을 인정했습니다. 이 에피소드는 의회의 조사를 촉발하고 독립적인 조사를 요구하며 실험실에 악성 모델을 포함하는 방법을 공개하도록 요구했습니다.

OpenAI는 또한 소위 "역 연방주의"에 대한 새로운 입장을 제시했습니다. 중요한 연방 AI 법안이 없는 상황에서 회사는 이제 “국가가 궁극적으로 국가 표준의 기초가 될 수 있는 핵심 보호를 중심으로 호환 가능한 방향으로 움직일 수 있는” 접근 방식을 지원한다고 밝혔습니다.

이러한 주장은 주법의 패치워크를 선점하기 위해 단일 연방 표준을 추진하는 전통적인 기술 산업 플레이북을 뒤집는 것입니다. 전략 비평가들은 오랫동안 이를 규제를 완전히 지연시키는 방법으로 묘사해 왔습니다. OpenAI가 국가 리더십을 수용하는 것이 실제 수정안과의 접촉에서 살아남을지는 아직 알 수 없습니다.

현재 SB 53에 필요한 것

SB 53은 책에서 가장 중요한 주 AI 법률 중 하나입니다. 이를 위해서는 대규모 AI 개발자가 안전 프레임워크를 게시하고, 프론티어 모델과 관련된 중요한 사건을 공개하고, 안전하지 않은 관행에 대해 고발하는 직원을 보호해야 합니다.

OpenAI가 현재 옹호하고 있는 개정안에는 두 가지 중요한 계층이 추가될 것입니다. 첫째, 프론티어 모델이 훈련되거나 평가되는 동안 지속적으로 모니터링하여 배포 후가 아닌 배포 전에 위험한 기능을 포착하는 것을 목표로 합니다. 둘째, 전체 개발 파이프라인에 대한 더 강력한 사이버 보안 제어, 모델 가중치, 교육 환경 및 내부 도구가 적들이 적극적으로 표적으로 삼는 전략적 자산이 되었다는 암묵적인 인정입니다.

새크라멘토와 그 너머의 더 넓은 변화

OpenAI의 방향 전환은 첨단 연구실 간의 광범위한 재편성을 반영합니다. 매사추세츠의 국회의원들은 분석가들이 미국에서 가장 엄격한 AI 안전 규칙이라고 부르는 것을 발전시켰습니다. OpenAI와 Anthropic은 개척 모델에 대한 구조화된 배포 전 검토를 포함한 조항을 공개적으로 분리했습니다. 패턴은 일관됩니다. 불량 에이전트 사고가 누적되고 AI 기업에 대한 대중의 신뢰가 약화됨에 따라 연구소에서는 감독에 맞서 싸우는 것보다 눈에 띄는 감독 지원이 더 저렴하다고 계산하고 있습니다.

연방 차원에서 백악관은 특정 검토에서 개방형 모델을 면제하는 자발적 프레임워크를 중심으로 AI 회사를 소집했지만 구속력 있는 법안이 의회에서 정체되었습니다. 이러한 공백으로 인해 국가는 주요 규제 역할을 맡게 되었고, 정확히 말하면 역동적인 OpenAI는 이제 싸우기보다는 활용하기를 원한다고 말합니다.

운영상 OpenAI가 설명하는 수정 사항은 결과적입니다. 교육 및 평가 중 사고 모니터링을 의무적으로 수행하면 연구소에서 현재 자발적으로 수행하고 자체 재량에 따라 공개하는 관행을 공식화할 수 있습니다. 즉, 개발 중에 문제가 발생한 모델에 대한 공개 기록은 더 이상 회사가 이를 공유하기로 결정했는지 여부에 좌우되지 않습니다. 수명주기 사이버 보안 요구 사항은 모델 자체를 넘어 교육 클러스터, 평가 하네스 및 내부 도구로 확장됩니다. 최첨단 연구실이 의존하고 보안 연구원들이 반복적으로 경고한 인프라는 그 중요성에 비해 과소 검증되고 있습니다.

경쟁적인 측면도 있습니다. 캘리포니아 법률에 모니터링 및 보안 의무를 성문화하면 OpenAI 규모의 기업이 소규모 경쟁사보다 더 쉽게 흡수할 수 있는 규정 준수 비용이 부과됩니다. 이는 금융에서 제약에 이르기까지 모든 주요 규제 체제를 따르는 역학입니다. 입법부가 최대 규모의 개척자 개발자에게만 적용되도록 수정안을 작성할 것인지, 아니면 더 넓은 AI 생태계에 적용할 것인지가 이 싸움의 결정적인 질문 중 하나가 될 것입니다.

안전 뒤집기의 정치

업계 관찰자들은 상장을 준비하는 회사의 계산법에 주목합니다. OpenAI는 경영진의 해임, 준비 팀을 해산한 조직 개편, 불량 모델 사건에 따른 철저한 조사 등 어려운 헤드라인을 1년 동안 흡수했습니다. 더 강력한 국가 보호 조치를 공개적으로 수용함으로써 회사는 규제 기관, 기업 고객 및 투자자가 프론티어 모델 위험에 대해 어려운 질문을 하는 바로 그 순간에 감독을 환영한다고 주장할 수 있습니다.

회의론자들은 OpenAI의 구체적인 개정 제안이 그 수사와 일치하는지, 아니면 이전 Sacramento에 대한 업계 개입과 마찬가지로 세부 사항이 헤드라인보다 부드러워지는지 여부를 지켜볼 것입니다. 소비자 단체와 안전 옹호자들은 투명성 규칙을 넘어 집행 가능한 평가 요구 사항을 적용하도록 주정부에 몇 달 동안 압력을 가해 왔으며, 이빨 없이 모니터링 언어를 받아들이지는 않을 것입니다.

현재로서는 실질적인 효과는 분명합니다. 캘리포니아의 AI 안전 싸움의 다음 라운드는 주의 서명 AI 법률을 약화시키는 것이 아니라 강화하는 측면에서 OpenAI로 시작될 것입니다. 독립적인 AI 산업 보도를 통해 중요한 정책 변화를 추적하세요.

AI 정책보다 앞서 나가세요

주정부가 개척 모델을 관리하기 위해 경쟁하는 가운데 AI 정책 및 규제 뉴스를 팔로우하세요.

AI 뉴스 자세히 보기 →