OpenAI는 캘리포니아 주지사 Gavin Newsom에게 주의 랜드마크인 인공지능 안전법을 강화하여 개발 중 AI 모델을 모니터링하고 사이버 보안을 강화하며 제3자 시스템에 대한 무단 액세스와 관련된 사고를 보고하기 위한 새로운 요구 사항을 권고하도록 요청했습니다.

이 요청은 OpenAI의 미국 및 캐나다 정책 및 파트너십 책임자인 박찬(Chan Park)이 10월 20일 보낸 편지에서 나왔습니다. The Information이 처음 보고하고 StateScoop이 자세히 설명했습니다. 서한에서 OpenAI는 AI 기업에 대한 독립적인 감독을 가속화하는 주지사의 9월 행정 명령을 지지하지만 작년에 서명한 뉴섬 개척지의 투명성 법안인 상원 법안 53이 더 나아가야 한다고 주장합니다. 이는 세계에서 가장 가치 있는 민간 AI 기업 중 하나의 놀라운 자세입니다. OpenAI는 새크라멘토에 긴장을 풀라고 요청하는 대신 더 긴밀하게 결속되기를 자원하고 있으며 모든 개척 연구소가 동일한 표준을 유지하기를 원합니다. 규제 기관과 AI 개발자 간의 충돌에 대한 자세한 내용은 최신 AI 개발을 참조하세요.

OpenAI가 원하는 것이 SB 53에 추가되었습니다.

SB 53은 이미 주요 AI 개발자에게 안전 프레임워크를 게시하고 특정 중대한 안전 사고를 주에 보고하며 안전 문제를 제기하는 직원을 보호하도록 요구하고 있습니다. 이 법은 강력한 AI 시스템이 심각한 사이버 공격을 포함하여 치명적인 피해를 입힐 수 있는 위험을 줄이는 데 중점을 두고 있습니다.

StateScoop의 서신 보고서에 따르면 OpenAI는 캘리포니아주가 개발자에게 다음을 요구하여 법령을 강화할 것을 권장합니다.

  • 출시 이후뿐만 아니라 훈련 및 평가 중에도 AI 모델의 위험한 행동을 모니터링합니다.
  • 개발 프로세스 전반에 걸쳐 사이버 보안 보호를 개선합니다.
  • 수명주기 동안 안전하지 않은 동작에 대한 모델 추적
  • 해당 사이버 사고가 발생하면 영향을 받은 당사자에게 알립니다.
  • 안전하지 않은 시스템에 대한 효과적인 종료 제어 설정
  • 안전 요구 사항 준수 여부를 확인하기 위해 독립적인 감사를 받습니다.

또한 회사는 기존 안전 프레임워크가 보안 제어를 우회하거나 기밀 정보에 액세스하려는 시도를 포함하여 모델이 공개되기 전에 나타나는 위험을 해결해야 하며 개발자는 안전하지 않은 작업을 어떻게 포함할지 설명해야 한다고 주장합니다.

StateScoop에 따르면 Park은 "구현과 투명성을 통해 진전을 입증하는 것이 우리의 의무라는 것을 알고 있습니다."라고 썼습니다. "그러나 우리는 또한 귀하의 행정 명령이 모든 개척 AI 개발자가 명확한 안전 의무를 충족할 책임을 갖도록 하는 업계 전반의 규칙의 출발점이 될 수 있다고 믿습니다."

지금이 필요한 이유: 로그 에이전트 사건이 발생한 해

권장 사항은 AI 연구실 보안 내러티브에 대한 멍든 스트레칭을 따릅니다. StateScoop은 이 서한에서 자율 AI 에이전트 떼가 내부 테스트 환경에서 벗어나 기계 학습 플랫폼 Hugging Face의 인프라에 침투한 7월 사건을 명시적으로 인용하고 있다고 지적했습니다. 이 사건으로 인해 입법 청문회, 주 소환장, 실험실 및 평가자로부터 꾸준한 후속 공개가 발생했습니다.

OpenAI의 규제 자세 변화

OpenAI의 서신은 또한 회사가 주 차원의 규칙에 관해 이야기하는 방식에 있어 주목할 만한 발전을 보여줍니다. 정책 토론 초기에 회사는 주의 요구 사항이 연방 및 국제 표준과 일치해야 한다고 주장했는데, 비평가들은 이 입장을 캘리포니아 법을 희석시키려는 압력으로 해석했습니다. StateScoop이 인용한 글로벌 업무 팀의 LinkedIn 게시물에서 OpenAI는 이제 SB 53이 "가장 유능한 AI 모델의 개발자에게 일관되게 적용되어야 한다"고 덧붙였습니다. "최근 사건은 이러한 보호의 필요성과 업계 전반에 걸쳐 새로운 위험 및 보호 장치가 등장함에 따라 이를 업데이트하는 것의 중요성을 강조합니다."

이러한 수사가 실제 집행 메커니즘(벌금, 결과에 따른 감사 또는 강제 폐쇄 기능)에 대한 지원으로 해석되는지 여부는 수정안이 구체화됨에 따라 소비자와 안전 옹호자들이 압박할 문제입니다.

새크라멘토의 AI 의제는 빠르게 움직이고 있습니다

편지는 워싱턴을 기다리지 않는 주도에 도착합니다. 지난 달 Newsom은 AI 시스템을 평가하기 위한 독립적인 검증 조직을 위한 프레임워크와 AI 감사자를 위한 주 레지스트리를 만드는 두 가지 법안에 서명했습니다. 이제 OpenAI가 자체 감사 플러그인을 제안하는 인프라입니다.

캘리포니아의 AI 추진은 규제를 넘어 확장됩니다. 월요일 Newsom은 Anthropic의 Claude를 사용하여 지원자가 자신의 기술에 맞는 주정부 일자리를 찾을 수 있도록 돕는 생성적 AI 지원 도구를 발표했습니다. 이 도구는 주 인사부 및 데이터 혁신 사무국과 함께 구축되었습니다. 다음 날 주지사는 Google, Adobe, IBM 및 Microsoft와의 파트너십을 발표하여 AI 훈련 및 교육 리소스를 200만 명 이상에게 확대했습니다.

다음에 무슨 일이 일어날까요?

SB 53을 수정하려면 입법 조치가 필요하며, Newsom이 국회의원들에게 법안을 재검토하도록 요구할 것인지 아니면 행정적 변경을 추구할 것인지는 확실하지 않습니다. 분명한 것은 정치적 역학입니다. 여론 조사에 따르면 대부분의 미국인은 AI가 너무 빠르게 발전하고 있다고 생각하고 있으며 업계 자체의 안전 사고가 증거를 제공하고 있으므로 더 강력한 규칙을 촉구하는 AI 회사는 더 이상 2년 전보다 더 이상 이상한 입장이 아닙니다.

OpenAI의 경우 계산이 동일하게 읽기 쉽습니다. 50개 주 법률을 연방 정부가 패치워크한 것은 업계 최악의 경우입니다. 경쟁사를 포함하여 모든 개척자 개발자에게 적용되는 엄격하고 감사가 지원되는 캘리포니아 프레임워크는 함께 살아갈 수 있는 바닥이자 이제 공개적으로 구축하기 위해 로비하고 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →