OpenAI는 화요일에 젊은이들이 인공 지능을 사용하는 방법에 대한 포괄적인 보호 장치를 확립하는 법안인 캘리포니아 상원 법안 1119에 대한 지지를 발표하고 Gavin Newsom 주지사에게 법안에 서명할 것을 촉구했습니다.

이러한 지지는 OpenAI의 글로벌 정책 담당 부사장인 Ann O'Leary가 작성한 공개 서한과 회사 사이트에 게시된 블로그 게시물을 통해 이루어졌습니다. 여기에서 회사는 SB 1119를 의미 있는 중간 경로로 구성합니다. 즉, 18세 미만의 사용자를 위한 강력한 보호로서 청소년이 학습하고 창조하며 미래를 준비하는 데 도움이 되는 도구를 사용하지 못하게 하는 것입니다. 이번 발표는 정부가 AI의 가장 어린 사용자를 대하는 방식을 재구성하는 일련의 AI 정책 이야기 중 가장 최근의 것입니다. 이 이야기에 대한 자세한 내용은 AI 최신 동향를 참조하세요.

OpenAI가 규제를 수용하는 이유 — 어쨌든 이것입니다

OpenAI의 포지셔닝은 자체 게시물의 놀라운 통계에 기초합니다. ChatGPT를 사용하는 10대 중 거의 9명은 특정 주에 학습, 정보, 기술 구축 또는 생산성을 위해 ChatGPT를 사용합니다. 회사는 "10대들은 AI와 함께 성장하는 1세대입니다"라고 말하면서 기회는 젊은이들의 독특한 발달 요구 사항에 대한 경험을 디자인할 책임과 함께 온다고 주장했습니다.

회사는 자사의 자세에 동기를 부여하는 연방 공백에 대해 명시적으로 밝혔습니다. 뉴섬에게 보낸 서한에는 "연방 조치가 없는 상황에서 캘리포니아는 청소년 AI 안전에 대한 강력한 표준을 설정할 수 있는 기회가 있다"고 명시되어 있습니다. OpenAI는 이 법안이 CEO인 Sam Altman이 작년에 청소년 안전에 대한 회사의 원칙과 Parents & Kids Safe AI Act에 대한 회사의 작업을 설명하면서 했던 약속을 토대로 작성되었다고 말합니다.

SB 1119에 필요한 것

OpenAI의 법안 요약에 따르면 SB 1119는 AI 회사에 다음을 요구합니다.

  • 접근 권한을 제공하기 전에 사용자의 연령을 확인합니다.
  • 청소년에게 제품을 제공하기 전에 안전 위험을 식별하고 해결합니다.
  • 이러한 노력에 대한 독립적인 감사를 받습니다.
  • 자해, 성착취 콘텐츠, 기타 고위험 상호작용을 포함한 유해한 콘텐츠로부터 청소년을 보호합니다.
  • 부모에게 도구를 제공하여 자녀의 사용을 지도하고 제한합니다.
  • 심각한 안전 위험이 발생할 경우 청소년에게 위기 지원 자원을 연결합니다. 그리고
  • 타겟광고를 제한하고 청소년의 개인정보를 보호하세요.

13~17세로 식별된 사용자의 경우 이러한 보호 기능은 십대가 끌 수 있는 선택적 설정이 아닌 자동으로 적용됩니다.

"AI는 소셜 미디어가 아니다"

OpenAI의 서한에서 가장 중요한 주장 중 하나는 법안 자체에 국회의원들이 포함되어 있다는 점입니다. 즉, AI는 소셜 미디어가 아닙니다. SB 1119는 인스타그램과 같은 플랫폼용으로 구축된 광고 기반 규칙을 챗봇 및 학습 도구로 포팅하는 대신, 시간이 지남에 따라 관련 패턴을 인식하는 데 도움이 되는 ChatGPT 메모리 기능의 책임감 있는 사용을 포함하여 OpenAI가 교육 및 안전에 중요한 기능이라고 부르는 기능을 보존하도록 보호 기능을 맞춤화합니다.

포괄적인 연령 제한을 비판하는 사람들은 엄격한 규칙이 십대들을 규제가 덜한 대안으로 몰아가거나 실제로 유용한 학습 도구에 대한 접근을 차단할 수 있다고 경고했습니다. OpenAI의 승인은 업계 최대 규모의 업체가 SB 1119가 유지할 수 있는 균형을 이루는 것으로 보고 있음을 시사합니다.

청소년을 위한 ChatGPT가 이미 출시되었습니다

법안 승인은 진공 상태에서 이루어지지 않습니다. OpenAI는 시스템 추정치가 18세 미만이거나 13세에서 17세 사이라고 말하는 사람을 자동으로 보호 모드로 전환하는 젊은 사용자를 위한 전용 환경인 ChatGPT for Teens를 출시했습니다. 회사에서는 기본 경험의 일부인 안전 장치가 옵트인 설정이 아니라고 말합니다.

연령 추정 세부 사항은 처음 나타나는 것보다 더 중요합니다. 확인된 ID가 아닌 추정치가 사용자가 어떤 경험을 얻게 되는지 결정하며, 회사에서는 기억을 포함한 이전 대화의 맥락이 안전 장치를 일관되게 적용하고 시간이 지남에 따라 관련 패턴을 인식하는 데 도움이 된다고 말합니다. 이러한 추정이 실제로 얼마나 잘 작동하는지, 십대들이 자신의 나이를 잘못 기재하면 어떤 일이 발생하는지에 따라 규제 기관이 업계의 자체 단속을 신뢰할 수 있는 것으로 간주하는지 여부가 결정됩니다.

이 청소년용 제품은 또한 학습에 중점을 두고 있습니다. OpenAI에 따르면 퀴즈, 학습 시각화 및 학습 모드와 같은 기능은 학생들에게 문제를 단계별로 안내하기 위해 교육자와 학습 전문가와 함께 개발되었습니다. 회사는 이러한 도구를 안전 요구 사항과 유용한 제품이 긴장 관계에 있지 않다는 증거로 제시합니다. 이는 대중뿐만 아니라 Newsom에게도 효과적으로 주장하고 있는 것입니다.

새크라멘토의 정치

OpenAI는 서한에서 이 문제에 대한 리더십을 발휘한 Steve Padilla 상원의원, Buffy Wicks 의원, Rebecca Bauer-Kahan 의원과 함께 Newsom을 칭찬했습니다. 이 법안은 이제 주지사에게 제출되었으며, 다운로드 가능한 편지와 함께 OpenAI의 공개 로비 캠페인을 통해 회사가 주지사의 서명을 원한다는 점을 분명히 알 수 있습니다.

다른 곳의 규제 기관이 나사를 조이는 경우에도 이러한 움직임이 발생합니다. 유럽 ​​연합은 최근 디지털 서비스법에 따라 ChatGPT를 초대형 온라인 검색 엔진으로 지정하여 OpenAI가 2026년 12월 말까지 미성년자 및 투명성에 대한 더욱 엄격한 EU 규칙을 준수하도록 했습니다. 브뤼셀의 하향식 지정에 직면하여 OpenAI는 새크라멘토에서 맞춤형 주법을 뒷받침하는 것이 규칙이 작성되기 전에 규칙을 형성하는 더 나은 방법이라고 계산하고 있는 것으로 보입니다.

Newsom의 서명 여부와 다른 주들이 캘리포니아의 선례를 따르는지 여부는 의회가 지금까지 공개한 질문에 답하는 데 큰 도움이 될 것입니다. AI의 가장 어린 사용자에 대한 규칙을 설정하는 사람은 누구입니까?

AI 정책에 대한 최신 정보를 받아보세요

모든 발전 상황을 그대로 따르십시오. AI 버즈와이어에서 더 많은 AI 소식 보기 →