뉴멕시코주 대법원은 존재하지도 않는 증인(ChatGPT에 의해 도매로 조작)을 기반으로 한 살인 항소를 제기한 변호사를 제재했습니다. 이는 인공지능 '환각'이 미국 사법 시스템의 핵심에 도달한 가장 극명한 사례 중 하나입니다.

로이터 통신의 보고서에 따르면, 주 최고 법원은 산타페 변호사 스티븐 아론스에게 5,000달러의 벌금을 부과하고 "AI가 생성한 보고서에서 사실적 주장과 법적 권위를 확인"하지 못한 이유로 그를 모욕했습니다. 의뢰인의 살인 유죄 판결에 대한 항소의 일환으로 제출된 보고서에는 "완전히 조작된 증인의 허위 증언이 포함되어 있다"고 범인의 옷과 외모에 대한 허위 주장도 포함되어 있었습니다. 이 이야기에 대한 자세한 내용은 진행 중인 AI 속보를 참조하세요.

법원이 발견한 사실

법원의 서류에는 사소한 부정확성이 기술되어 있지 않았습니다. 그것은 사람들을 허공에서 불러일으킨 항소 문서를 설명했습니다. 존재하지 않는 증인의 증언과 범인이 입었던 옷과 범인의 외모에 대한 경찰 진술을 만들어낸 것입니다. 바로 살인 유죄 판결을 내릴 수 있는 사실적 세부 사항의 종류입니다.

법원 제출 내용을 보도한 The Verge에 따르면, Aarons가 AI가 생성한 서류를 법원에 제출하기 전에 "사실적 주장과 법적 권위를 확인"하지 못했기 때문에 제재가 부과되었습니다. 즉, 문제는 변호사가 초안 작성을 돕기 위해 AI 도구를 사용했다는 것이 아닙니다. 변호사가 실제 재판 기록과 대조해 단 한 건의 조작된 주장도 확인하지 않고 출력물을 제출했다는 것입니다.

"변호인님, 뉴스를 시청하시나요?"

이 사건의 특이한 성격은 8월 심리에서 드러났는데, 그곳에서 Aarons는 자신이 ChatGPT를 사용했음을 인정하고 법원에 챗봇이 재판에 대한 "완벽한 요약"을 생성할 것으로 기대했다고 말했습니다. 그러한 기대는 뉴멕시코주 대법원 판사 C. Shannon Bacon으로부터 날카로운 반응을 이끌어 냈습니다.

"변호인님, 뉴스를 보시나요? 라디오를 들으시나요? 세상에서 일어나고 있는 일에 대해 읽은 것이 있나요?" 로이터 통신에 따르면 베이컨이 물었다. "AI 환각에 의존하는 변호사들의 문제는 매일같이 과장된 이야기이기 때문입니다."

판사의 책망은 AI가 조작한 인용과 증언이 틈새 기술 문제에서 주류 전문 책임(현재 판사는 모든 변호사가 알아야 한다고 가정)으로 이동한 정도를 포착했습니다.

일련의 AI 제재 최신 소식

뉴멕시코 사건은 확인되지 않은 AI 사용에 대해 변호사를 처벌하는 법원 목록이 급속히 늘어나고 있는 최신 사례입니다. 작년에 판사는 "수많은 허위, 부정확, 오해의 소지가 있는 법적 인용 및 인용문"이 포함된 보고서를 제출한 두 로펌을 비난했으며, MyPillow 설립자 Mike Lindell을 대표하는 변호사들 또한 법원 서류에 AI가 생성한 잘못된 인용문과 가짜 인용문을 포함시킨 혐의로 벌금을 부과했다고 The Verge가 지적했습니다.

뉴멕시코 제재를 차별화하는 것은 조작된 자료입니다. 대부분의 초기 사례에는 법적 인용(가짜 판례, 실제 사례에서 인용한 가짜 인용)이 포함되었습니다. 여기서는 형사상 항소에서 증인, 증언, 물적 증거 설명 등 사실 자체를 조작했습니다. 살인 사건의 사실 조작은 항소심사가 보호해야 할 핵심 요소이기 때문에 이러한 구별이 중요합니다.

추세선은 틀림이 없습니다. The Verge가 관찰한 바와 같이 업무에 AI 도구를 사용하는 변호사의 수가 증가함에 따라 법원이 AI에 의해 조작되거나 환각된 인용을 발견하는 사례도 늘어나고 있습니다. 한때 당혹스러운 감독으로 여겨졌던 일이 점점 전문 역량 부족으로 처벌되고 벌금, 모욕죄 판결, 징계 당국의 조사를 통해 처벌되고 있습니다.

"반성합니다"

Aarons는 Reuters에게 낙진이 전문적인 규율에 미치지 못하기를 바란다고 말했습니다. 그는 성명을 통해 " 후회하지만 징계위원회가 그것이 정직한 실수였다는 점을 고려하기를 바란다"고 말했다.

징계 위원회가 이를 정직한 실수로 간주할지 여부는 아직 알 수 없지만, 주 최고 법원은 이미 자신의 견해를 분명히 밝혔습니다. 즉, 5,000달러의 벌금과 현실에 대해 검증되지 않은 브리핑에 대한 모독죄입니다.

중요한 이유

이번 사건은 전국 법원이 소송에서 AI 사용에 대한 입장을 강화하면서 시작됐다. 판사들은 점점 더 변호사들에게 AI가 생성한 서류가 검증되었는지 확인하도록 요구하고 있으며 제재가 가시적인 집행 메커니즘이 되었습니다. 뉴멕시코주 대법원의 메시지는 국경을 훨씬 넘어 전파될 가능성이 높습니다. 확인 의무는 개인적이고 위임할 수 없으며, 챗봇이 자신있게 들리는 산문을 생성한다고 해서 사라지지 않습니다.

법조계의 경우 계산이 바뀌고 있습니다. AI 초안 작성 도구는 작업 시간을 절약할 수 있지만, 제출된 서류에서 단 한 명의 조작된 증인으로 인해 벌금이 부과되고 경멸 판결이 내려지며 징계 당국에 회부될 수 있습니다. 소수의 실무자가 매력을 느낄 것입니다. 다른 모든 사람들에게 이 사건은 AI의 결과를 확인해야 하는 사람들이 실제로 확인해야 한다는 압박감이 그 어느 때보다 더 크다는 점을 상기시켜 줍니다.

형사 사건의 위험은 가장 높습니다. 가짜 인용에 대한 제재는 사법 시간을 낭비합니다. 살인 항소에서 조작된 증거는 유죄 판결이 유효한지 여부를 결정하는 메커니즘에 영향을 미칩니다. 항소 법원은 실제 기록에 근거한 주장만 평가할 수 있으며, 유령 증인이 포함된 간략한 내용은 판사에게 결코 일어나지 않은 사건에 대한 판결을 요청합니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →