Geoffrey Hinton은 통제가 사라지기 전에 AI를 규제하는 데 '아마도 1년'이 걸릴 것이라고 의회에 말했습니다.

노벨상 수상자인 제프리 힌튼(Geoffrey Hinton)은 비공개 브리핑에서 미국 상원의원들에게 의회가 AI 보호 장치를 확립하는 데 약 1년의 시간이 있다고 경고하면서 반복적인 자기 개선은 돌아올 수 없는 지점이라고 언급했습니다.

"AI의 대부"로 널리 알려진 노벨상 수상자 제프리 힌튼(Geoffrey Hinton)은 이번 주 미국 국회의원들에게 가장 엄중한 경고 중 하나를 전달했습니다. 기술이 인간의 통제를 벗어나기 전에 의회는 약 1년 동안 인공 지능에 대한 의미 있는 보호 장치를 마련해야 합니다. NBC 뉴스에 따르면 영국계 캐나다인 컴퓨터 과학자는 9월 16일 국회 의사당에서 열린 상원 비공개 브리핑에서 이같이 말했습니다.

NBC의 회의 기록에 따르면 힌튼은 의원실에서 "1년 정도 걸릴 수도 있지만 1년을 넘지는 않을 것"이라고 말했다. 이번 브리핑에는 버니 샌더스(Bernie Sanders) 상원의원이 소집했으며 MIT 물리학자 맥스 테그마크(Max Tegmark), 미래생명연구소(Future of Life Institute) 공동설립자, AI 안전 연구자 아제야 코트라(Ajeya Cotra)도 참석했다고 한다.

경고의 핵심: AI AI 구축

Hinton의 주장은 먼 가설보다는 특정한 기술적 이정표에 중점을 두었습니다. 브리핑 보고서에 따르면 그는 “AI는 이제 AI가 더 나은 AI를 설계하는 지점에 도달했다”고 말했다. "이것을 재귀적 자기 개선이라고 합니다... 우리가 뭔가를 하지 않으면 통제 불능 상태가 될 것입니다."

그는 또한 국회의원들에게 초지능에 대한 전문가의 일정이 지난 10년 동안 무너졌다고 말했습니다. NBC 뉴스에 따르면 힌튼은 "우리가 언제 초지능을 갖게 될지에 대한 예측을 보면 30년, 50년 정도가 될 것"이라고 말했다. "그러다가 10년, 20년으로 줄어들었습니다. 이제 사람들은 많은 연구자들이 단지 몇 년이라고 말합니다."

신경망에 대한 기초 연구로 2024년 노벨 물리학상을 공동 수상한 토론토 대학 명예 교수 Hinton은 2023년에 Google을 떠났고 이후 이 분야의 가장 저명한 내부 비평가가 되었습니다. 그는 자신이 만든 시스템이 결국 창시자를 능가하고 대체할 수 있다고 경고했습니다.

'킬 스위치'에 대한 회의론

힌튼은 신속한 규제를 촉구하면서도 가장 많이 논의된 제안 중 하나인 위험한 AI 시스템을 정부가 폐쇄하도록 하는 연방 명령에 대해 의구심을 표명했습니다. CNN에 따르면 그는 의원들에게 그러한 '킬 스위치'가 장기적으로 유지되지 않을 것이라고 말했습니다.

그의 회의론은 같은 주에 나타났습니다. 랜드 폴 상원의원은 공화당이 주도하는 AI 킬 스위치 법안이 상원에서 신속하게 처리되는 것을 막았습니다. 이는 최소한의 가드레일 법안조차 통과되지 않는 정도를 보여주는 에피소드입니다. 브리핑에 일부 참석한 루이지애나주 존 케네디 상원의원은 워싱턴선과의 인터뷰에서 "토론은 즐거웠지만 상원이 조치를 취할 조짐은 보이지 않았다"며 "다음 조치는 백악관에서 나올 것으로 기대한다"고 덧붙였다.

통로 건너편의 전망은 그다지 밝지 않았습니다. 플로리다주 상원의원 릭 스콧(Rick Scott)은 뉴스네이션(NewsNation) 인터뷰에서 기업들이 스스로 규제해야 한다고 말했다. 워싱턴 선(The Washington Sun)이 보도한 바와 같이 그는 "우리는 그들을 규제할 만큼 똑똑하지 않을 것"이라고 말했다.

일부 민주당 의원들은 다른 방향을 추진했습니다. 브리핑에 참석한 애리조나주 야사민 안사리(Yassamin Ansari) 의원은 X에 “AI는 계속해서 인간의 통제를 넘어설 수 있고 앞으로도 그럴 것”이라며 “이를 규제할 수 있는 우리의 창이 급속히 사라지고 있다. 우리는 지금 멈춰야 한다”고 썼다.

AI 안전 채찍질의 일주일

브리핑은 AI 거버넌스 논쟁에 대한 소란스러운 전개를 마무리했습니다. 며칠 전 Anthropic CEO인 Dario Amodei는 개척 연구실에 개발 속도를 높이라고 요구하는 에세이를 발표했으며, 광범위한 보고서에 따르면 통제 상실로 인한 생물 테러에 대한 위험을 경고했습니다. 이는 다른 연구실 리더들이 공개적으로 지지하는 입장이었습니다. Hinton이 상원의원들에게 연설한 같은 날, Andrew Ng를 포함한 저명한 AI 연구자들은 멸종에 대한 우려가 과장된 것이라고 공개적으로 일축하고 공개적으로 논쟁을 벌이고 있는 분야를 강조했습니다.

국회의사당에서는 출력보다 활동이 더 시끄러웠습니다. 코리 부커 상원의원은 트럼프 대통령에게 인공지능에 관한 특별 의회 소집을 촉구했고, 양당의 문제 해결사 간부회(Problem Solvers Caucus)는 이번 주에 AI와 신흥 기술에 관한 새로운 실무 그룹을 발표했습니다. 그 중 어느 것도 아직 구속력 있는 연방법을 제정하지 못했습니다.

1년 단위 구성이 중요한 이유

마감일을 앞둔 AI 선구자들의 경고는 이제 일상이 되었지만 업계 경영진이 접근할 수 없는 공간에서 입법 권한을 가진 사람들에게 직접 전달되는 Hinton 타임라인의 특수성은 분위기의 변화를 의미합니다. 연구자들의 이전 경고는 일반적으로 수십 년에 걸친 위험을 예상했습니다. 1년이라는 기간은 미래 의회가 아닌 현재 의회를 위해 설계된 정책 대응을 의미합니다.

이는 또한 정치적 문제를 날카롭게 만든다. Hinton 자신의 킬 스위치 회의론과 Paul 상원 의원의 절차적 블록이 보여주듯이 안전을 중시하는 인물들 사이에서도 어떤 개입이 효과가 있을지에 대한 합의가 없습니다. 힌튼은 국제 상황, 특히 중국과의 경쟁이 일방적인 경기 둔화를 정치적으로 취약하게 만들고, 긴장감이 지금까지 가장 진지한 제안을 방해했다고 주장해 왔습니다.

다음에 일어날 일은 Hinton 자신의 시계에 따르면 몇 달의 문제입니다. 미적분학에 대한 브리핑 변경이 현재 전혀 움직이지 않는 상원에 달려 있는지 여부.