"AI의 대부" 중 한 명은 지금까지 가장 엄중한 경고를 발표했습니다. 현대 인공 지능을 뒷받침하는 연구를 수행한 노벨상 수상 컴퓨터 과학자 제프리 힌튼(Geoffrey Hinton)은 인간이 기술을 개발하지 않는 편이 더 나았을 수도 있다고 말합니다. 그는 또한 The Guardian과의 인터뷰에서 AI가 올해 또는 내년에 금융 또는 전력 시스템의 일시적 정전과 같은 대규모 사고를 촉발할 수 있다고 경고했습니다.

'개발하지 않는 것이 더 나았을 수도 있습니다.' 이 이야기에 대한 자세한 내용은 현재 진행 중인 AI 트렌드를 참조하세요.

78세의 Hinton은 The Guardian과의 인터뷰에서 자신이 인공 신경망에 대한 선구적인 작업을 기반으로 구축된 기술에 대해 "불멸자"가 아니라고 말했습니다. 그는 AI가 자신이 "놀라운 미래"와 "급진적인 풍요"라고 부르는 것을 제공할 잠재력이 여전히 있다고 믿습니다. 그러나 그는 단점에 대해 명확하게 말했습니다. "우리가 그것을 개발하지 않는 것이 더 나았을 수도 있습니다."

영국 태생의 과학자는 10년 안에, 어쩌면 더 빨리 인류가 자신이 어떤 길을 가고 있는지 알게 될 것이라고 말했습니다. 세상은 기술의 위험을 관리하고 그 이익을 공유하거나, 그의 말에 따르면 "우리는 위험을 관리하지 못하고... 빈부격차가 크며, 문화적 문제가 크며, 실업률이 크며, 사회가 분열되고 있습니다."

'AI 체르노빌'은 올해나 내년에 도착할 수 있다

Hinton은 새로운 장편 다큐멘터리 "AI: 아마도 걱정할 것이 없을 것입니다"를 상영하기 전에 자신의 의견을 밝혔습니다. 이 제목은 AI 챗봇이 제안한 제목이었습니다. 이 영화는 Hinton이 그의 전 Google 동료인 DeepMind 수석 Demis Hassabis와 함께 출연하며 영국에서는 11월 12일 오후 10시에 채널 4에서 방송됩니다.

힌튼은 다큐멘터리에서 "나는 의무가 있다고 느낀다"고 말했다. "저는 대변인이 될 수 있는 명성을 얻었고 이에 대해 모든 것을 불태워야 합니다."

그의 경고는 구체적인 선례를 바탕으로 한 것입니다. Hinton은 OpenAI의 AI 에이전트가 Hugging Face 웹 사이트를 해킹하기 위해 공모한 이번 여름 사건을 업계에서 1979년 Three Mile Island 원자력 발전소에서 발생한 부분적인 용해 사고와 동일하다고 봅니다. 이는 훨씬 더 심각한 일이 발생하기 전의 경고 신호입니다.

“올해 말이나 내년에 우리는 코르노빌을 보게 될 것이고, 그것만으로도 사람들의 관심을 끌기에 충분할 것입니다.”라고 그는 1986년 소련 핵 재앙을 언급하면서 말했습니다.

"Chornobyl"은 Hinton이 핵 사건을 의미하지 않습니다. 그의 예는 "대규모 정전"을 일으키는 발전 시스템에 대한 AI 기반 공격 또는 일주일 동안 금융 시스템을 다운시키는 사고입니다. "무슨 일이 일어날지 상상할 수 있습니까? 우리는 그것으로부터 회복할 수 있지만 그렇게 하면 그들이 일어나서 주목하게 될 것입니다"라고 그는 말했습니다. 그는 "그들"이 누구냐는 질문에 "트럼프 이외의 세계 지도자들"이라고 답했다.

AI 보스에 대한 Hinton: Altman, Musk 및 Zuckerberg

Hinton의 비판 중 상당 부분은 최첨단 AI 경주를 이끄는 경영진을 겨냥한 것이었습니다. 그는 ChatGPT 제조사인 OpenAI의 CEO인 Sam Altman을 "전혀" 신뢰하지 않는다고 Guardian에 말했습니다. Altman이 현재 가장 강력한 AI를 구축하기 위해 중국과 경쟁하고 있는 소수의 미국 AI 기업 중 하나를 운영하고 있다는 사실이 "매우 걱정스럽다"고 말했습니다.

"내 생각에 [마크] 주커버그, [엘론] 머스크, 샘 알트먼은 위험을 이해하고 전혀 개의치 않습니다. 그들은 차라리 돈을 갖고 싶어합니다. 그게 내 믿음입니다."라고 Hinton은 말했습니다.

이러한 평가는 Altman의 공개 태도와 뚜렷한 대조를 이룹니다. Guardian은 Altman이 지난 9월에 "세계는 우리가 옳은 일을 할 것이라는 것을 믿어야 합니다. 왜냐하면 그것이 옳은 일이고 우리가 이것의 규모를 느끼기 때문입니다"라고 말했습니다. 도널드 트럼프 미국 대통령은 AI를 통제하려는 “세계주의적 계획을 세우려는 어떤 시도도 전적으로 거부한다”고 밝혔으며, 구속력 있는 규칙이 미국과 중국의 경쟁을 방해할 수 있다는 우려 속에서 선도적인 AI 기업들이 스스로 규제하기를 원한다고 밝혔습니다.

AI 모델을 위한 FDA

이러한 배경에서 Hinton은 더욱 엄격한 규제 노선을 지지하고 있습니다. 핀란드 대통령과 싱가포르, 독일, 캐나다, 호주를 비롯한 32개 국가가 지원하는 계획으로, 첨단 AI 모델의 필수 테스트, 독립적 평가, 정부 간 공통 표준을 요구하는 계획입니다.

그는 또한 영국의 앤디 번햄(Andy Burnham) 총리가 내년에 영국의 G20 의장직을 활용하여 "위험을 방지하면서 잠재력을 최대한 발휘하는 것에 관한 단일한 글로벌 원칙 및 표준"에 대한 합의를 모색할 것이라고 말했습니다.

Hinton이 선호하는 모델은 명시적으로 의료입니다. "우리는 회사가 [AI 모델]이 출시되기 전에 해로움보다 이로움이 더 많다는 매우 훌륭한 통계적 증거를 독립 기관에 제공해야 하는 의약품에 대해 미국 FDA와 같은 것이 필요합니다."라고 그는 말했습니다. "우리는 탈리도마이드를 공개하고 고소하는 것이 올바른 방법이 아니라는 사실을 발견했습니다. 거대 기술 회사들은 탈리도마이드를 취급한 것처럼 취급한다고 말합니다."

'내 직감은 우리가 여전히 통제권을 갖고 있다는 것입니다.'

암울한 시나리오는 그것을 만들 수 있는 타의 추종을 불허하는 누군가로부터 나옵니다. Hinton은 약 44년 동안 AI 분야에서 일해 왔으며 1970년대에 신경망 개념을 창안했으며 머신러닝의 기초 작업으로 2024년 노벨 물리학상을 공유했습니다. 그는 위험에 대해 자유롭게 말할 수 있도록 2023년 구글을 떠났으며, 당시 AI 시스템이 "더 많은 통제력을 확보하는 데 몰두하면 우리는 문제에 직면하게 될 것"이라고 경고했습니다.

그의 역할은 J. Robert Oppenheimer와 비교되었습니다. 친구는 그에게 Oppenheimer 스타일의 모자를 사주기도 했지만 그는 그 비유를 거부했습니다. 그는 신경망 분야에 기여한 수천 명의 다른 과학자들을 인용하면서 "나는 오펜하이머가 아니었습니다"라고 말했습니다.

모든 운명의 프레임에도 불구하고 Hinton은 조건부 희망의 메모로 인터뷰를 마쳤습니다. "내 직감은 우리가 여전히 통제권을 갖고 있다는 것입니다"라고 그는 말했습니다. "우리는 무언가를 할 수 있을 것입니다. 우리가 큰 노력을 기울여야만 성공할 수 있지만, 큰 노력을 기울일 수도 있습니다."

세상이 그런 노력을 하는지 여부는 그 자신의 일정에 따라 이번 10년, 아마도 그보다 훨씬 이전에 답을 얻을 수 있는 질문입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →