연방 항공국(Federal Aviation Administration)은 금요일 오후 미국에서 출발하는 모든 상업용 항공기를 중단하고 전국적으로 지상 정지 명령을 내리면서 공항에서 여행자들이 해안에서 해안까지 발이 묶였습니다. 그리고 시기가 인프라 실패를 기관의 새로운 인공 지능 시스템이 역할을 했는지 여부에 대한 연방 조사로 전환했습니다.

FAA는 대략 오후 4시에 지상 정지를 명령했습니다. 뉴욕포스트(New York Post)에 따르면 11월 13일 ET에서는 "예외적인 상황"과 "안전상의 이유"를 언급했습니다. 조기 경보는 세부 사항을 거의 제공하지 않았으며 기관은 불과 3일 전에 모든 관제 센터로 확장한 AI 지원 항공 교통 시스템인 SMART에 중단을 즉시 연결하지 않았습니다. 이 이야기와 기타 주요 AI 개발을 계속 보도하기 위해 조사 진행 상황을 추적하고 있습니다.

금요일에 무슨 일이 있었나요?

혼란은 굉장했습니다. 미국의 모든 공항에서 출발이 중단되었는데, 이는 FAA의 항공임무통보(NOTAM) 시스템 오작동으로 인해 전국 항공편이 운항되지 못한 2023년 1월 이후 미국에서 본 적이 없는 이례적인 조치입니다. 금요일 저녁까지 주요 매장에서 인용된 항공 산업 통계에 따르면 약 10,000편의 항공편이 지연되고 약 4,700편이 취소되었으며 항공사는 승무원이 근무 시간 제한에 도달하고 항공기가 위치를 벗어나면서 회복이 주말까지 연장될 것이라고 경고했습니다.

FAA는 궁극적으로 통신 문제로 인한 중단을 비난했습니다. Reuters와 The Washington Post의 보고에서는 항공 교통 통신 중단에 대해 설명했으며, 후속 보고에서는 조종사와 관제사가 통신에 사용하는 무선 주파수 시스템과 관련된 오류가 발생했음을 나타냅니다. 지상정지주의보는 이날 오후 11시 30분까지 최초 발령됐다. ET는 타임스탬프가 재개 시간을 보장하지 않는다고 관계자들이 경고했습니다. 해당 기관은 금요일 저녁 늦게 정지를 해제했지만, 사건이 정부 최고위급에서 질문을 촉발하기 전에는 그렇지 않았습니다.

SMART 시스템이 며칠 전에 출시되었습니다.

조사 이유는 타이밍이다. 워싱턴 타임즈와 뉴욕 포스트에 따르면 FAA는 지상 정지 3일 전인 11월 10일 항공 항로 교통 통제 센터 22개 모두에 SMART(공역, 항로 및 궤적의 전략적 관리)를 확대했습니다.

SMART는 정부 계약업체인 Air Space Intelligence와 체결한 8억 7,500만 달러 규모의 12년 계약에 따라 개발되었습니다. 이 시스템은 기상 패턴, 비행 경로, 교통 흐름, 관제사 배치 지표 등 약 200개의 실시간 데이터 스트림을 항공 교통 관리를 대응 모델에서 예측 모델로 전환하도록 설계된 단일 플랫폼으로 병합합니다. 이는 워싱턴의 FAA 전문가가 버지니아주 워렌턴에 있는 항공 교통 관제 시스템 지휘 센터로 전달하기 전에 검토할 라우팅 및 일정 권장 사항을 생성합니다. 그런 다음 각 지역 시설의 리더십은 각 제안을 수락할지 거부할지 결정합니다.

결정적으로 FAA는 SMART가 자율 계층이 아닌 자문 계층임을 명시했습니다. 기관은 시스템이 인간 컨트롤러를 대체할 수 없으며 항공기 제어권을 대신할 수 없다고 밝혔습니다. 그러나 플랫폼은 엄청난 양의 실시간 운영 데이터가 교차하는 지점에 위치하며, 현재 조사관이 보고 있는 지점이 바로 그 교차점입니다.

조사관은 AI를 배제하지 않을 것

기자가 금요일 저녁 마크웨인 멀린 국토안보부 장관에게 FAA의 새로운 AI 도구가 통신 실패에 기여했을 수 있는지 물었을 때 그의 대답은 조심스럽게 단호했습니다.

Mullin은 SMART 시스템을 직접 언급하면서 "우리는 그것을 검토하고 있습니다"라고 말했습니다. 기자가 "AI"라는 용어를 사용했을 때 멀린은 9월 행정 명령에 따라 행정부가 이 기술을 공식적으로 "슈퍼 인텔리전스(Super Intelligence)" 또는 SI라고 부른다고 언급한 후 "현재로서는 어떤 것도 배제할 수 없습니다"라고 덧붙였습니다.

ABC 뉴스에 따르면 멀린은 기자들에게 "단지 통신 중단일 뿐"이며 "사악한 공격"의 징후는 아직 없다고 말하면서 원인에 대한 두려움을 진정시키려고 노력했습니다. GeekWire에 따르면 그는 또한 하루 전에 시작된 별도의 Microsoft 365 중단과 지상 정지 사이에 뚜렷한 연관성을 찾지 못했습니다.

SMART 뒤에 있는 회사는 제품이 혼란에 빠지지 않도록 신속하게 조치를 취했습니다. Air Space Intelligence는 X에 게시한 성명에서 "현재 지상 정지는 SMART 시스템, ASI의 제품 또는 FAA 및 ATC와의 통합을 기반으로 하거나 그 결과가 아닙니다"라고 밝혔습니다.

모든 사람이 타이밍을 우연의 일치로 취급하는 것은 아닙니다. 메리 샤보(Mary Schiavo) 전 교통부 감찰관은 CNN에서 “그들이 연결되어 있는지 모르겠다”고 말했다. "하지만 그들이 오늘 그 움직임을 시작하려고 한 것은 너무 우연의 일치였습니다. 이제 우리는 시스템에 문제가 있습니다."

컨트롤러는 몇 주 전에 우려 사항을 표시했습니다.

금요일 행사는 항공 인력이 이미 서면으로 SMART에 대한 경보를 제기했기 때문에 더욱 큰 비중을 차지했습니다. 지난 10월에는 24명이 넘는 국회의원들이 션 더피(Sean Duffy) 교통부 장관과 브라이언 베드포드(Bryan Bedford) FAA 청장에게 편지를 보내 항공 교통 관제사들의 배치에 대한 우려를 전달했습니다. 라틴 타임즈(Latin Times)가 보도한 해당 서한에는 "국가의 최전선 항공 안전 인력은 분명히 SMART 개발에 거의 또는 전혀 참여하지 않았으며 현재 배포 과정에서 제한된 교육과 정보를 받았습니다."라고 명시되어 있습니다.

관제사는 특히 SMART가 "숙련된 항공 교통 관제사의 의사 결정을 방해"할 수 있다고 경고했습니다. 또는 더 놀라운 시나리오에서는 대량의 실시간 데이터를 처리하는 AI 시스템이 안전이 중요한 환경에서 확실하지만 잘못된 출력을 환각에 빠뜨릴 수 있다고 경고했습니다. Don Beyer 의원을 포함한 의원들은 중단되기 몇 주 전에 FAA AI 안전 위험을 표시했으며 금요일 양당의 의회 의원들은 무엇이 잘못되었는지에 대한 답변을 요구하기 시작했습니다.

이것이 나쁜 오후 이후에도 중요한 이유

조사관이 궁극적으로 결론을 내리든, 이번 사건은 안전이 중요한 인프라에 AI를 내장하려는 광범위한 노력에 대한 스트레스 테스트입니다. 의회는 노후된 구리 배선을 광섬유로 교체하고, 오래된 무선 시스템을 단계적으로 폐지하고, 네트워크 전체에 새로운 컴퓨터 플랫폼을 설치하는 등 미국의 항공 교통 관제 시스템을 현대화하기 위해 작년에 125억 달러를 승인했습니다. Duffy 교통부 장관은 이 작업을 완료하려면 추가로 300억 달러가 필요할 것이라고 공개적으로 밝혔습니다. SMART는 이러한 정밀 검사의 가시적인 부분 중 하나입니다.

백업 시스템에 전파된 손상된 단일 데이터베이스 파일로 추적된 2023년 NOTAM 중단은 항공 인프라의 오류가 설계자가 계획하지 않은 격차를 찾는 경향이 있음을 보여주었습니다. 라틴 타임즈의 조사 방향 분석에 따르면 관제사 배치 및 시설 통신을 포함한 200개의 실시간 데이터 스트림을 기반으로 하는 새로운 자문 시스템은 실시간 영공 위에 계층화되어 있으며 이제 조사관이 모델링해야 하는 상호 작용 유형입니다.

현재 공식적인 원인은 밝혀지지 않았습니다. 알려진 것은 라우팅 및 스케줄링 조언자인 SMART가 직접 건드리지 않는 통신 인프라와 관련이 있다는 것입니다. 이 세부 사항이 확인되면 AI 시스템을 원점으로 삼게 됩니다. 그러나 이 에피소드는 이미 미국이 나쁜 날의 비용이 수천 건의 취소된 항공편으로 측정되고 "아무것도 배제할 수 없다"는 것이 공무원이 줄 수 있는 가장 정직한 대답인 시스템에 AI를 배포하는 방법에 대한 사례 연구가 되었습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →