Apple은 Mac에서 AI 모델을 훨씬 더 간단하게 실행할 준비가 되어 있는 것으로 보입니다. 유출자 Aaron Perris는 Harbour라는 새로운 Apple 앱의 증거를 발견했습니다. 9to5Mac은 화요일에 이 앱이 Mac을 개인 AI 추론 서버로 전환하도록 설계되었습니다. 이 앱은 데이터가 건물 밖으로 나가지 않고 완전히 로컬 하드웨어에서 개방형 AI 모델을 실행하는 시스템입니다.

Perris가 X에 게시한 이 발견은 Apple이 Mac에서 가장 빠르게 성장하는 사용 사례 중 하나를 어떻게 공식화할 계획인지 가장 명확하게 보여줍니다. 즉, 클라우드 서비스에 대한 비용을 지불하는 대신 로컬에서 AI 모델을 실행하기 위해 특별히 Mac Studio 및 Mac mini 컴퓨터를 구입하는 열성팬과 전문가입니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

항구가 실제로 하는 일

Perris가 게시한 세부 정보에 따르면 Harbour를 사용하면 사용자가 Apple 실리콘에서 로컬로 개방형 모델을 실행할 수 있습니다. 핵심은 개인 정보 보호가 최우선입니다. 데이터는 하드웨어를 떠나지 않으며 클라우드에는 아무 것도 도달하지 않습니다. 이는 이 앱을 오늘날 시장을 지배하는 클라우드 기반 AI 도구에 대한 직접적인 대답으로 자리매김하며, 온디바이스 처리에 대한 Apple의 오랜 마케팅 강조와 일치합니다.

이 앱은 모델 관리도 처리합니다. 사용자는 앱 자체 내에서 개방형 모델을 찾아보고 다운로드하고 로드할 수 있습니다. Perris의 요약에 따르면 Harbor는 "설정이 아닌 작업에 집중할 수 있도록" 모델 관리를 처리합니다. 이는 현재 로컬 모델을 실행하는 데 필요한 명령줄 도구 및 수동 구성과 눈에 띄는 대조입니다.

Thunderbolt 5를 통한 Mac 클러스터링

가장 눈에 띄는 특징은 클러스터링이다. Harbor는 두 대 이상의 Thunderbolt 5 지원 Mac 컴퓨터를 연결하고 통합 메모리를 단일 추론 리소스로 풀링할 수 있습니다. 즉, 사용자는 단일 컴퓨터가 메모리에 저장할 수 있는 것보다 더 많은 모델을 실행할 수 있고, 한 컴퓨터가 단독으로 처리할 수 있는 것보다 클러스터 전체에서 더 많은 동시 요청을 처리할 수 있습니다.

접근 방식이 특이합니다. 대부분의 다중 시스템 AI 추론 설정은 고속 네트워킹 상호 연결과 특수 데이터 센터 하드웨어에 의존합니다. Apple의 구현은 현재 전문적인 Mac 라인업 전반에 걸쳐 존재하는 고대역폭 인터페이스인 Thunderbolt 5를 기반으로 하며 소비자 및 프로슈머 시스템을 소형 추론 기기와 유사한 것으로 구성합니다.

몇 시간이 아닌 몇 분 만에 설정 가능

Apple은 서버를 한 번도 만져본 적이 없는 사용자를 분명히 목표로 삼고 있습니다. 유출된 기능 설명에 따르면 Harbour는 Thunderbolt 5를 통해 연결된 장치를 자동으로 감지하여 클러스터를 형성합니다. 플러그인하고 시작하면 수동 구성이나 명령줄, 인프라 전문 지식이 필요하지 않고 실행됩니다.

이러한 사용 용이성은 앱의 진정한 차별화 요소입니다. 오늘날 로컬 AI 모델을 실행한다는 것은 일반적으로 런타임을 설치하고, 모델 허브에서 가중치를 다운로드하고, 메모리 설정을 수동으로 조정하는 것을 의미합니다. Harbor는 안내된 소비자급 인터페이스로 전체 워크플로를 래핑합니다.

Claris 브랜드의 비공개 미리보기

9to5Mac에 따르면 Harbour는 현재 Apple의 Claris 브랜드로 비공개 프리뷰 단계에 있으며, 이는 이 프로젝트가 Apple의 주요 제품 그룹이 아닌 Apple의 자회사 조직 중 하나에 속함을 시사합니다. 보고서는 애플이 출시 계획을 확정하지 않았지만 앱이 앞으로 몇 주, 몇 달 안에 대중에게 출시될 것으로 보인다고 밝혔습니다.

비공개 미리 보기 상태는 공개 릴리스 전에 기능과 브랜딩이 변경될 수 있음을 의미합니다. 그러나 클러스터링을 갖춘 로컬 추론 전용의 세련된 내부 앱이 존재한다는 것은 로컬 AI가 취미 틈새 시장에서 Apple 내부의 전략적 제품 영역으로 이동했다는 신호입니다.

Mac이 AI의 주력 제품이 되는 이유

9to5Mac은 새로운 MacBook Neo와 같은 예산 친화적인 옵션과 Mac Studio 및 Mac mini 하드웨어에서 로컬로 AI 모델을 실행하기 위한 도구로서의 매력 때문에 Mac이 올해 훨씬 더 인기를 얻고 있다고 지적합니다.

Apple 실리콘의 통합 메모리 아키텍처가 근본적인 이유입니다. CPU와 GPU가 하나의 빠른 메모리 풀을 공유하기 때문에 대규모 언어 모델을 완전히 로드하고 유사한 GPU 서버의 일부 비용이 드는 시스템에서 효율적으로 제공할 수 있습니다. 이로 인해 집에서 더 큰 개방형 모델을 실행하는 개발자들 사이에서 최대 성능의 Mac Studio 기기를 흔히 볼 수 있게 되었습니다.

개발자와 소규모 팀에게 미치는 영향

설명된 대로 항구에 배송된다면 실용적인 의미는 편리함 그 이상입니다. 오늘날 개방형 모델을 제공하기 위해 클라우드 GPU를 임대하는 소규모 팀은 도구를 책상 위의 Mac 클러스터에 지정하여 데이터를 내부에 유지하고 이미 소유한 하드웨어에 대해서만 비용을 지불할 수 있습니다. 동시 요청 제공에 대한 앱의 강조는 Apple이 단일 사용자가 하나와 채팅하는 것이 아니라 여러 사람이나 서비스가 동일한 모델을 사용하는 작업 부하에 대해 생각하고 있음을 시사합니다.

또한 실험의 장벽도 낮아집니다. 개방형 가중치 모델의 자체 호스팅에 관심이 있는 개발자는 현재 단일 요청을 제공하기 전에 런타임, 양자화된 가중치 및 메모리 수학을 함께 모아야 합니다. 하드웨어를 감지하고, 모델을 다운로드하고, 클러스터를 관리하는 안내 앱을 사용하면 설정 비용이 거의 모두 제거됩니다.

클라우드에 대한 개인 정보 보호 정책

Harbour가 설명된 대로 출시된다면 Apple은 경쟁사들이 고심해 온 질문에 대한 명확한 답변을 제공할 것입니다. 주류 컴퓨터 제조업체는 데이터를 다른 사람의 데이터 센터로 보내지 않고 유능한 AI를 원하는 사람들에게 무엇을 제공합니까? 답은 이미 책상 위에 있는 컴퓨터를 데이터 센터로 바꾸는 앱일 ​​수 있습니다.

현재로서는 세부 사항은 발표라기보다는 유출로 남아 있으며, 애플은 공개적으로 아무 말도 하지 않았습니다. 그러나 브랜딩, 기능 세트 및 타이밍 사이에서 Harbour는 앞으로 몇 달 동안 지켜봐야 할 가장 흥미로운 AI 제품 출시 중 하나로 보입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →