본문으로 건너뛰기

Apple Foundation Models: 인디 Mac 개발자가 온디바이스 AI로 할 수 있는 것

프레임워크에 대한 짧은 둘러보기, 무엇을 잘하고 무엇을 못하는지, 그리고 클라우드 청구서 없이 AI 기능을 원하는 작은 앱에 미치는 영향.

9 분 분량

약 3년 동안, “AI 기능"을 출시하고 싶은 모든 인디 개발자는 같은 불편한 결정을 내려야 했어요. 사용자에 따라 선형으로 늘어나는 OpenAI나 Anthropic 청구서를 내거나, 아니면 AI 기능을 아예 건너뛰거나요. 일회성 구매 앱에게 그 계산은 잔혹했어요. 사용자당 월 몇 센트가 $9.99 평생 앱의 마진을 몇 달 안에 파괴해요.

WWDC 2025에서 발표되고 macOS 26 (Tahoe)에 탑재되는 Apple의 Foundation Models 프레임워크가 그 계산을 바꿔요. 이 프레임워크는 사용자의 Mac에서 Apple Intelligence 기능을 구동하는 바로 그 온디바이스 언어 모델에 개발자가 프로그래밍 방식으로 접근하게 해줘요. 모델은 로컬에서 돌아가요. 당신의 앱은 추론 비용을 내지 않아요. 사용자는 API 키가 필요 없고요. 텍스트는 결코 기기를 벗어나지 않아요.

이 글은 인디 개발자가 이 프레임워크로 실제로 무엇을 할 수 있는지, 무엇을 못하는지, 그리고 이 아키텍처 전환이 집중된 Mac 앱에 무엇을 의미하는지에 대한 실용적인 둘러보기예요.

무엇을 얻는가

이 프레임워크는 텍스트로 프롬프트할 수 있는 LanguageModelSession을 노출해요. 모델은 텍스트로 응답하고, 선택적으로 @Generable 매크로로 지정한 구조화된 객체로 응답해요. 구조화된 출력 모드가 대부분의 앱에 더 유용해요. 자유 형식 텍스트를 파싱하려 애쓰는 대신 “이 스키마에 맞는 JSON을 돌려줘"라고 말할 수 있게 해주니까요.

전형적인 흐름은 이래요:

  1. 모델의 작업을 설명하는 시스템 지시로 세션을 만들어요.
  2. 사용자 메시지를 보내요.
  3. 구조화된 응답을 읽어요.
  4. 그 응답으로 앱을 구동해요.

이 전체가 짧은 프롬프트에는 밀리초, 긴 프롬프트에는 몇 초 안에 돌아가요. 네트워크 호출이 없어요. API 키도 없고요. 기기 자체가 감당할 수 있는 것 외에는 속도 제한도 없어요.

Cloud LLM call versus on-device model call Diagram comparing two architectures. The top row shows a user prompt going from a Mac, over the public internet, to a cloud LLM provider, then back. The bottom row shows the same prompt staying entirely on the Mac, processed by Apple's Foundation Models framework. The on-device path has no network arrow and no provider box. CLOUD LLM Your Mac user prompt Public internet latency, $$, privacy risk Cloud LLM provider per-token billing ON-DEVICE (FOUNDATION MODELS) Your Mac user prompt Foundation Models local, free, private
클라우드 LLM(위) 또는 Apple의 온디바이스 Foundation Models 프레임워크(아래)로 처리되는 같은 프롬프트. 온디바이스 경로에는 네트워크 홉도 호출당 청구도 없어요.

모델이 실제로 잘하는 것

이 온디바이스 모델은 최첨단 클라우드 모델에 비하면 작아요. GPT-4가 아니에요. 그것처럼 다루면 실망하게 될 거예요. 빛나는 곳은 특정 부류의 작업이에요:

  • 분류. “이 문자열이 날짜 표현인가 아닌가?” “이 다섯 범주 중 이 할 일은 어디에 속하나?” 이런 작업은 온디바이스 모델이 안정적이고 빠르게 처리해요.
  • 구조화된 추출. 자유 텍스트 입력에서 특정 필드를 뽑아내는 거죠. “이 문장이 가리키는 하루 중 시각은?” “이 문장의 동사는?” 프레임워크의 구조화된 출력 모드가 이를 위해 만들어졌어요.
  • 짧은 텍스트 다시 쓰기. 비격식 메모를 깔끔한 제목으로 바꾸기, 한 단락을 한 문장으로 요약하기, 초안의 문법 고치기. 모델은 작고 한정된 텍스트 변환을 잘해요.
  • 어조 전환. 초안을 더 따뜻하게, 더 간결하게, 더 전문적으로 만들기. 같은 제약이에요: 짧은 입력, 한정된 출력이요.

이게 생산성 앱에 실제로 필요한 것의 대부분이에요. 목록에 없는 걸 눈여겨보세요: 장문 생성, 복잡한 추론, 세상 지식 질문, 코드 생성이요. 온디바이스 모델도 그것들을 할 순 있지만, 클라우드 모델만큼은 못해요. 그것들이 당신 제품의 핵심이라면, 여전히 클라우드가 필요해요.

모델이 잘 못하는 것

다른 것을 찾아야 할 세 부류의 작업이 있어요:

  1. 긴 컨텍스트. 온디바이스 모델은 클라우드 모델보다 작은 컨텍스트 창을 가졌어요. 50페이지 문서를 먹이고 분석을 요청하면 잘 안 돼요. 대신 관련 발췌만 먹이세요.
  2. 개방형 창작 글쓰기. 짧은 창작 글쓰기는 할 수 있지만, 최전선 클라우드 모델과 비교하면 차이를 알아챌 거예요. 당신의 앱이 소설가를 위한 글쓰기 보조라면, 아마 당신의 모델은 아니에요.
  3. 사용자가 최첨단 품질을 기대하는 작업. 사용자가 당신의 출력을 ChatGPT와 비교하며 그에 맞춰 판단할 거라면, 당신은 질 거예요. 이 모델은 보이지 않는 유틸리티에는 탁월하지만, AI가 보이는 제품인 작업에는 덜 그래요.

올바른 틀은 이거예요: 온디바이스 모델을 보이는 제품이 되게 하지 말고, 배경에서 앱을 더 똑똑하게 만드는 데 쓰세요.

이것이 인디 가격에 의미하는 것

온디바이스 모델의 가장 흥미로운 결과는 가격에 미치는 함의예요. 지난 3년의 대부분 동안, AI 기능을 출시하는 인디 개발자를 위한 표준 조언은 “추론 비용은 실재하고 반복되니 반드시 구독을 받아야 한다"였어요. 그 조언은 옳았어요.

온디바이스 지능으로 충분한 앱에는 더 이상 옳지 않아요. 일회성 구매 앱이 AI를 출시할 수 없었던 이유 전부가 반복 비용이었어요. 반복 비용이 0이면, 그 논리가 무너져요. 일회성 구매 앱에 AI 기능을 출시하고도 파산하지 않을 수 있어요.

이건 일회성 구매 모델을 되살리려는 작은 인디 Mac 앱 물결에 큰 일이에요. 더 넓은 흐름에 대해 썼지만, AI 조각은 2026년에 그게 통하는 실제 기술적 이유 중 하나예요.

시작하는 법

이 프레임워크는 macOS 26의 표준 Apple SDK의 일부예요. 별도 다운로드가 없어요. API 키도 없고요. 만들 계정도 없어요. Swift 파일에 import FoundationModels를 추가하고, LanguageModelSession을 만들고, 프롬프트를 보내고, 응답을 읽으세요.

이 모델은 Apple Intelligence의 시스템 요구사항을 충족하는 Apple Silicon Mac에서 사용 가능해요. 더 오래된 Intel Mac은 이 프레임워크를 못 받으니, 그것들을 지원하려면 앱에 대체 전략이 필요해요. 오늘 출시되는 대부분의 인디 Mac 앱에는 가용성 확인과 우아한 성능 저하 경로면 충분해요. 모델이 없는 사용자는 정규식 기반 버전의 기능을 받고, 모델이 있는 사용자는 더 똑똑한 버전을 받죠.

TodoBar에서는 이게 어떤 모습인가

TodoBar는 자연어 날짜 해석의 대체 수단으로 이 프레임워크를 써요. 빠른 경로는 정규식인데, 날짜 표현의 약 90%를 1밀리초 미만에 잡아내요. 정규식 경로가 실패하면, 온디바이스 모델이 보통 약 50밀리초의 지연으로 한 번 시도하고, 사용자가 의도한 바를 구조화된 분류로 돌려줘요. 전체 파이프라인은 날짜 해석 글에서 설명했어요.

모델은 사용자에게 보이지 않아요. 그게 거기 있는지도 몰라요. 그저 “in a couple hours"가 “in 2 hours"와 같은 방식으로 작동한다는 걸 알아챌 뿐이에요. 그게 좋은 온디바이스 AI가 느껴지는 방식이에요.

또한 이게 $9.99 일회성 구매 앱이 1년 전이라면 구독이 필요했을 기능을 출시할 수 있는 이유예요. 마침내 계산이 맞아요.

TodoBar는 macOS를 위한 다정한 메뉴 막대 할 일 목록이에요. 일상어로 적는 마감일, 전역 단축키, iCloud 동기화까지. 한 번만 결제하면 평생 내 거예요.

App Store에서 TodoBar 받기