7개의 AI 에이전트에게 똑같은 Swift 챌린지를 시켜봤습니다. 결과는 처참했습니다!
원제 · I Gave 7 AI Agents the Same Swift Challenge. It Was BRUTAL!
핵심 요약
현재 대다수 AI 모델은 Swift 개발에서 고전하고 있으나, Claude 3.5 Opus와 같은 최상위 모델과 Xcode 내장 도구의 조합은 실질적인 iOS 앱 개발이 가능한 수준에 도달했습니다.
하이라이트
대부분의 AI 모델이 Python이나 Java에 비해 Swift 코딩 성능이 현저히 낮은 이유 분석
Swift 성능 저하의 주요 원인: 폐쇄적인 데이터 생태계
타임라인
AI가 Swift 개발에 취약한 근본적인 이유
대부분의 AI 코딩 모델은 웹 기반 언어에는 능숙하지만 Swift에서는 치명적인 한계를 보입니다. 연구 논문에 따르면 Swift는 데이터 격차, API의 급격한 변화, 벤치마크 편향성이라는 세 가지 주요 병목 현상을 겪고 있습니다. 자바스크립트와 달리 전문적인 Swift 코드는 상업용 저장소에 비공개로 존재하는 경우가 많아 학습 데이터가 부족합니다. 또한 애플의 빠른 업데이트 주기로 인해 AI의 지식 학습 중단 시점 문제가 발생하며, 기존 벤치마크들이 파이썬 위주로 구성되어 iOS UI 구현 능력을 제대로 평가하지 못합니다. 이러한 배경 지식은 왜 세계적인 모델들이 유독 애플 생태계에서 고전하는지 명확한 이유를 제시합니다.
최하위권 모델 테스트: Qwen 2.5 Coder와 Grok
실험은 강아지 틴더 앱인 "Dogtinder"를 제작하는 과제로 진행되었으며, 첫 번째 낙제 모델은 Qwen 2.5 Coder였습니다. Qwen은 프로젝트 파일을 생성하는 것조차 실패했으며, Xcode 어시스턴트의 도움을 받고서도 API 연결 실패와 버그투성이의 UI를 보여주었습니다. Grok Code Fast 모델 역시 수동 파일 복사가 필요할 정도로 프로젝트 구축 능력이 떨어졌고 디자인 감각이 처참했습니다. 비록 Grok이 기능적으로는 작동하여 Qwen보다는 높은 순위를 기록했지만, 시각적으로나 기술적으로 합격점을 주기 어려운 수준이었습니다. 두 모델 모두 웹 개발 특화 모델이 네이티브 Swift 앱 개발에서 겪는 한계를 여실히 보여줍니다.
중위권 모델 분석: Kimi K2.5의 가능성
Kimi K2.5 모델은 Qwen과 Grok에 비해 한 단계 진보된 성능을 보여주며 리더보드 중위권에 안착했습니다. 초기 프로젝트 생성 과정에서 CLI 오류가 있었으나, 단 한 번의 수정 요청만으로 틴더 스타일의 인터페이스를 성공적으로 구현했습니다. 스와이프 애니메이션과 매칭 팝업, 그리고 매칭된 강아지와의 채팅 세션까지 실질적인 기능을 갖춘 앱을 제작했습니다. 다만 애니메이션이 정교하지 못하고 이미지 배치 오류가 발생하는 등 디테일한 완성도 면에서는 여전히 아쉬움을 남겼습니다. 그럼에도 불구하고 이전 모델들에 비해 사용자 경험(UX)을 이해하려는 노력이 돋보인 결과물이었습니다.
상위권 모델의 대결: Gemini 1.5 Pro와 GPT-4o
Gemini 1.5 Pro는 사용 환경에 따라 극단적인 성능 차이를 보여준 흥미로운 사례였습니다. 자체 CLI에서는 앱이 완전히 망가졌으나, Xcode 전용 AI 어시스턴트를 통하자 단 한 번의 시도에 완벽한 UI와 로고까지 포함된 훌륭한 결과물을 내놓았습니다. 한편 GPT-4o(Codec)는 별도의 외부 도움 없이도 전체 프로젝트 패키지를 한 번에 생성해내는 뛰어난 구조화 능력을 입증했습니다. 하지만 GPT-4o는 이미지 레이아웃이 프레임 밖으로 벗어나는 디자인 결함을 보여주며 Gemini보다 낮은 평가를 받았습니다. 이 섹션은 대규모 언어 모델이 충분한 추론 능력을 갖췄을 때 Swift의 데이터 부족 문제를 어떻게 극복하는지 보여줍니다.
최고의 승자 Claude 3.5 Opus와 보너스 테스트
이번 챌린지의 최종 승자는 Claude 3.5 Opus로, 프로젝트 생성부터 디자인, 애니메이션 구현까지 모든 과정을 완벽하게 압도했습니다. Claude는 수동 작업 없이 스스로 Xcode 프로젝트를 구축했으며, 결과물은 실제 상용 앱처럼 아름답고 부드러운 애니메이션을 제공했습니다. 반면 보너스로 테스트한 GLM 4는 Opus보다 뛰어나다는 홍보와 달리 강아지 이미지를 불러오지 못하고 핵심 기능이 누락되는 등 최하위권 성적을 거두었습니다. 이 실험은 현재 AI 모델들의 실제 코딩 능력이 마케팅 수치와는 다를 수 있음을 시사합니다. 결론적으로 iOS 개발자들에게는 최상위 모델과 Xcode 전용 도구를 병행하는 것이 가장 효율적인 선택입니다.
결론 및 AI 코딩의 미래 제언
이번 리더보드 분석을 통해 AI 혁명 속에서도 Swift라는 특정 언어가 가진 장벽이 여전히 높다는 사실이 확인되었습니다. Opus와 GPT-4o는 강력한 추론 능력으로 데이터 부족을 극복할 수 있음을 보여주었지만, 중소형 모델들에게는 여전히 높은 벽입니다. 특히 특정 플랫폼에 종속된 개발 환경에서는 Xcode와 같은 IDE 전용 AI 도구의 역할이 결과물의 퀄리티를 결정짓는 핵심 요소가 됩니다. 영상은 향후 자바스크립트나 파이썬에 편향된 범용 모델을 넘어 플랫폼 특화 모델의 필요성을 강조하며 마무리됩니다. 개발자들은 자신의 작업 환경에 가장 적합한 모델을 선택하는 안목을 길러야 할 시점입니다.
설명
In this video, we put 7 of the world's most popular AI coding agents (including giants like Opus 4.6, GPT-5.3, and the new GLM-5) through a brutal "Dog Tinder" challenge to see if they can actually build a native Swift iOS app. We dive deep into the technical "Swift Problem," explaining why even the smartest models struggle with Apple’s closed ecosystem, API drift, and the massive data gap in private repositories. Discover which model aced the test on the first try and why you might need a different AI strategy for mobile development than you do for the web. ❤️ More about us Radically better observability stack: https://betterstack.com/ Written tutorials: https://betterstack.com/community/ Example projects: https://github.com/BetterStackHQ 📱 Socials Twitter: https://twitter.com/betterstackhq Instagram: https://www.instagram.com/betterstackhq/ TikTok: https://www.tiktok.com/@betterstack LinkedIn: https://www.linkedin.com/company/betterstack 📌 Chapters: 00:00 Intro 00:50 Why AI Struggles with Swift 01:16 The 3 Major Bottlenecks 02:32 The Challenge: Dog Tinder 03:08 6th Place: The Worst Performer 04:38 Xcode's New AI Assistant 05:44 5th Place 06:58 4th Place 08:28 3rd Place 09:45 Gemini’s Xcode Surprise 10:38 2nd Place 11:57 1st Place: The Best AI Agent For iOS Dev 13:14 Bonus: Adding A New Agent Into The Mix 15:02 The Final Verdict 15:47 Summary & Outro
