10 листопада інсайдер Аарон Перріс опублікував сторінку застосунку Harbor з App Store. Розробник застосунку — Claris, дочірня компанія Apple, відома переважно базою даних FileMaker. Сторінку прибрали з магазину менш ніж за п’ять годин, але Claris уже має окрему сторінку попереднього доступу до Harbor. Раніше застосунок мав робочу назву Fabric.
Згідно з описом, Harbor перетворює Mac на приватний сервер для інференсу, тобто для роботи вже натренованих мовних моделей. Застосунок запускає моделі з відкритими вагами безпосередньо на Apple silicon, а дані не залишають комп’ютер і не потрапляють у хмару. Шукати, завантажувати й підключати моделі можна в самому інтерфейсі Harbor, керування бібліотекою моделей застосунок теж бере на себе.
Найцікавіша частина опису стосується кластерів. Якщо з’єднати кілька Mac кабелями Thunderbolt 5, Harbor сам знайде пристрої, об’єднає їхню уніфіковану пам’ять і дозволить запустити модель, яка в один комп’ютер не вміщається. Окремо Apple наголошує, що для цього не потрібні ручне налаштування, командний рядок чи досвід адміністрування серверів.
Звідки взялася ця можливість
Технічна основа для таких кластерів з’явилася ще наприкінці минулого року. У macOS Tahoe 26.2 Apple без жодних анонсів додала RDMA поверх Thunderbolt 5, і ми детально розбирали це оновлення у статті Що дає поява RDMA в macOS 26.2. Тоді Apple обмежилася системним рівнем і залишила побудову кластерів стороннім розробникам. Ентузіасти користувалися відкритим проєктом Exo, а для роботи на одному комп’ютері найчастіше обирали LM Studio. Harbor, судячи з опису, поєднує простий інтерфейс LM Studio з кластеризацією, і такий інструмент уперше готує сама Apple.
Швидкість роботи моделей застосунок навряд чи змінить, адже її визначають чипи, обсяг пам’яті та з’єднання між машинами. Мета Harbor полягає в тому, щоб спростити запуск. AppleInsider зазначає, що найкращої продуктивності можна досягти, якщо з’єднати кожен Mac у кластері з кожним іншим двома кабелями. Теоретично це дає до 240 Гбіт/с, на практиці близько 160 Гбіт/с, або приблизно 20 ГБ/с. Чим п’яте покоління Thunderbolt відрізняється від четвертого і чому для таких сценаріїв потрібне саме воно, ми пояснювали в окремій статті про Thunderbolt 5.
Кому це знадобиться
Вимога Thunderbolt 5 одразу звужує коло сумісних комп’ютерів. Цей інтерфейс з’явився в Mac починаючи з чипа M4 Pro, тож до кластера можна підключити Mac mini, MacBook Pro та Mac Studio з чипами рівня Pro, Max та Ultra, включно з актуальними моделями на M5 Pro, M5 Max та M5 Ultra. Найбільше Harbor підходить для зв’язки з двох-чотирьох Mac Studio з великим обсягом пам’яті, де для однієї моделі можна зібрати сотні гігабайтів.
Для компаній головним аргументом лишається приватність, адже документи, листування та код залишаються на власних комп’ютерах в офісі. Як локальні моделі поводяться в щоденній роботі на одному Mac, ми розповідали в матеріалі Локальний AI на Mac у реальній роботі. Вибір Claris замість Apple Intelligence теж показовий: компанія працює переважно з бізнес-клієнтами, тож Harbor, імовірно, орієнтований на професійних користувачів і розробників.
