Приветствие нового члена команды: как Jun будет развивать локальный AI с MLX

В команде произошли значительные изменения: мы рады приветствовать Jun в качестве нашего нового члена. Это событие подчеркивает нашу полную приверженность локальному искусственному интеллекту (AI), а также важность MLX как центрального элемента нашего экосистемы. Jun выбрал нашу команду для продолжения своей работы и внесения вклада в развитие MLX, что является для нас большой честью.

MLX: Основы локального AI

MLX — это фреймворк от Apple, который оптимизирован для работы с Apple Silicon. Мы являемся большими сторонниками MLX, особенно после того, как Awni и Angelos подарили нам этот инструмент в 2023 году. Hugging Face стал хабом, где пользователи могут находить модели MLX и вносить свои собственные разработки. Мы наблюдаем ускорение использования открытого локального AI и верим в создание здоровой экосистемы, где каждый сможет найти подходящие инструменты.

Влияние на oMLX

Переход Jun на полную занятость в проекте oMLX обещает стабильность и, надеемся, более быстрое развитие. Ранее работающий на стороне проект теперь станет полностью поддерживаемым и финансируемым, что позволит Jun лучше направлять участников и строить долгосрочные планы. oMLX продолжит использовать лицензию Apache 2.0, а Jun останется его лидером.

Влияние на MLX в целом

Наша конечная цель — разблокировать возможности для сообщества, чтобы оно могло запускать локальный AI в любых формах и предоставлять необходимые инструменты и строительные блоки для этого. Мы ожидаем, что oMLX станет испытательным полигоном для новых идей, используя базовую работу зависимостей, на которые он уже опирается, таких как mlx-lm и mlx-vlm. Мы уверены, что сильные библиотеки моделирования и вывода помогут сообществу, и будем рады передать наши наработки туда, где это будет уместно.

Сотрудничество и будущее

Мы активно сотрудничаем с множеством проектов, включая mlx-lm, mlx-vlm и LMStudio, и надеемся укрепить отношения с Cheng, Prince, Yagil и их командами для более эффективного обслуживания сообщества. Одной из ключевых задач является быстрая трансформация определения модели transformers в эталонную реализацию MLX, которую смогут использовать различные движки, позволяя каждому сосредоточиться на уникальных особенностях. Библиотека transformers стала эталоном для определения моделей ML, и мы стремимся оптимизировать процесс, чтобы новые модели transformers могли работать на MLX. Мы невероятно рады будущему и уверены, что с приходом Jun мы сможем достичь новых высот в развитии локального AI. Добро пожаловать, Jun!