Phison Electronics представил новую технологию расширения памяти для ИИ под названием aiDAPTIV, которая предназначена для увеличения эффективной рабочей памяти для локальных задач искусственного интеллекта, объединяя системную оперативную память с высоконадежным NAND-флеш-накопителем с помощью технологии Pascari aiDAPTIV Cache Memory. Компания заявляет, что это решение помогает снизить зависимость от крупных конфигураций оперативной памяти, позволяя более сложные модели ИИ работать напрямую на потребительских и корпоративных ПК.
По данным внутренних испытаний Phison Electronics, система aiDAPTIV позволила запустить модель с 26 миллиардами параметров на устройстве с 16 ГБ ОЗУ, тогда как обычно для выполнения таких задач требуется 32 ГБ без этой технологии. Улучшение достигнуто благодаря таким методам, как повторное использование KV-кэша и разгрузка памяти, которые расширяют эффективную рабочую память ИИ за пределы физических ограничений ОЗУ.
Технология разрабатывается совместно с Intel и оптимизирована для платформ AI PC, работающих на процессорах Intel Core Ultra. Она также интегрирует поддержку OpenVINO toolkit, позволяя разработчикам и независимым поставщикам программного обеспечения более эффективно оценивать и развертывать рабочие нагрузки AI на локальных устройствах.
Руководители обеих компаний подчеркнули, что ИИ-ПК развиваются в системы, способные запускать все более сложные агентные приложения и модели смешения экспертов, что предъявляет более высокие требования к памяти и отзывчивости. КС Пуа, генеральный директор и основатель компании Phison Electronics, заявил, что цель заключается в том, чтобы позволить OEM, разработчикам и конечным пользователям запускать более крупные ИИ-модели локально, сохраняя конфиденциальность и снижая затраты на инфраструктуру.
На Computex ожидают, что Phison продемонстрирует системы с поддержкой aiDAPTIV, работающие на платформах Intel AI PC. Эти демонстрации включат локальный интерфейс чата, работающий на основе MoE-модели, которая обычно превышает пределы системной памяти, показывая, как технология расширяет используемую AI-память без необходимости в дополнительной DRAM.
Компания также представит гибридное приложение для маршрутизации на основе искусственного интеллекта, построенное на OpenClaw, демонстрируя, как локальные модели могут быть объединены с облачными сервисами при необходимости для выполнения более сложных задач. Дополнительные демонстрации включат партнеров экосистемы, такие как Ollama, LLMWare, TurinTech AI, а также аппаратных партнеров, включая ASUS, MSI и Acer.
Отраслевые партнеры, участвующие в экосистеме, подчеркнули важность эффективности памяти для локального развертывания ИИ. Содействующий основателю Ollama Майкл Чжан отметил, что ограничения памяти остаются основным препятствием для запуска более крупных моделей на потребительском оборудовании, в то время как LLMWare подчеркнул растущий спрос на корпоративные рабочие процессы на устройстве, такие как генерация с дополнением поиска и специализированные агенты. TurinTech AI добавил, что сочетание инструментов оптимизации ИИ с улучшенной архитектурой памяти может помочь перенести больше практических рабочих нагрузок ИИ непосредственно на ПК.
Лидерство Intel в области клиентских вычислений также подчеркнуло, что пользователи и бизнесы всё чаще хотят более быстрых и приватных ИИ-опытов без чрезмерной зависимости от облачной инфраструктуры. Сотрудничество с Phison направлено на возможность запуска более крупных моделей локально с более простыми системными настройками, что повышает как эффективность затрат, так и приватность данных.
В целом, aiDAPTIV позиционирует себя как мост между ограничениями аппаратного обеспечения и растущими требованиями современных рабочих нагрузок ИИ, особенно по мере того, как ПК превращаются в полноценные платформы для вычислений ИИ.