TechCrunch · AI · 3 ч назад
Multiverse Computing продвигает свои сжатые модели искусственного интеллекта в мейнстрим
После сжатия моделей из крупнейших лабораторий искусственного интеллекта, включая OpenAI, Meta, DeepSeek и Mistral AI, Multiverse Computing запустила как приложение, демонстрирующее возможности сжатых моделей, так и API, который делает их более широко доступными.
Подробности
Учитывая, что уровень дефолтов частных компаний превышает 9,2% — самый высокий показатель за последние годы, — венчурная фирма Lux Capital недавно посоветовала компаниям, полагающимся на ИИ, получить письменное подтверждение своих обязательств по вычислительным мощностям. Люкс предупредил, что в условиях финансовой нестабильности, охватывающей цепочку поставок ИИ, одного рукопожатия недостаточно.
Но есть и другой вариант: вообще перестать полагаться на внешнюю вычислительную инфраструктуру. Меньшие модели ИИ, которые работают непосредственно на собственном устройстве пользователя — без центра обработки данных, без облачного провайдера, без риска контрагента — становятся достаточно хорошими, чтобы их можно было рассмотреть. И Multiverse Computing поднимает руку.
Испанский стартап до сих пор вел себя менее заметно, чем некоторые его коллеги, но по мере роста спроса на эффективность ИИ ситуация меняется. После сжатия моделей из крупнейших лабораторий искусственного интеллекта, включая OpenAI, Meta, DeepSeek и Mistral AI, компания запустила как приложение, демонстрирующее возможности сжатых моделей, так и портал API — шлюз, который позволяет разработчикам получать доступ к этим моделям и создавать их с их помощью — что делает их более широко доступными.
Приложение CompactifAI, название которого совпадает с названием квантовой технологии сжатия Multiverse, представляет собой инструмент чата с искусственным интеллектом, аналогичный ChatGPT или Le Chat от Mistral. Задайте вопрос, и модель ответит. Разница в том, что в Multiverse встроена Gilda, модель настолько маленькая, что, по словам компании, она может работать как локально, так и в автономном режиме.
Для конечных пользователей это ИИ на периферии, данные которого не покидают их устройств и не требуют подключения. Но есть одна оговорка: их мобильные устройства должны иметь достаточно оперативной памяти и хранилища. Если они этого не делают — а многие старые iPhone этого не делают — приложение переключается обратно на облачные модели через API. Маршрутизация между локальной и облачной обработкой осуществляется автоматически системой Multiverse, названной Эшем Назгом, чье имя напомнит фанатам Толкина, поскольку оно отсылает к надписи One Ring из «Властелина колец». Но когда приложение перенаправляется в облако, оно теряет главное преимущество конфиденциальности.