С 19 октября в совместном университете МГУ-ППИ в Шэньчжэне проходит третья школа-конференция по тензорным методам в математике и искусственном интеллекте. Само название звучит довольно сурово, но задача у этой математики вполне практическая.
Тензор можно представить как многомерную таблицу. Фотография содержит координаты изображения и цвет, видео добавляет ещё и время, а в современных нейросетях количество связанных измерений становится значительно больше.
Чем крупнее модель, тем больше таких данных приходится хранить и обрабатывать.
Тензорные разложения позволяют искать внутри огромного массива повторяющиеся структуры и описывать его через набор значительно меньших компонентов. Если удаётся сделать это без существенной потери информации, модель занимает меньше памяти и требует меньше вычислений.
Именно поэтому тензорные методы всё чаще применяют для сжатия нейросетей.
В исследованиях 2026 года с их помощью удавалось, например, уменьшить одну из моделей компьютерного зрения в восемь раз при сравнительно небольшой потере точности. Другие команды используют похожие подходы для языковых моделей и архитектур Mixture-of-Experts, где значительная часть параметров может дублировать друг друга.
Школа в Шэньчжэне посвящена новым алгоритмам тензорного разложения, оптимизации, обработке шумных данных и применению компактных представлений в искусственном интеллекте и связи. Конференционная часть начнётся 26 октября, поэтому конкретные новые результаты участники ещё только представят. Но направление интересно уже сейчас.
Последние годы развитие ИИ во многом шло по принципу: больше данных, больше параметров, больше вычислительных мощностей.
Теперь рядом всё заметнее появляется другой вопрос: можно ли сначала внимательно посмотреть внутрь огромной модели и понять, что из всего этого действительно нужно хранить?
Иногда следующий шаг вперёд начинается не с того, чтобы сделать больше. А с того, чтобы научиться складывать большое в маленькое.
