9 ноября специалисты MIT и Нью-Йоркского университета представили FLEX — экспериментальную технологию обучения роботов, позволяющую интерпретировать не только буквальное содержание команд, но и стоящие за ними намерения.
Обычно роботам требуются достаточно точные инструкции. Если машине велели обходить чашку, это ещё не означает, что она самостоятельно решит беречь другие хрупкие предметы.
Разработчики FLEX предложили иной подход. Система использует большую языковую модель GPT-4o, которая помогает роботу выделять общие закономерности из человеческих замечаний. Например, предупреждение о ноутбуке превращается в более широкое правило: жидкости не должны попадать на электронные устройства.
При этом технология не просто накапливает всё новые запреты. Её работа состоит из трёх этапов. Сначала робот добавляет в свою модель окружающего мира объект, на который обратил внимание человек. Затем обобщает правило на сходные предметы. Наконец, исключает из списка ограничения, потерявшие актуальность.
Последнее особенно важно. Представим, что робот запомнил десятки указаний, но часть предметов давно убрали со стола. Бесконечное накопление запретов только мешало бы ему выполнять задачу. На обновление правил системе требуется около пяти секунд.
Исследователи испытали FLEX в виртуальной среде на трёх задачах: перемещении чашки кофе, горящей свечи и шара для боулинга. В первом случае робот научился учитывать опасность жидкости для электроники, во втором — избегать легковоспламеняющихся предметов, в третьем — беречь хрупкие вещи.
В пользовательском эксперименте участвовали 12 человек. Участники давали роботу замечания обычным языком, а исследователи сравнивали результаты с другими методами обучения. FLEX продемонстрировала более успешное распознавание намерений пользователя и большую устойчивость к нежелательным последствиям действий.
Однако пока речь идёт преимущественно о симуляциях. Исследователи также использовали демонстрации, записанные на физическом роботе, но это ещё не означает, что готовый домашний помощник способен безопасно действовать в настоящей квартире.
Самое интересное в разработке — изменение подхода к взаимодействию человека и техники.
Вместо того чтобы заставлять людей изучать специальный язык команд, учёные пытаются научить машины ориентироваться в естественной человеческой речи.
Возможно, робот станет по-настоящему удобным помощником не тогда, когда научится безошибочно выполнять каждую инструкцию, а когда перестанет нуждаться в инструкции по каждому пустяку.
