GraphAI начинает использовать методику MURMUR (2022)
В процессе разработки GraphAI возникла проблема, которая первоначально не была основной задачей проекта: каким образом декодировать уже построенный граф и получать из него не отдельную ассоциацию или наиболее частый связанный узел, а понятие, соответствующее структуре графа. При изучении существующих подходов к работе со структурированными данными обнаружилось, что близкая по архитектурному принципу задача рассматривалась в работе MURMUR — Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation, опубликованной в 2022 году Swarnadeep Saha, Xinyan Yu, Mohit Bansal, Ramakanth Pasunuru и Asli Celikyilmaz.
MURMUR представляет интерес прежде всего своей организацией процесса рассуждения. Вместо непосредственного преобразования входной структуры в конечный результат система разбивает обработку на последовательность отдельных операций. Для этого используются модули, определяющие конкретные действия над данными, правила допустимой последовательности этих действий, функция оценки промежуточных состояний и поиск наиболее перспективного пути. Таким образом, система рассматривает получение результата не как единовременную генерацию, а как поиск последовательности преобразований исходного состояния. Работа была опубликована как препринт в 2022 году и позднее вошла в Findings of ACL 2023. Одним из рассматриваемых направлений было преобразование структурированных и полу-структурированных данных в текст.
История GraphAI складывалась иначе. Изначально задача проекта заключалась в построении собственного графового представления на основе текста. По мере развития графа в нём появились узлы, связи, parents, child, уровни и частоты. Изменялся не только объём графа, но и принципы его построения. В результате возникла следующая задача: если граф уже содержит определённую структуру, каким образом восстановить из неё смысл?
Первые варианты декодирования основывались преимущественно на поиске связанных узлов, переходах между уровнями и сравнении различных элементов графа. Однако такой подход постепенно показал свои ограничения. Простого поиска соседнего узла недостаточно, если структура графа допускает несколько вариантов интерпретации. Например, конструкция, в которой один узел связывает два других, может иметь более общий структурный элемент. Его использование не обязательно означает простую замену одного узла другим: изменение одного элемента может потребовать соответствующего преобразования всей конструкции. Поэтому декодирование начинает рассматриваться как последовательность операций над графовой структурой.
Именно здесь методика MURMUR представляет интерес для GraphAI. Речь не идёт о переносе исходного кода MURMUR или о создании копии этой архитектуры. Переносится общий принцип организации поиска. Текущее состояние графа рассматривается как исходное состояние декодера, после чего формируется набор допустимых операций. Каждая операция создаёт новое состояние, которое можно проверить с точки зрения структуры графа и сравнить с другими кандидатами. Затем выбирается наиболее перспективное состояние и процесс продолжается.
Такой подход меняет саму постановку задачи. Вместо вопроса «какой узел является ближайшим к данному?» возникает вопрос «какие операции допустимы над данной структурой и к каким состояниям они приводят?». Это позволяет рассматривать декодер не как механизм простого обхода графа, а как механизм поиска по пространству возможных преобразований.
При этом между MURMUR и GraphAI существует принципиальное различие. MURMUR рассматривает задачу преобразования уже существующей полу-структурированной информации в текст и использует многошаговое рассуждение для управления этим процессом. GraphAI развивается в противоположном направлении: текст используется для построения собственного графового представления, после чего возникает необходимость декодировать созданную структуру и восстановить из неё понятие.
В процессе разработки GraphAI возникла проблема, которая первоначально не была основной задачей проекта: каким образом декодировать уже построенный граф и получать из него не отдельную ассоциацию или наиболее частый связанный узел, а понятие, соответствующее структуре графа. При изучении существующих подходов к работе со структурированными данными обнаружилось, что близкая по архитектурному принципу задача рассматривалась в работе MURMUR — Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation, опубликованной в 2022 году Swarnadeep Saha, Xinyan Yu, Mohit Bansal, Ramakanth Pasunuru и Asli Celikyilmaz.
MURMUR представляет интерес прежде всего своей организацией процесса рассуждения. Вместо непосредственного преобразования входной структуры в конечный результат система разбивает обработку на последовательность отдельных операций. Для этого используются модули, определяющие конкретные действия над данными, правила допустимой последовательности этих действий, функция оценки промежуточных состояний и поиск наиболее перспективного пути. Таким образом, система рассматривает получение результата не как единовременную генерацию, а как поиск последовательности преобразований исходного состояния. Работа была опубликована как препринт в 2022 году и позднее вошла в Findings of ACL 2023. Одним из рассматриваемых направлений было преобразование структурированных и полу-структурированных данных в текст.
История GraphAI складывалась иначе. Изначально задача проекта заключалась в построении собственного графового представления на основе текста. По мере развития графа в нём появились узлы, связи, parents, child, уровни и частоты. Изменялся не только объём графа, но и принципы его построения. В результате возникла следующая задача: если граф уже содержит определённую структуру, каким образом восстановить из неё смысл?
Первые варианты декодирования основывались преимущественно на поиске связанных узлов, переходах между уровнями и сравнении различных элементов графа. Однако такой подход постепенно показал свои ограничения. Простого поиска соседнего узла недостаточно, если структура графа допускает несколько вариантов интерпретации. Например, конструкция, в которой один узел связывает два других, может иметь более общий структурный элемент. Его использование не обязательно означает простую замену одного узла другим: изменение одного элемента может потребовать соответствующего преобразования всей конструкции. Поэтому декодирование начинает рассматриваться как последовательность операций над графовой структурой.
Именно здесь методика MURMUR представляет интерес для GraphAI. Речь не идёт о переносе исходного кода MURMUR или о создании копии этой архитектуры. Переносится общий принцип организации поиска. Текущее состояние графа рассматривается как исходное состояние декодера, после чего формируется набор допустимых операций. Каждая операция создаёт новое состояние, которое можно проверить с точки зрения структуры графа и сравнить с другими кандидатами. Затем выбирается наиболее перспективное состояние и процесс продолжается.
Такой подход меняет саму постановку задачи. Вместо вопроса «какой узел является ближайшим к данному?» возникает вопрос «какие операции допустимы над данной структурой и к каким состояниям они приводят?». Это позволяет рассматривать декодер не как механизм простого обхода графа, а как механизм поиска по пространству возможных преобразований.
При этом между MURMUR и GraphAI существует принципиальное различие. MURMUR рассматривает задачу преобразования уже существующей полу-структурированной информации в текст и использует многошаговое рассуждение для управления этим процессом. GraphAI развивается в противоположном направлении: текст используется для построения собственного графового представления, после чего возникает необходимость декодировать созданную структуру и восстановить из неё понятие.
Просмотры: 2