А.В.Гаврилов

Новосибирский государственный технический университет, кафедра вычислительной техники, ул. Немировича-Данченко,

136, Новосибирск, Россия, 630087, email: avg@vt.cs.nstu.ru

ВВЕДЕНИЕ.

Реализация диалога с компьютером на естественном языке (ЕЯ) является одной из главных проблем, решаемых в разделе информатики, называемой обычно “Искусственный интеллект”. Недаром тест Тьюринга, целью которого является оценка “качества” искусственной интеллектуальной системы, базируется на диалоге с компьютером.

Главной же проблемой при создании диалоговых систем с использованием ЕЯ является проблема распознавания смысла (семантики) предложений ЕЯ. Кроме того, решение этой проблемы актуально и для решения чисто прикладных задач, таких как

• обработка документов (поиск по смыслу, реферирование, рубрикация),
• разработка поисковых серверов для поиска информации в Internet с использованием запросов на естественном языке,
• разработка средств для обработки запросов на естественном языке к базам данных,
• разработка средств тестирования знаний с использованием вопросов с открытым ответом, в частности, в системах дистанционного образования.

Решением проблемы формализации и распознавания смысла предложений на естественном языке занимаются давно с переменным успехом и зарубежные и отечественные исследователи [1-12].

Однако до сих пор нет достаточно полной модели представления знаний, содержащихся в предложении на ЕЯ, и эффективных принципов и алгоритмов обработки текстов на ЕЯ, объединяющих в себе достоинства методов инженерии знаний (например, семантических сетей) и преимущества нейронных сетей.

В статье делается попытка предложить такую модель и такие принципы и алгоритмы.

МОДЕЛЬ ЗНАНИЙ

В основе представления и распознавания смысла ЕЯ положены следующие основные принципы:

• ориентация на распознавание семантики с минимальным использованием знаний о синтаксисе языка,
• формирование иерархических структур из понятий, как результат обработки предложений ЕЯ, с горизонтальными (ассоциативными) связями между узлами этих иерархических структур,
• распознавание слов и словосочетаний по максимальной похожести с использованием нейроподобных алгоритмов.

Первый их этих принципов (семантически-ориентированный анализ) был сформулирован и активно развивался в работах Нариньяни и Файна. Последние два принципа были сформулированы автором настоящей статьи и использованы им при создании системы программирования роботов на естественном языке [13-14].

На рисунке показана функциональная структура системы обработки запросов к документам по их содержанию.

Условно в базе знаний можно выделить постоянную часть, описывающую предметную область, и переменную часть, описывающую содержимое документов.

Переменная часть формируется в результате обработки документов под управлением постоянной части.

С фреймом может ассоциироваться высказывание или набор высказываний с одинаковым смыслом, а также, слово из словаря или документ. Соответственно, одной из характеристик фрейма является его уровень в сети:

0 – фрейм, связанный непосредственно со словом или документом (фрейм-слово или фрейм-документ),

1 – фрейм, с которым ассоциируется словосочетание (составной фрейм),

2 – фрейм-понятие, включающее в себя ссылки на нескольких других фреймов, играющих определенные роли в этом понятии,

3 – фрейм-рубрика, описывающий понятие, которое является “описанием” (ссылкой, классом)) всех понятий и документов, связанные с этой рубрикой,

Особая разновидность фреймов уровня 0 – фреймы для связи с процедурами, используемыми при анализе предложений ЕЯ. Такие фреймы содержат знак препинания или слово, которое обрабатывается особым образом (например, слово - “не”, а знаки препинания – тире, двоеточие, запятая, и точка с запятой).

Фрейм состоит из слотов. Каждый слот – это его имя и значение.

Значением слота является ссылка на другой фрейм, на слово в словаре или на документ.

Во фрейме существуют (но не все из них используются в конкретном фрейме) следующие слоты:

• Parent – ссылка на фрейм-родитель или класс,
• Owmer – список ссылок на фреймы-понятия или составные фреймы, в состав которых входит данный фрейм,
• Obj – объект, участвующий в понятии,
• Subject – субъект (или главный объект), участвующий в понятии,
• Act – действие, участвующее в понятии,
• Prop – свойство, участвующее в понятии,
• Equal – список понятий-синонимов, ассоциативно связанных с понятием, описанным в данном фрейме,
• UnEqual – список понятий-антонимов, ассоциативно связанных с понятием, описанным в данном фрейме,
• Place – место действия,
• Time – время действия,
• Include – список ссылок на фреймы, включенные в данное понятие (являющиеся его составной частью),

В системе используется два словаря:

• базовый, в котором хранятся слова с их ролями (сущность, действие или свойство, другими словами – существительное, глагол или прилагательное,
• пополняемый (динамический) словарь, включающий в себя слова, не распознанные в базовом словаре, т.е. либо отсутствующие в нем (например, имена собственные) либо присутствующие в предложении в слишком искаженном виде или в другой форме, сильно отличающейся от формы в словаре.

Кроме того, некоторые слова (назовем их специальными) из этих двух словарей могут быть связаны (отождествлены) с символами-разделителями (пробел, тире, запятая). Они заменяются на соответствующие знаки при предварительной обработке предложения. Это позволяет фильтровать ненужные с точки зрения анализа смысла (отождествляя их с пробелами) и структурировать длинные словосочетания и процесс их анализа путем замены таких слов как “и” или “или” на запятые, “это” или “равно” - на тире, “состоит” – на двоеточие и т.п.

АЛГОРИТМЫ

Обработка предложения в режиме обучения состоит из следующих этапов:

1. выделение слов (используя знаки препинания и пробелы),
2. распознавание слов по максимальной похожести со словами в словаре, при этом если подходящее слово не находится в основном словаре, происходит его поиск в пополняемом словаре, и, если и там его нет, происходит его добавление в этот словарь.
3. создание фреймов, связанных с распознанными словами и знаками препинания (уровня 0), результатом распознавания предложения является объект-предложение, описывающий предложение и представляющий собой список фреймов
4. замена в этом объекте специальных слов знаками-разделителями,
5. обработка объекта-предложения процедурой распознавания-порождения фреймов.

Процедура распознавания-порождения фреймов рекурсивно обрабатывает объект-предложение, заменяя словосочетания между знаками препинания на распознанные в базе знаний или вновь созданные фреймы. В конце обработки этой процедурой список фреймов в объекте-предложении включает только один или два фрейма (в последнем случае в предложении присутствовал хотя бы один знак препинания "-" или двоеточие).

Фрейм-понятие создается по атрибутам в распознанных словах (это возможно при наличии, троек “субъект”-“действие”-“объект” или “объект-действие-объект” (в последнем случае во фрейме-понятии первый объект объявляется субъектом) или пар “объект”-“свойство”, “объект-действие”.

Фрейм-понятие или составной фрейм создаются только, если соответствующий фрейм не найден в базе знаний (операции 6 и 7).

Если тире в предложении нет, создается составной фрейм из всех фреймов предложения. Последний созданный или распознанный фрейм запоминается как контекст. Если предложение начинается с тире, фрейм, соответствующий ему (распознанный или созданный) связявается связью Equal с фреймом-контекстом.

При создании составного фрейма или фрейма-понятия создается фрейм-документ и связь типа equal между ним и созданным фреймом.

При обработке фрейма-действия со словом “не” происходит инверсия следующего за ним фрейма-слова или в случае, если “не” встретилось в начале предложения или сразу после тире, происходит инверсия соответствующего составного фрейма или фрейма-понятия.

Фрейм-рубрика должен задаваться перед обработкой документа.

1. выделение слов (используя знаки препинания и пробелы),
2. распознавание типа предложения по последнему знаку препинания: точка – повествовательное, ! – восклицательное, ? – вопросительное (результат распознавания пока не используется),
3. распознавание слов по максимальной похожести со словами в словаре, при этом если подходящее слово не находится в базовом словаре, происходит его поиск в пополняемом словаре, и, если и там его нет, происходит его добавление в этот словарь. В последнем случае система задает вопрос “что такое <введенное новое слово>?” для уточнения его смысла и увязывания его с другими словами или понятиями. Ответ пользователя обрабатывается в режиме обучения.
4. создание фреймов, связанных с распознанными словами и знаками препинания (уровня 0), результатом распознавания предложения является объект-предложение со списком фреймов,
5. распознавание фреймов уровня 1 – словосочетаний в базе знаний, максимально похожих на распознанный запрос (фразу) и фреймов-понятий уровня 2 (здесь используется нейросетевой алгоритм, т.е. взвешенное суммирование сигналов от входящих во фрейм слов или фреймов и сравнение с порогом),
6. поиск ассоциативно связанных ссылками Equal с распознанными фразами фреймов (уровня 0), связанных с документами,
7. поиск фреймов-документов из найденных фреймов по связям типа include, act, obj, subject, prop сверху вниз, при этом, если документов очень много, система выдает сообщение с просьбой переформулировать запрос.
8. вывод найденных имен документов или слов, входящих в состав найденных фреймов.

Фреймы-рубрики (уровня 3) планируется использовать для сокращения количества найденных фреймов. При этом выбираются для последующих операций только те фреймы, которые связаны через ссылку Parent с соответствующим фреймом-рубрикой, или у которых эта ссылка не определена. Фрейм-рубрика может задаваться в программе поиска в меню выбора рубрики или при нахождении соответствующего слова (словосочетания) в распознаваемом предложении-запросе.

ОБУЧЕНИЕ ПРОГРАММЫ СЕМАНТИЧЕСКОГО ПОИСКА

1. Первоначальное обучение распознаванию структуры предложения заданием предложений в виде <слово> - @<символ>. После этого программа будет перед обработкой предложения при последующем обучении заменять заданное слово на заданный символ-разделитель. В качестве символа-разделителя могут быть пробел, тире, двоеточие, запятая, точка с запятой. Пробел означает, что данное слово будет исключаться из анализа семантики предложения. При этом обучении создается словарь специальных слов.
2. Начальное обучение. При этом задаются основные понятия из житейской практики или предметной области в виде предложений типа “деньги – средство платежа”, “мораль – правила поведения”, “виды деятельности : торговля, производство, услуги” и т.п.
3. Базовое обучение. При этом программе “скармливается” толковый словарь предметной области, где объясняются понятия в предложениях вида <понятие> - <объяснение, что это или для чего, какие бывают и т.п.>.
4. Информационное наполнение. При этом программе скармливаются документы, в которых она должна искать ссылки при обработке запросов.

Этапы 1-3 необходимы для лучшей структуризации базы знаний и обеспечения достаточно большого процента распознаваемых понятий при обработке документов на этапе 4. Иначе, при обработке запроса программа часто будет не находить в запросе какого-либо известного ей понятия, выполнять поиск по словам, входящим в запрос.

После каждого этапа можно сохранять полученную базу знаний и для продолжения обучения загружать сохраненную ранее.

ЗАКЛЮЧЕНИЕ

• Программы для создания и отладки базы знаний о содержимом документов,
• Программы для поиска документов по смыслу конечным пользователем.

Запрос: “Разработчики экспертных систем”.

Возможные варианты содержимого документов, удовлетворяющих данному запросу.

Содержимое документа 1: “Наши разработки: … экспертная оболочка ESWin”

Содержание документа 2: “Наша фирма разработала советующую систему на основе базе знаний …”

Содержание документа 3: “Вы можете заказать у нас разработку экспертной системы для …”

Содержание документа 4: “Фирма занимается разработкой программного обеспечения….. Наши продукты - …..инструментальная экспертная система ESWin”

Содержание документа 5: “Наши продукты…. Программа экономического анализа D … знания о рынке представлены в виде семантической сети (или правил, фреймов и т.п.)….”.

1. экспертная система - советующая система,
2. методы представления знаний в экспертных системах: фреймы, семантические сети, правила, лингвистические переменные.
3. Экспертная оболочка это инструмент для создания и отладки экспертных систем.

• толковый словарь по экономике (880 Кб),
• гражданский кодекс (550 Кб),
• уголовный кодекс (360 Кб),
• набор документов, регулирующих авторские права (80 Кб),
• правила дорожного движения (70 Кб),
• набор файлов со статьями из газеты "Коммерсант" (100Кб),
• набор файлов со статьями о нейронных сетях (около 100 Кб).

Созданная БЗ на носителе занимала около 8Мб (в текстовом виде) и содержала 87513 фреймов и 14715 слов в пополняемом словаре. Обработка в режиме обучения всех этих документов на указанном компьютере заняла около часа времени.

Предварительные испытания показали, что предложенные принципы и алгоритмы позволили построить систему, осуществляющую поиск документов и их фрагментов в ответ на запрос на естественном языке с довольно не тривиальными результатами. В найденных фрагментах могли отсутствовать слова запроса. Причем качество ответов сильно зависит от качества обучающего материала на этапах 1, 2 и 3 (см. выше).

Результаты испытаний позволили наметить пути дальнейшего усовершенствования предложенной архитектуры:

• ввести обработки типовых вопросов о содержимом базы знаний, отражающей содержание документов,
• ввести средства синтеза ответов на естественном языке, используя фреймовое описание понятий,
• использование какой-либо объектно-ориентированной СУБД для хранения базы знаний, например, СУБД ESF, разработанной компанией NooLab [15].

Планируется использовать разработанную архитектуру при построении ПО для поддержки работы с документами.

ЛИТЕРАТУРА