ArticlePDF Available

Контекстно зависимый способ поиска нечетких дубликатов в реляционных базах данных Context-Dependent N-Gram Method for Detecting Fuzzy Duplicates in Relational Databases

Authors:
Article

Контекстно зависимый способ поиска нечетких дубликатов в реляционных базах данных Context-Dependent N-Gram Method for Detecting Fuzzy Duplicates in Relational Databases

Abstract

Purpose: One of the indicators of poor data quality is data duplication which can lead to a misinterpretation of the same object as several different ones. The relational data model and industrial relational databases can exclude full data duplication, but miss mechanisms which would recognize and prevent fuzzy duplicates. The objective of this work is finding such a way of detecting fuzzy duplicates that could be implemented in the relational data model and in an industrial relational DBMS. Results: The fuzzy duplication problem was discussed, common for all information systems. Methods were proposed to enter semantic duplicates into a relational database. It was found out that to solve the problem of imcompleteduplication, we should use fuzzy string comparison methods, taking into account the semantics of the strings. A real-life implementation example was given for PostgreSQL DBMS. Practical relevance: The developed method can automatically detect fuzzy duplicates without any human interference, improving the information system data quality. An example of practical implementation for an industrial DBMS can help to immediately use this method in the engineering of information systems. The authors have already used this method for automated information system design.
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
76
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
УДК 004.6
doi:10.15217/issn1684-8853.2015.2.76
КОНТЕКСТНО ЗАВИСИМЫЙ СПОСОБ ПОИСКА
НЕЧЕТКИХ ДУБЛИКАТОВ В РЕЛЯЦИОННЫХ БАЗАХ ДАННЫХ
С. В. Тарасов
а
, ведущий инженер исследований и разработки
В. В. Бураков
б
, доктор техн. наук, профессор
а
Компания Bel Air Informatique, Courtaboeuf Cedex, Франция
б
Санкт-Петербургский государственный университет аэрокосмического приборостроения,
Санкт-Петербург, РФ
Постановка проблемы: одной из важных проблем в области управления данными является их неполное (нечеткое)
дублирование, ведущее к снижению качества, в частности к ошибочной интерпретации информационной системой
одного и того же объекта как нескольких разных. Реляционная модель данных, а также промышленные СУБД на осно-
ве реляционной модели, позволяют исключить ситуации полного дублирования данных, но не имеют механизмов для
распознавания и предотвращения появления нечетких дубликатов. Целью работы является разработка такого способа
обнаружения нечетких дубликатов, который мог бы быть реализован в реляционной модели данных и промышленной
реляционной СУБД. Результаты: рассмотрена общая для информационных систем проблема нечеткого дублирования,
предложены пути внесения смысловой дублирующей информации в реляционную базу данных. Определено, что для
решения проблемы неполного дублирования следует использовать механизмы нечеткого сравнения строк с учетом их
семантики. Приведен пример практической реализации способа для СУБД PostgreSQL с использованием реляционных
механизмов обработки данных. Практическая значимость: разработанный способ позволяет автоматически обнару-
живать дубликаты, исключив вмешательство человека-оператора, и тем самым повысить качество данных информаци-
онной системы. Пример практической реализации для промышленной СУБД позволяет непосредственно использовать
предложенный способ в инженерной практике разработки информационных систем. Данный способ также был исполь-
зован авторами при разработке коммерческой автоматизированной информационной системы.
Ключевые слова нечеткие дубликаты, смысловые дубликаты, метод n-грамм, реляционная база данных, очист-
ка данных, качество
данных .
Введение
Стандарт [1] определяет качество данных как
уровень совокупности присущих объекту харак-
теристик, отвечающий установленным требова-
ниям. «Присущий» в противовес «присвоенному»
означает существующий в чем-то как постоянная
характеристика объекта. Термин «качество» мо-
жет применяться с такими прилагательными,
как низкий, плохой, годный, хороший и превос-
ходный.
Предлагаемые стандартом оценки уровня каче-
ства, таким образом, являются нечеткими («низ-
кий», «годный») и зависят от субъективной оцен-
ки данных потребителями. Возникает необхо-
димость вводить в процесс обеспечения качества
данных объективные показатели, позволяющие
производить независимые оценки и сравнения.
Одним из показателей низкого качества дан-
ных является их дублирование, ведущее в ито-
ге к ошибочной интерпретации одного и того же
объекта как нескольких разных. Можно выде-
лить два основных типа дублирования атрибу-
тов: имеющих жестко заданную структуру (фор-
мат) содержания и не имеющих таковой, т. е. не-
полно структурированных.
В первом случае примером могут служить раз-
личные коды классификаторов или используе-
мые в качестве ключевых атрибутов поиска иден-
тификаторы, такие как номера телефонов, ИНН
и т. п. Проблема решается стандартным ограни-
чением уникальности значения атрибута в со-
ответствующей колонке таблицы: поиск дубли-
катов производится системой управления базой
данных (СУБД) по точному совпадению значения.
Во втором случае речь идет о разнообразных
именах собственных и названиях, используемых
для идентификации, таких как антропонимы, то-
понимы, названия предприятий, медикаментов,
почтовые адреса и т. д. Не представляется воз-
можным использовать стандартные ограничения
целостности, предоставляемые реляционной мо-
делью и соответствующими СУБД. Также прак-
тически невозможно использовать словари-спра-
вочники данных по следующим причинам [2]:
на текущий момент существует огромное
число подобных имен;
— непрерывно порождаются новые имена .
Размер географического справочника адресов
для международной рассылки будет исчислять-
ся многими миллионами записей, требующих
регулярной поддержки в актуальном состоянии.
Структурирование антропонима в общем случае
невозможно, так как количество и порядок со-
ставляющих полного имени человека может за-
висеть не только от культуры страны происхож-
дения и степени псевдонимизации, но и от обще-
ственного статуса.
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
77
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
Для решения вышеназванных проблем был
разработан подход, целями которого являлись:
использование особенностей реляционной
модели;
введение в рассмотрение объективных чис-
ленных характеристик качества информации по
критерию ее дублирования;
описание ключевых этапов процесса по обе-
спечению качества на основе введенных характе-
ристик.
Метод n-грамм
и нечеткое сравнение строк
Задача поиска дубликатов может быть реше-
на при помощи алгоритмов нечеткого сравнения
строк. Известные способы вычисления дистан-
ции, такие как EDIT
1
или LCS
2
, имеют существен-
ный недостаток: они нечувствительны к контексту
[3, 4]. Например, LCS для пар названий лекарств
«cardura – benadrol» и «osmitrol — benadrol» дает
одинаковое значение, равное 3.
Применение метода n-грамм [2, 3, 5, 6] в со-
четании с коэффициентом Дайса
3
дает лучшие
результаты при сравнении отдельных слов и про-
стых словосочетаний. Коэффициент вычисляет-
ся следующим образом [3]:
dice(X, Y) = 2 (|n-grams(X)
n-grams(Y)|)/(|n-grams(X)| + |n-grams(Y)|).
Здесь X, Y — строки; n-grams(X) — множество
грамм строки X; |n-grams(X)| — мощность мно-
жества.
Для тех же самых пар названий лекарств из
примера LCS при разбиении на триграммы коэф-
фициент будет равен нулю в первом случае и 0,17
во втором.
Но при сравнении предложений и фраз начина-
ют проявляться смысловые ошибки. Например,
если информация о контактном лице сравнивает-
ся в виде строк (табл. 1), то общий коэффициент
схожести может быть высоким, тогда как по не-
которым смысловым единицам фразы схожесть
низкая.
Метод n-грамм предлагает решать эту проблему
использованием вероятностей появлений грамм
в соответствующих позициях фразы. Однако
определение таблиц таких вероятностей не только
представляет собой объемный труд, но и является
зависимым от естественного языка [2, 5, 6].
1
Дистанция редактирования; другое название —
дистанция Левенштейна.
2
От англ. longest common subsequence — нахожде-
ние длины наибольшей общей подпоследовательности
(подстроки).
3
От англ. Dice coefficient или Sørensen — Dice
index в соответствии с именами ученых; коэффициент
схожести двух образцов.
В рамках реляционной базы данных инфор-
мация уже структурирована в соответствии не
только с языковыми особенностями, но, в пер-
вую очередь, со спецификой предметной области.
Каждый объект, кроме своего первичного ключа,
может иметь несколько составных ключей-иден-
тификаторов, состоящих в том числе из текстовых
атрибутов. Тогда интегральная оценка схожести
составных идентификаторов объектов в базе дан-
ных может проводиться с учетом смыслового веса
значений входящих в них отдельных атрибутов.
Пусть идентификатор I
k
состоит из атрибутов
А
k1
, А
k2
, ..., А
kn
. Введем для каждого атрибута его
смысловой вес w
j1
, w
j2
,, w
jn
в диапазоне (0..1].
Очевидно, w
i
> 0, иначе атрибут A
i
исключается
из рассмотрения.
Тогда взвешенная схожесть simw двух иденти-
фикаторов I
k1
и I
k2
вычисляется по формуле
()
12 1 2 1
1
sim dice() , /.(,)
N
kk i i i
i
wI I A A w N
=
=
å
Порядок необходимых действий для поиска
дубликатов будет следующим.
1. Определение атрибутов, идентифицирую-
щих объект.
2. Определение весовых коэффициентов для
атрибутов в составе идентификатора.
3. Вычисление взвешенной схожести всех пар
идентификаторов. Данный показатель будет ле-
жать в интервале [0..1], где 0 — полное несовпаде-
ние, 1 — полное совпадение.
4. Экспериментальным путем для тестово-
го массива данных определяется нижний порог
взвешенной схожести, за которым количество
ошибок распознавания дубликатов становится
неприемлемым. Назовем это значение порогом
автоматической обработки и обозначим как П
а
.
Таблица 1. Пример ошибки нахождения дублика-
та без учета семантики
Сравнение Строка 1 Строка 2 Схожесть
Контактное
лицо (фраза
целиком)
«Иванов и
партнеры»,
В. И. Петров,
Энск,
ул. Строи-
телей 14
«Петров и
партнеры»,
И. В. Иванов,
Энск,
ул. Строи-
телей 14
0,91
Атрибуты
контактного
лица (состав-
ной ключ)
Иванов
и партнеры
Петров и
партнеры
0,73
В. И. Петров И. В. Иванов 0,3
Энск Энск 1
ул. Строи-
телей 14
ул. Строи-
телей 14
1
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
78
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
Особенности применения способа
в автоматизированной
информационной системе
Основными путями внесения и изменения ин-
формации являются:
— непосредственный ввод пользователями;
— импорт данных из внешних источников.
При пользовательском вводе требуется обеспе-
чить минимальное время отклика системы, поэто-
му используемый на этом этапе алгоритм должен
работать не столько точно, сколько предельно бы-
стро. При этом параметр П
а
для данной операции
может быть изменен в соответствии с требованиями
по скорости поиска. Так как система распознавания
не может предоставить 100%-ю точность, пользо-
ватель должен также иметь возможность игнори-
ровать подсказку системы и ввести данные. При
таких условиях в базу данных неизбежно будет по-
падать часть некачественной информации, которая
должна быть обнаружена в дальнейшем. Задачу вы-
явления и устранения дубликатов в информацион-
ной системе можно разбить на три этапа:
1) первичное выявление дубликатов на уровне
ввода информации пользователями и определе-
ние их отклонения, если simw > П
а
;
2) выявление дубликатов путем сравнения и
анализа уже введенных данных в соответствии
с заданным П
а
и автоматическое удаление дубли-
рующей информации, если simw > П
а
;
3) анализ и обработка человеком результатов
п. 2, которые не могут быть обработаны автома-
тически, т. е. simw < П
а
.
Следует упомянуть о недостатке метода n-грамм,
который может оказаться существенным для
СУБД: большой размер производного множества
n-грамм относительно словаря грамм. При задан-
ном количестве символов N для каждой строки
будет сформировано M словарных элементов:
M = LN + 1,
где L — длина строки, L N (при L < N, M = 0
и поиск невозможен).
Максимальное количество элементов словаря
грамм зависит от N и мощности алфавита m, если
считать все комбинации из N букв допустимыми,
и равно соответствующему количеству размеще-
ний с повторениями:
.
AN
m
Nm=
Например, для русского языка при алфавите
из 33 букв количество n-грамм при N = 3 равно
35 937. Однако, как показывает практика, в ре-
альных текстах реализуется не более 25–30 %
n-грамм от общего допустимого их числа [6],
т. е. не более 11 000. Если имеется база данных
на 50 000 абонентов, средняя длина значений
атрибутов составного идентификатора равна
50 символам, то мощность множества триграмм
будет составлять примерно 50 000 · (50 – 3) =
= 2 350 000 элементов. При этом количество уни-
кальных элементов словаря грамм не будет пре-
восходить теоретический максимум в 35 937 или
практический в 11 000. Быстрый поиск по тако-
му множеству при использовании ст андартных
средств реляционной СУБД в виде индексов будет
затруднен, так как избирательность этих индек-
сов мала. Решением проблемы при большом коли-
честве данных для словаря будет увеличение N.
Пример использования метода n-грамм
Рассмотрим пример системы распознавания
дубликатов в списке компаний для открытой и
свободно распространяемой СУБД PostgreSQL 9.
Пусть компания характеризуется следующим
набором атрибутов (табл. 2).
В случае триграмм схема данных реализации
нечеткого поиска компаний в рамках реляцион-
ной модели может выглядеть следующим обра-
зом (рисунок).
Схема данных реализации метода n-грамм для компаний
companies
id_company integer <pk>
name varchar(40)
id_company = id_company
id_attribute = id_attribute
postal_code varchar(10)
city_name varchar(30)
address varchar(50)
company_ngrams
id_company integer <pk,fk>
id_attribute integer <pk,fk>
id_ngram integer <pk,fk>
ngram_count smallint
company_attributes
id_attribute integer <pk>
name varchar(50) <ak>
weight real
ngrams
id_ngram integer <pk>
value character(3) <ak>
id_ngram = id_ngram
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
79
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
Средства СУБД PostgreSQL позволяют реали-
зовать разбиение строки на граммы в виде поль-
зовательской функции, возвращающей множе-
ство подстрок.
Листинг 1
CREATE OR REPLACE FUNCTION str_to_ngrams(n int,
s text)
RETURNS SETOF varchar(10)
AS $$
DECLARE i int;
str_limit int;
BEGIN
str_limit := char_length(s) - n + 1;
FOR i IN 1..str_limit LOOP
RETURN NEXT substring(s, i, n);
END LOOP;
RETURN;
END;
$$
LANGUAGE plpgsql;
Тогда для инициализации таблицы грамм
компаний может быть использован следующий
SQL-запрос.
Листинг 2
INSERT INTO companies_ngrams(id_company, id_
attribute, ngram, ngram_count)
SELECT
id_company, id_attribute, ngram, count(*)
FROM (
SELECT
c.id_company,
ca.id_attribute,
str_to_ngrams(3, c.name) AS ngram
FROM companies c CROSS JOIN company_attributes
ca
WHERE ca.name = ‘name
UNION ALL
SELECT
c.id_company,
ca.id_attribute,
str_to_ngrams(3, c.postal_code) AS ngram
FROM companies c CROSS JOIN company_attributes
ca
WHERE ca.name = ‘postal_code
UNION ALL
SELECT
c.id_company,
ca.id_attribute,
str_to_ngrams(3, c.city_name) AS ngram
FROM companies c CROSS JOIN company_attributes ca
WHERE ca.name = ‘city_name
UNION ALL
SELECT
c.id_company,
ca.id_attribute,
str_to_ngrams(3, c.address) AS ngram
FROM companies c CROSS JOIN company_attributes ca
WHERE ca.name = ‘address
) ngrams
GROUP BY id_company, id_attribute, ngram
Для нечеткого поиска может использоваться
следующий запрос, выдающий список найден-
ных значений в порядке убывания их взвешен-
ной схожести.
Листинг 3
WITH to_find(id_attribute, ngram)
AS (
SELECT
id_attribute,
str_to_ngrams(3, ‘НПО Электрон) AS ngram
FROM company_attributes
WHERE name = ‘name
UNION ALL
SELECT
id_attribute,
str_to_ngrams(3, ‘123456) AS ngram
FROM company_attributes
WHERE name = ‘postal_code
UNION ALL
SELECT
id_attribute,
str_to_ngrams(3, ‘Энск ) AS ngram
FROM company_attributes
WHERE name = ‘city_name
UNION ALL
SELECT
id_attribute,
st r_ to _ ng ra m s(3, ‘Ст рои тель н ы й п роезд, 15’)
AS ngram
FROM company_attributes
WHERE name = ‘address
),
to_find_count(id_attribute, ngram_count)
AS (
SELECT id_attribute, count(*)
FROM to_find
GROUP BY id_attribute
),
src_count(id_company, id_attribute, ngram _
count)
AS (
SELECT id_company, id_attribute, sum(ngram_
count)
FROM companies_ngrams
GROUP BY id_company, id_attribute
),
Таблица 2. Атрибуты сущности «Компания»
Атрибут Тип
Название Строка до 60 символов
Почтовый индекс Строка до 20 символов
Населенный пункт (город) Строка до 40 символов
Адрес Строка до 80 символов
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
80
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
dice_intersection(id _company, id_attribute,
value)
AS (
SELECT cn.id_company, cn.id_attribute,
count(ngram_count)
FROM
companies_ngrams cn
INNER JOIN to_find
ON cn.id_attr ibute = to_find.id_attribute
AND cn.ngram = to_find.ngram
GROUP BY cn.id_company, cn.id_attribute
),
dice(id_company, id_attribute, value)
AS (
SELECT di.id_company, di.id_attribute,
cast(2 * di.value AS float) /
(src_count.ngram_count + to_find_count.
ngram_count)
FROM
dice_intersection di
INNER JOIN src_count
ON di.id_company = src_count.id_company
AND di.id_attribute = src_count.
id_attribute
INNER JOIN to_find_count
ON di.id_attribute = to_find_count.
id_attribute
),
dicew(id_company, value)
AS (
SELECT dice.id_company,
sum(dice.value * ca.weight) /
(SELECT count(1) FROM company_attributes)
FROM
dice
INNER JOIN company_attributes ca
ON dice.id_attribute = ca.id_attribute
GROUP BY id_company
)
SELECT * FROM dicew
ORDER BY value DESC
Заключение
В статье рассмотрены определения качества
данных, проблемы снижения качества при на-
личии дублирующей информации, приведены
существующие способы нечеткого сопоставления
строк и их характеристики. Предложен способ
обнаружения дублирующей информации на ос-
нове методов нечеткого сравнения текста. С ис-
пользованием существующих методов нечеткого
сравнения текста способ был доработан для при-
менения в рамках реляционной модели и СУБД
с учетом семантики его элементов. Приведен
практический пример реализации способа на ба-
зе свободно распространяемой СУБД PostgreSQL.
Предложенный способ может быть использован
для реализации соответствующей встроенной
функциональности в промышленных СУБД.
Литература
1. ГОСТ Р ИСО 8000-102-2011. Качество данных.
Часть 102. Основные данные. Обмен данными ха-
рактеристик. Словарь. — М.: Изд-во стандартов,
2012. — 16 с.
2. Нехай И. В. Применение n-грамм и других статистик
уровня символов и слов для семантической класси-
фикации незнакомых собственных имен // Компью-
терная лингвистика и интеллектуальные техноло-
гии: По материалам конференции «Диалог». — М.:
Изд-во РГГУ, 2012. Вып. 11(18). Т. 1. С. 477–489.
3. Мазов Н. А. N-граммные методы обработки тексто-
вой информации/ОИГГМ СО РАН. — Новосибирск,
1995. — 180 с.
4. Гудков В. Ю., Гудкова Е. Ф. N-граммы в лингвисти-
ке // Вестник Челябинского гос. ун-та. 2011.
№ 24(239). С. 69–71.
5. Kondrak G. N-Gram Similarity and Distance/ Uni-
versity of Alberta, Department of Computing Sci-
ence, Edmonton, AB, T6G 2E8, Canada, 2005. —
Р. 115 12 6.
6. Зеленков Ю. Г., Сегалович И. В. Сравнительный
анализ методов определения нечетких дубликатов
для Web-документов // Электронные библиотеки:
перспективные методы и технологии, электронные
коллекции: тр. 9-й Всерос. науч. конф. RCDL, 2007.
С. 166174.
UDC 004.6
doi:10.15217/issn1684-8853.2015.2.76
Context-Dependent N-Gram Method for Detecting Fuzzy Duplicates in Relational Databases
Tarasov S. V.a, M. Sc., Principal R&D Engineer, st@arbinada.com
Burakov V. V.b, Dr. Sc., Tech., Professor, burakov@aanet.ru
a
Bel Air Informatique, 1 avenue de l’Atlantique, 91976, Courtaboeuf Cedex, France
b
Saint-Petersburg State University of Aerospace Instrumentation, 67, B. Morskaia St., 190000, Saint-Petersburg,
Russian Federation
ИНФОРМАЦИОННОУПРАВЛЯЮЩИЕ СИСТЕМЫ
№ 2, 2015
81
ПРОГРАММНЫЕ И АППАРАТНЫЕ СРЕДСТВА
Purpose: One of the indicators of poor data quality is data duplication which can lead to a misinterpretation of the same object
as several different ones. The relational data model and industrial relational databases can exclude full data duplication, but miss
mechanisms which would recognize and prevent fuzzy duplicates. The objective of this work is finding such a way of detecting fuzzy
duplicates that could be implemented in the relational data model and in an industrial relational DBMS. Results: The fuzzy duplication
problem was discussed, common for all information systems. Methods were proposed to enter semantic duplicates into a relational
database. It was found out that to solve the problem of imcompleteduplication, we should use fuzzy string comparison methods, taking
into account the semantics of the strings. A real-life implementation example was given for PostgreSQL DBMS. Practical relevance:
The developed method can automatically detect fuzzy duplicates without any human interference, improving the information system
data quality. An example of practical implementation for an industrial DBMS can help to immediately use this method in the engineering
of information systems. The authors have already used this method for automated information system design.
Keywords — Fuzzy Duplicates, Near-Duplicates, Semantic Duplicates, n-Gram Method, Relational Database, Data Cleansing,
Information Quality.
References
1. State Standard ISO 8000-102-2011. Data quality. Part 102.
Basic data. Data exchange specifications. Dictionary.
Moscow, Standartov Publ., 2012. 16 p. (In Russian).
2. Nekhai I. V. The Use of n-gram Statistics and other Levels
of Characters and Words for Semantic Classification
Unknown Proper Names. Komp’iuternaia lingvistika i
intellektual’nye tekhnologii: Po materialam konferentsii
“Dialog [Computational Linguistics and Intellectual
Technologies. Proc. Intern. Conf. “Dialogue”], 2012,
iss. 11(18), vol. 1, pp. 477–489 (In Russian).
3. Mazov N. A. N-grammnye metody obrabotki tekstovoi infor-
matsii [N-gram Methods for Texts Processing]. Novosibirsk,
Ob”edinennyi institut geologii, geofiziki i mineralogii Si-
birskogo otdeleniia RAN Publ., 1995. 180 p. (In Russian).
4. Gudkov V. Iu., Gudkova E. F. N-gram in Linguisti cs. Ves t-
nik Cheliabinskogo gosudarstvennogo universiteta, 2011,
no. 24(239), pp. 69–71 (In Russian).
5. Grzegorz Kondrak. N-Gram Similarity and Distance. De-
partment of Computing Science, University of Alberta, Ed-
monton, AB, T6G 2E8, Canada, 2005. Рp. 115–126.
6. Zelenkov Yu. G., Segalovich I. V. Comparative Analysis of
Near-Duplicate Detection Methods of Web Documents.
Trudy 9 Vserossiiskoi nauchnoi konferentsii “Elektronnye
biblioteki: perspektivnye metody i tekhnologii, elektronnye
kollektsii” [Proc. 9th Intern. Conf. “Digital Libraries: Ad-
vanced Methods and Technologies”]. RCDL Publ., 2007,
рр. 166–174 (In Russian).
ПАМЯТКА ДЛЯ АВТОРОВ
Поступающие в редакцию статьи проходят обязательное рецензирование.
При наличии положительной рецензии статья рассматривается редакционной коллегией.
Принятая в печать статья направляется автору для согласования редакторских правок. По-
сле согласования автор представляет в редакцию окончательный вариант текста статьи.
Процедуры согласования текста статьи могут осуществляться как непосредственно в ре-
дакции, так и по е-mail (ius.spb@gmail.com).
При отклонении статьи редакция представляет автору мотивированное заключение и ре-
цензию, при необходимости доработать статью — рецензию. Рукописи не возвращаются.
Редакция журнала напоминает, что ответственность
за достоверность и точность рекламных материалов несут рекламодатели.
ResearchGate has not been able to resolve any citations for this publication.
Применение n-грамм и других статистик уровня символов и слов для семантической классификации незнакомых собственных имен // Компьютерная лингвистика и интеллектуальные технологии: По материалам конференции «Диалог
  • И В Нехай
Нехай И. В. Применение n-грамм и других статистик уровня символов и слов для семантической классификации незнакомых собственных имен // Компьютерная лингвистика и интеллектуальные технологии: По материалам конференции «Диалог». -М.: Изд-во РГГУ, 2012. Вып. 11(18). Т. 1. С. 477-489.
N-граммные методы обработки текстовой информации/ОИГГМ СО РАН. -Новосибирск
  • Н А Мазов
Мазов Н. А. N-граммные методы обработки текстовой информации/ОИГГМ СО РАН. -Новосибирск, 1995. -180 с.
N-граммы в лингвистике // Вестник Челябинского гос. ун-та
  • В Ю Гудков
  • Е Ф Гудкова
Гудков В. Ю., Гудкова Е. Ф. N-граммы в лингвистике // Вестник Челябинского гос. ун-та. 2011. № 24(239). С. 69-71.
Сравнительный анализ методов определения нечетких дубликатов для Web-документов // Электронные библиотеки: перспективные методы и технологии, электронные коллекции: тр. 9-й Всерос. науч. конф. RCDL
  • Ю Г Зеленков
  • И В Сегалович
Зеленков Ю. Г., Сегалович И. В. Сравнительный анализ методов определения нечетких дубликатов для Web-документов // Электронные библиотеки: перспективные методы и технологии, электронные коллекции: тр. 9-й Всерос. науч. конф. RCDL, 2007. С. 166-174.
The Use of n-gram Statistics and other Levels of Characters and Words for Semantic Classification Unknown Proper Names. Komp'iuternaia lingvistika i intellektual'nye tekhnologii: Po materialam konferentsii "Dialog" [Computational Linguistics and Intellectual Technologies
  • I V Nekhai
Nekhai I. V. The Use of n-gram Statistics and other Levels of Characters and Words for Semantic Classification Unknown Proper Names. Komp'iuternaia lingvistika i intellektual'nye tekhnologii: Po materialam konferentsii "Dialog" [Computational Linguistics and Intellectual Technologies. Proc. Intern. Conf. "Dialogue"], 2012, iss. 11(18), vol. 1, pp. 477-489 (In Russian).
N-grammnye metody obrabotki tekstovoi informatsii [N-gram Methods for Texts Processing
  • N A Mazov
Mazov N. A. N-grammnye metody obrabotki tekstovoi informatsii [N-gram Methods for Texts Processing]. Novosibirsk, Ob"edinennyi institut geologii, geofiziki i mineralogii Sibirskogo otdeleniia RAN Publ., 1995. 180 p. (In Russian).
N-gram in Linguisti cs. Vestnik Cheliabinskogo gosudarstvennogo universiteta
  • V Gudkov
  • Iu
  • E F Gudkova
Gudkov V. Iu., Gudkova E. F. N-gram in Linguisti cs. Vestnik Cheliabinskogo gosudarstvennogo universiteta, 2011, no. 24(239), pp. 69-71 (In Russian).
Comparative Analysis of Near-Duplicate Detection Methods of Web Documents. Trudy 9 Vserossiiskoi nauchnoi konferentsii
  • Zelenkov G Yu
  • I Segalovich
Zelenkov Yu. G., Segalovich I. V. Comparative Analysis of Near-Duplicate Detection Methods of Web Documents. Trudy 9 Vserossiiskoi nauchnoi konferentsii "Elektronnye biblioteki: perspektivnye metody i tekhnologii, elektronnye kollektsii" [Proc. 9th Intern. Conf. "Digital Libraries: Advanced Methods and Technologies"].
N-Gram Similarity and Distance/ University of Alberta
  • G Kondrak
Kondrak G. N-Gram Similarity and Distance/ University of Alberta, Department of Computing Science, Edmonton, AB, T6G 2E8, Canada, 2005. -Р. 115-126.
Context-Dependent N-Gram Method for Detecting Fuzzy Duplicates in Relational Databases
  • S V Tarasov
  • M Sc
  • Engineer
  • V V Burakov
  • Dr Sc
  • Tech
Context-Dependent N-Gram Method for Detecting Fuzzy Duplicates in Relational Databases Tarasov S. V.a, M. Sc., Principal R&D Engineer, st@arbinada.com Burakov V. V.b, Dr. Sc., Tech., Professor, burakov@aanet.ru a Bel Air Informatique, 1 avenue de l'Atlantique, 91976, Courtaboeuf Cedex, France b Saint-Petersburg State University of Aerospace Instrumentation, 67, B. Morskaia St., 190000, Saint-Petersburg, Russian Federation References