Content uploaded by Roman Dushkin
Author content
All content in this area was uploaded by Roman Dushkin on Mar 16, 2021
Content may be subject to copyright.
24 Евразийский Союз Ученых (ЕСУ) #1(82), 2021
down 48 percent and revenues were down 73 percent.
Increased use of modern information technology and
data analysis techniques should help reduce these costs.
Cost classification and analysis of consumer demand,
taking into account the epidemiological situation in
different regions, are the basis for optimizing air
transportation, reducing costs and ensuring the
economic stability of the airline in the face of
pandemics.
REFERENCES
1.https://cyberleninka.ru/article/n/osobennosti-
upravleniya-zatratami-aviakompanii-teoreticheskie-
osnovy/viewer
2.https://money.howstuffworks.com/personal-
finance/budgeting/budget-airline1.htm
3.https://www.faa.gov/regulations_policies/polic
y_guidance/benefit_cost/media/econ-value-section-4-
op-costs.pdf
4.https://www.icao.int/mid/documents/2017/aviat
ion%20data%20and%20analysis%20seminar/ppt3%2
0-
%20airlines%20operating%20costs%20and%20produ
ctivity.pdf
5.https://www.iata.org/
6.https://www.biletik.aero/handbook/blog/kakie-
raskhody-nesut-aviakompanii-kogda-ikh-samolyety-
ne-letayut/
7.http://repo.ssau.ru/bitstream/Uchebnye-
posobiya/EKONOMIKA-AVIATRANSPORTNOI-
OTRASLI-
69848/1/%D0%9D%D0%B5%D0%BC%D1%87%D0
%B8%D0%BD%D0%BE%D0%B2%20%D0%9E.%
D0%90.%2C%20%D0%A5%D0%B0%D0%B9%D1
%82%D0%B1%D0%B0%D0%B5%D0%B2%20%D0
%92.%D0%90.%20%D0%AD%D0%BA%D0%BE%
D0%BD%D0%BE%D0%BC%D0%B8%D0%BA%D
0%B0%20%D0%B0%D0%B2%D0%B8%D0%B0%
D1%82%D1%80%D0%B0%D0%BD%D1%81%D0
%BF%D0%BE%D1%80%D1%82%D0%BD%D0%B
E%D0%B9%20%D0%BE%D1%82%D1%80%D0%
B0%D1%81%D0%BB%D0%B8.pdf
8.https://informburo.kz/novosti/analiz-rashodov-
kazahstanskih-aviakompaniy-proveli-v-kga-
81001.html
МОДЕЛЬ ИЕРАРХИЧЕСКОЙ АССОЦИАТИВНОЙ ПАМЯТИ
ДЛЯ ИСКУССТВЕННЫХ КОГНИТИВНЫХ АГЕНТОВ ОБЩЕГО НАЗНАЧЕНИЯ
Душкин Р.В.
Агентство Искусственного Интеллекта
(Москва, Россия)
Семёнов Д.С.
ФГБОУ ВО «Московский государственный университет
технологий и управления имени К. Г. Разумовского (ПКУ)»
(Москва, Россия)
HIERARCHICAL ASSOCIATIVE MEMORY MODEL FOR ARTIFICIAL
GENERAL-PURPOSE COGNITIVE AGENTS
Dushkin R.V.
Chief Science and Technology Officer,
Artificial Intelligence Agency
АННОТАЦИЯ
В настоящей работе представлена модель иерархической ассоциативной памяти, которая может быть
использована в качестве основы для построения искусственных когнитивных агентов общего назначения.
При помощи этой модели может быть решена одна из важнейших проблем современного машинного
обучения и искусственного интеллекта в общем — возможность для когнитивного агента использования
«жизненного опыта» для обработки контекста той ситуации, в которой он находился, находится и,
возможно, будет находиться. Эта модель применима для искусственных когнитивных агентов,
функционирующих как в специально сконструированных виртуальных мирах, так и в объективной
реальности. Использование иерархической ассоциативной памяти в качестве долговременной памяти
искусственных когнитивных агентов позволит последним эффективно ориентироваться как в общих
знаниях, накопленных человечеством, так и в своём жизненным опыте. Новизна представленной работы
основывается на авторском подходе к построению контекстно-зависимых искусственных когнитивных
агентов с использованием междисциплинарного подхода, в частности, базирующегося на достижениях
искусственного интеллекта, когнитологии, нейрофизиологии, психологии и социологии. Актуальность
настоящей работы базируется на остром интересе научного сообщества и высоком социальном запросе на
создание систем искусственного интеллекта общего уровня. Одним из важных компонентов
искусственного интеллектуального агента общего уровня становится ассоциативная иерархическая
память, основанная на использовании подхода, сходного с гиперколонками коры человеческого головного
мозга. Статья будет интересна всем исследователям, работающим в области построения искусственных
когнитивных агентов и смежных областях.
Евразийский Союз Ученых (ЕСУ) # 1(82), 2021 25
ABSTRACT
This paper presents a model of hierarchical associative memory, which can be used as a basis for building
artificial cognitive agents of general purpose. With the help of this model, one of the most important problems of
modern machine learning and artificial intelligence in general can be solved - the ability for a cognitive agent to
use "life experience" to process the context of the situation in which he was, is and, possibly, will be. This model
is applicable for artificial cognitive agents functioning both in specially designed virtual worlds and in objective
reality. The use of hierarchical associative memory as a long-term memory of artificial cognitive agents will allow
the latter to effectively navigate both in the general knowledge accumulated by mankind and in their life
experience. The novelty of the presented work is based on the author's approach to the construction of context-
dependent artificial cognitive agents using an interdisciplinary approach, in particular, based on the achievements
of artificial intelligence, cognitology, neurophysiology, psychology and sociology. The relevance of this work is
based on the keen interest of the scientific community and the high social demand for the creation of general-level
artificial intelligence systems. Associative hierarchical memory, based on the use of an approach similar to the
hypercolumns of the human cerebral cortex, is becoming one of the important components of an artificial
intelligent agent of the general level. The article will be of interest to all researchers working in the field of building
artificial cognitive agents and related fields.
Ключевые слова: искусственный интеллект, когнитивный агент, ассоциативная память,
иерархическая память, обработка контекста, жизненный опыт, машинное обучение, обучение с
подкреплением, непрерывное обучение, агентный подход.
Keywords: artificial intelligence, cognitive agent, associative memory, hierarchical memory, context
processing, life experience, machine learning, reinforced learning, continuous learning, agent-based approach.
Современные достижения в области
искусственного интеллекта основываются на
решении отдельных когнитивных задач в таких
областях, как поиск и обнаружение скрытых
закономерностей, распознавание образов,
понимание смысла естественно-языковых
высказываний, поддержка принятия решений,
генерация реалистичных изображений и др.
[Душкин, 2019]. Для некоторых из перечисленных
задач решения на базе методов искусственного
интеллекта уже превзошли по точности и
эффективности человеческий уровень
[Takagi et al., 2019].
Вместе с тем все эти достижения основаны на
применении подходов в рамках так называемого
«слабого искусственного интеллекта», когда
решается отдельная когнитивная задача в отрыве от
общей концепции построения искусственного
когнитивного агента общего уровня. Проблема
построения «сильного искусственного интеллекта»
[Paquette, 2020] до сих пор не решена, и её решение
осложняется тем, что до сих пор нет существенного
продвижения в методах организации
долговременной памяти когнитивного агента так,
чтобы он мог использовать в процессе своего
функционирования свой «жизненный опыт» и
общие знания для разрешения контекста ситуации,
в которой он находится [Brézillon, 1999].
Авторский подход к решению проблемы
контекста заключается в использовании
иерархической ассоциативной памяти, которая
наполняется и обновляется в процессе
функционирования когнитивного агента. Эта
модель основана на аналогии с логическим
устройством долговременной памяти человека, в
которой непрерывно собираются на протяжении
всей жизни человека различные факты, которые
затем используются для обработки и разрешения
контекстуальных неопределённостей. Фактически,
модель представляет собой расширение структуры
рекурсивной иерархической памяти и метода
глубинного обучения, описанных в работе
[Шумский, 2020].
Процесс обучения естественного
когнитивного агента заключается в построении и
постоянном обновлении ассоциативных связей
между комплексами нейронов в кортексе
(кортикальные колонки у животных, обладающих
корой головного мозга) или между ганглиями и
ядрами (у животных, кора у которых отсутствует).
Возбуждение комплексов ассоциативных связей
способствует общему пониманию ситуации, в том
числе и контекста, в котором агент находится.
Можно предположить, что возбуждение
ассоциативных связей обусловливает понимание и,
как следствие, адекватную реакцию когнитивного
агента независимо от архитектуры памяти. На это
намекает различная архитектура центральной
нервной системы у таких агентов, как человек,
другие млекопитающие, птицы, рептилии и
амфибии и даже насекомые, у некоторых из
которых имеются признаки когнитивной
деятельности.
В соответствии с работой [Hawkins, 2004] одна
из моделей интеллекта человека основана на
использовании иерархической памяти, основным
элементом которой является так называемая
«кортикальная колонка». Колонки связываются в
иерархическую сеть, динамическая картина
возбуждения колонок в которой отражает
ситуацию и контекст, в которой агент находится,
позволяя ему успешно решать возникающие
задачи. Работа [Шумский, 2020] далее вводит в
модель памяти и интеллекта человека разреженное
кодирование понятий и ассоциативные связи
между ними, причём элементом кодирования всё
также остаётся кортикальная колонка, но они
объединяются в кортикальные гиперколонки,
соответствующие множествам взаимосвязанных
понятий. Иерархические связи в этой модели
строятся на гиперколонках, хотя между
отдельными колонками в разных гиперколонках
26 Евразийский Союз Ученых (ЕСУ) #1(82), 2021
тоже могут организовываться ассоциативные
связи.
Перечисленное даёт фундамент для
построения математической модели иерархической
ассоциативной памяти для искусственных
когнитивных агентов, причём в случае успешной
реализации на достаточном объёме данных и
вычислительных ресурсов такая память может
стать основой для создания искусственного
интеллекта общего уровня. Применение этой
модели памяти в рамках гибридной парадигмы
искусственного интеллекта [Душкин & Андронов,
2019] открывает разнообразные возможности для
реализации искусственных когнитивных агентов
различного предназначения.
Модель иерархической ассоциативной памяти
для искусственных когнитивных агентов общего
назначения основана на множестве специфических
структурных элементов, каждый из которых
специальным образом кодирует одно понятие
общего характера или специфическое для
проблемной области, в которой функционирует
когнитивный агент. Кодирование понятия
осуществляется при помощи наиболее общего
способа в виде пары типа (наименование,
значение). Такой способ кодирования позволяет
осуществлять кодирование любых сущностей
проблемных областей любого рода — объектов,
атрибутов и предикатов.
Вместе с тем к каждому такому структурному
элементу памяти в предлагаемой к рассмотрению
модели приписывается некоторое количество
специальной и служебной информации, а именно:
1.Множество ассоциативных связей, каждая из
которых имеет наименование и список
вспомогательных атрибутов. Фактически при
помощи этого множества формируется
семантическая сеть на хранящихся в памяти
понятиях.
2.Структура вспомогательной информации о
том, когда и при каких условиях было получено
понятие, которое встроено в описанную в
предыдущем пункте семантическую сеть.
3.Список архивных значений понятия,
который может использоваться для
самореференсной памяти о том, как происходило
обучение и актуализация понятийной базы
когнитивного агента.
Описанная структура представляет собой
расширенную семантическую сеть, которая,
однако, должна быть динамической и постоянно
актуализироваться в процессе функционирования
когнитивного агента, особенно при использовании
методов машинного обучения и, в частности,
обучения с подкреплением при активном
взаимодействии со средой. В этом заключается
отличие предлагаемой модели от обычной
семантической сети.
Литература
1.Brézillon P. (1999) Context in Artificial
Intelligence // Computing and Informatics / Computers
and Artificial Intelligence — CAI. — TRANSLIBRIS,
May 1999. — P. 321-340.
2.Hawkins J. (2004) On Intelligence (1st ed.).
Times Books. — P. 272. — ISBN 978-0805074567.
3.Paquette P. (2020) A Road Map to Strong
Intelligence // Preprint, February 2020. — URL:
https://bit.ly/_aRMtSI.
4.Takagi M., Sakurai A., Hagiwara M. (2019)
Quality Recovery for Image Recognition // IEEE
Access. 7. 1-1. — DOI:
10.1109/ACCESS.2019.2932726.
5.Душкин Р. В. (2019) Искусственный
интеллект. — М.: ДМК-Пресс, 2019. — 280 с. —
ISBN 978-5-97060-787-9.
6.Душкин Р. В., Андронов М. Г. (2019)
Гибридная схема построения искусственных
интеллектуальных систем // Кибернетика и
программирование. — 2019. — № 4. — С. 51-58. —
DOI: 10.25136/2644-5522.2019.4.29809. — URL:
http://e-notabene.ru/kp/article_29809.html.
7.Шумский С. А. (2020) Машинный интеллект.
Очерки по теории машинного обучения и
искусственного интеллекта. — М.: РИОР, 2020. —
340 с. — ISBN: 978-5-369-01832-3.
ACCURACY IMPROVING OF PRE-TRAINED NEURAL NETWORKS BY FINE TUNING
DOI: 10.31618/ESU.2413-9335.2021.5.82.1231
Кonarev D.I.
Department of Space Instrument-making and Communication Systems,
Southwestern State University, 94, 50 let Oktyabrya, Kursk, Russia
Gulamov А.А.
Department of Space Instrument-making and Communication Systems,
Southwestern State University, 94, 50 let Oktyabrya, Kursk, Russia
ABSTRACT
Methods of accuracy improving of pre-trained networks are discussed. Images of ships are input data for the
networks. Networks are built and trained using Keras and TensorFlow machine learning libraries. Fine tuning of
previously trained convoluted artificial neural networks for pattern recognition tasks is described. Fine tuning of
VGG16 and VGG19 networks are done by using Keras Applications. The accuracy of VGG16 network with fine-
tuning of the last convolution unit increased from 94.38% to 95.21%. An increase is only 0.83%. The accuracy of
VGG19 network with fine-tuning of the last convolution unit increased from 92.97% to 96.39%, which is 3.42%.
