Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений
Нейросетевой подход к ИИ, получивший особенно широкое распространение в последнее десятилетие, обладает двумя существенными ограничениями – обучение моделей, как правило, требует очень большого количества образцов (не всегда доступных), а получающиеся модели не являются хорошо интерпретируемыми, что...
| Main Authors: | , , |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Russian Academy of Sciences, St. Petersburg Federal Research Center
2023-05-01
|
| Series: | Информатика и автоматизация |
| Subjects: | |
| Online Access: | http://ia.spcras.ru/index.php/sp/article/view/15615 |
| _version_ | 1797821858411708416 |
|---|---|
| author | Nikolay Shilov Andrew Ponomarev Alexander Smirnov |
| author_facet | Nikolay Shilov Andrew Ponomarev Alexander Smirnov |
| author_sort | Nikolay Shilov |
| collection | DOAJ |
| description | Нейросетевой подход к ИИ, получивший особенно широкое распространение в последнее десятилетие, обладает двумя существенными ограничениями – обучение моделей, как правило, требует очень большого количества образцов (не всегда доступных), а получающиеся модели не являются хорошо интерпретируемыми, что может снижать доверие к ним. Использование символьных знаний как основы коллаборативных процессов с одной стороны и распространение нейросетевого ИИ с другой, обусловливают необходимость синтеза нейросетевой и символьной парадигм применительно к созданию коллаборативных систем поддержки принятия решений. В статье представлены результаты аналитического обзора в области онтолого-ориентированного нейро-символического интеллекта применительно к решению задач обмена знаниями при коллаборативной поддержке принятия решений. А именно, в ходе обзора делается попытка ответить на два вопроса: 1. как символьные знания, представленные в виде онтологии, могут быть использованы для улучшения ИИ-агентов, действующих на основе нейронных сетей (передача знаний от человека к ИИ-агентам); 2. как символьные знания, представленные в виде онтологии, могут быть использованы для интерпретации решений, принимаемых ИИ-агентами и объяснения этих решений (передача знаний от ИИ-агента к человеку). В результате проведенного обзора сформулированы рекомендации по выбору методов внедрения символьных знаний в нейросетевые модели, а также выделены перспективные направления онтолого-ориентированных методов объяснения нейронных сетей. |
| first_indexed | 2024-03-13T09:59:00Z |
| format | Article |
| id | doaj.art-b5885e18c2cf427ea351f4195f1a385f |
| institution | Directory Open Access Journal |
| issn | 2713-3192 2713-3206 |
| language | English |
| last_indexed | 2024-03-13T09:59:00Z |
| publishDate | 2023-05-01 |
| publisher | Russian Academy of Sciences, St. Petersburg Federal Research Center |
| record_format | Article |
| series | Информатика и автоматизация |
| spelling | doaj.art-b5885e18c2cf427ea351f4195f1a385f2023-05-23T09:21:22ZengRussian Academy of Sciences, St. Petersburg Federal Research CenterИнформатика и автоматизация2713-31922713-32062023-05-0122357661510.15622/ia.22.3.415615Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решенийNikolay Shilov0Andrew Ponomarev1Alexander Smirnov2St. Petersburg Federal Research Center of the Russian Academy of Sciences (SPC RAS)St. Petersburg Federal Research Center of the Russian Academy of Sciences (SPC RAS)St. Petersburg Federal Research Center of the Russian Academy of Sciences (SPC RAS)Нейросетевой подход к ИИ, получивший особенно широкое распространение в последнее десятилетие, обладает двумя существенными ограничениями – обучение моделей, как правило, требует очень большого количества образцов (не всегда доступных), а получающиеся модели не являются хорошо интерпретируемыми, что может снижать доверие к ним. Использование символьных знаний как основы коллаборативных процессов с одной стороны и распространение нейросетевого ИИ с другой, обусловливают необходимость синтеза нейросетевой и символьной парадигм применительно к созданию коллаборативных систем поддержки принятия решений. В статье представлены результаты аналитического обзора в области онтолого-ориентированного нейро-символического интеллекта применительно к решению задач обмена знаниями при коллаборативной поддержке принятия решений. А именно, в ходе обзора делается попытка ответить на два вопроса: 1. как символьные знания, представленные в виде онтологии, могут быть использованы для улучшения ИИ-агентов, действующих на основе нейронных сетей (передача знаний от человека к ИИ-агентам); 2. как символьные знания, представленные в виде онтологии, могут быть использованы для интерпретации решений, принимаемых ИИ-агентами и объяснения этих решений (передача знаний от ИИ-агента к человеку). В результате проведенного обзора сформулированы рекомендации по выбору методов внедрения символьных знаний в нейросетевые модели, а также выделены перспективные направления онтолого-ориентированных методов объяснения нейронных сетей.http://ia.spcras.ru/index.php/sp/article/view/15615нейро-символический ииаприорные знаниямашинное обучениеглубокое обучениеобъяснимый ииxaiонтологии |
| spellingShingle | Nikolay Shilov Andrew Ponomarev Alexander Smirnov Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений Информатика и автоматизация нейро-символический ии априорные знания машинное обучение глубокое обучение объяснимый ии xai онтологии |
| title | Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений |
| title_full | Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений |
| title_fullStr | Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений |
| title_full_unstemmed | Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений |
| title_short | Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений |
| title_sort | анализ методов онтолого ориентированного нейро символического интеллекта при коллаборативной поддержке принятия решений |
| topic | нейро-символический ии априорные знания машинное обучение глубокое обучение объяснимый ии xai онтологии |
| url | http://ia.spcras.ru/index.php/sp/article/view/15615 |
| work_keys_str_mv | AT nikolayshilov analizmetodovontologoorientirovannogonejrosimvoličeskogointellektaprikollaborativnojpodderžkeprinâtiârešenij AT andrewponomarev analizmetodovontologoorientirovannogonejrosimvoličeskogointellektaprikollaborativnojpodderžkeprinâtiârešenij AT alexandersmirnov analizmetodovontologoorientirovannogonejrosimvoličeskogointellektaprikollaborativnojpodderžkeprinâtiârešenij |