Концептуальная модель взаимодействия человека и интеллектуального агента в системах поддержки принятия управленческих решений
Распространение генеративных моделей и автономных систем на основе искусственного интеллекта (ИИ-агентов) трансформирует архитектуру управленческих процессов, изменяя распределение функций, полномочий и ответственности в системах поддержки принятия управленческих решений. Такая трансформация актуализирует научную проблему обоснованного делегирования полномочий ИИ-агентам при сохранении субъектной роли и автономии человека в процессе принятия решений. Несмотря на значительное число исследований по алгоритмическому управлению и этике ИИ, в управленческой науке отсутствует методологический аппарат, позволяющий определять допустимый уровень автономности ИИ-агента с учетом характеристик управленческих задач и организационно- технической среды. Цель исследования состоит в разработке концептуальной модели и принципов человеко-агентного взаимодействия в системах поддержки принятия решений, позволяющих обосновывать делегирование ИИ-агенту полномочий и определять уровень его автономности. В исследовании использованы системный подход, сравнительный анализ существующих моделей автономности интеллектуальных систем, контент-анализ научной литературы, концептуальное моделирование и логико-структурный синтез. Методологическую основу составил междисциплинарный подход, объединяющий положения теории принятия решений, гуманистического и алгоритмического управления, организационной теории и прикладной этики ИИ. С позиций гуманистической теории организации обосновано разграничение автономности ИИ-агента и автономии человека. На этой основе разработана матрица «автономия-автономность», включающая четыре типа человеко-агентного взаимодействия, для каждого из которых определены управленческие механизмы сохранения автономии человека. Разработаны методологические принципы ответственного взаимодействия и делегирования полномочий ИИ-агенту, закрепляющие приоритет профессионального суждения человека в процессе принятия решений. Определены состав и взаимосвязи элементов концептуальной модели взаимодействия человека и ИИ-агента. Модель предусматривает механизмы контроля соблюдения условий делегирования и обратной связи. Разработана шкала автономности ИИ-агента, отражающая степень его участия в принятии управленческих решений. Формализована процедура определения допустимого уровня автономности на основе агрегирования экспертных оценок параметров управленческой задачи и технологической зрелости ИИ-агента. Научная новизна заключается в теоретическом обосновании концепции динамического и контекстно обусловленного делегирования ИИ-агенту полномочий по принятию управленческих решений. Автономность ИИ-агента рассматривается как управляемый параметр, зависящий от характеристик задачи и организационно-технической среды. Автономия человека выступает гуманистической ценностью и основанием для разграничения функциональной самостоятельности ИИ-агента и моральной субъектности человека, за которым сохраняется приоритет в осуществлении контроля и в принятии окончательного решения. Результаты исследования формируют методическую основу для обоснования делегирования ИИ-агенту полномочий применительно к различным типам управленческих задач и могут использоваться при ответственном внедрении ИИ в управленческие процессы, при разработке внутренних регламентов и этических кодексов. Перспективы дальнейших исследований связаны с эмпирической апробацией результатов в различных организационных контекстах и с методической детализацией механизмов контроля и сохранения автономии человека в гибридных системах поддержки принятия решений.