В статье рассматривается процесс разработки и утверждения первого в Российской Федерации Кодекса этики применения искусственного интеллекта (ИИ) в сфере охраны здоровья. На фоне активного внедрения ИИ-технологий в медицинскую практику (зарегистрировано 39 соответствующих медицинских изделий) акцент сделан на важности формирования этических норм, обеспечивающих защиту прав пациентов, повышение доверия к технологиям и стандартизацию процессов. Проведен анализ международных подходов к этике ИИ в здравоохранении (ЕС, США, Великобритания, Канада, Австралия, Китай, Индия), и обозначена необходимость гармонизации отечественного кодекса с международными инициативами. Представлены этапы разработки документа, в которых приняли участие сотрудники профильных департаментов Минздрава России, главные внештатные специалисты и эксперты, а также структура и основные положения утвержденной версии Кодекса. Выделены ключевые принципы: прозрачность, конфиденциальность, справедливость, ограниченная автономность, контроль и ответственность. Финальная версия документа была опубликована в марте 2025 года на портале ЕГИСЗ после согласования с Межведомственной рабочей группой при Минздраве России. Кодекс призван стать фундаментом для устойчивого и безопасного внедрения ИИ в систему здравоохранения.
В статье представлен подход к созданию информационной системы на основе нейросетевой графовой архитектуры. Этот подход призван снивелировать проблему явного объяснения решений, принимаемых искусственным интеллектом — проблема прозрачности (объяснимости, надежности, доверенности). Использование технологий искусственного интеллекта в медицине носит «сквозной» характер и способствует созданию условий для улучшения эффективности и формирования принципиально новых направлений деятельности: автоматизации рутинных (повторяющихся) операций; использования автономного интеллектуального оборудования и робототехнических комплексов, интеллектуальных систем управления; повышения эффективности процессов планирования, прогнозирования и принятия врачебных решений. Перспективной технологией предлагаемого подхода является применение графовой нейросетевой архитектуры в составе информационной системы для обработки и анализа данных. В статье реализован пример классификации узлов графов на открытом датасете с кардиоданными условно-здоровых людей и пациентов.
Внедрение системы поддержки принятия врачебных решений (СППВР) в клиническую практику требует тщательного контроля для обеспечения безопасности пациентов и оценки эффективности применения технологий искусственного интеллекта.
Целью данной работы является оценка результативности СППВР «ТОП-3» в условиях консультативно-диагностических поликлиник Департамента здравоохранения города Москвы.
Материалы и методы: Мониторинг работы СППВР «ТОП-3» проводился Департаментом здравоохранения города Москвы с 01.10.2020 по 21.03.2024 (n = 63 809 360 чел.). Рассчитывалась метрика Hit-3, на основе которой принималось решение о необходимости повторного обучения представленной СППВР. Дополнительно было проведено исследование с участием врачей-экспертов: ретроспективный анализ данных на выборке из 3000 пациентов с расчетом согласованности диагнозов от СППВР, врача и эксперта.
Результаты: По результатам мониторинга среднее значение Hit-3 составляло 63,5, 64,5 и 67,7 для первой, второй и третьей версии СППВР соответственно. Экспертиза показала, что в выборке несоответствия диагноза от врача и СППВР (n = 2000) в 80,2% случаев эксперт на основе жалоб соглашался с СППВР, в 11,5% случаях - с врачом, а в 8,3% случаев ставил иной диагноз. В выборке соответствия диагноза врача с одним из диагнозов СППВР (n = 1000) в 50,4% случаев эксперт соглашался с диагнозом от врача и СППВР, в 37,9% случаев – с одним из двух других альтернативных диагнозов СППВР, в 11,7% случаев ставил иной диагноз.
Заключение: Описанная методика мониторинга, дополненная проведением экспертизы, позволила всесторонне оценить внедряемую в систему здравоохранения СППВР. По итогу оценки результативности «ТОП-3» было принято решение о необходимости расширения анализируемого перечня данных электронных медицинских карт, что будет внедрено в следующей версии СППВР «ТОП-3+».