В эссе говорится об использовании технологий искусственного интеллекта в медицине в целом и в офтальмологии в частности и о связанных с ним сложностях.
«До чего дошел прогресс! До невиданных чудес: опустился на глубины и поднялся до небес. Позабыты хлопоты, остановлен бег, вкалывают роботы, а не человек!» – пел небезызвестный Сережа Сыроежкин еще лет 30 назад. Вопрос замены деятельности человека роботами стоял с давних пор. По большому счету калькуляторы – тоже искусственный интеллект (ИИ). Конечно, сейчас разработки в этой области вышли на новый уровень. Современные технологии дали машинам возможность анализировать данные – а это уже серьезная заявка на победу в «соревновании» между людьми и роботами.
Что такое искусственный интеллект
Наступит ли эра роботов, как ее описывают в фантастических произведениях? Мне стало интересно, и я провела обзор литературы по применению ИИ в офтальмологии.
Давайте порассуждаем вместе? Действительно ли профессия врача-офтальмолога в скором времени будет не нужна, ей на смену придет «электронный интеллект»? Для ответа на этот вопрос надо четко понимать, что же такое ИИ.
ИИ, или нейронные сети, – сложная многоуровневая система по сбору и анализу информации. Когда я стала разбираться в этом вопросе, поняла, что ИИ – это не просто компьютерная программа, все гораздо глубже.
Искусственный нейрон, как и биологический его прототип, включает в себя синапсы, соединяющие его с другими нейронами, сумматор сигналов с синапсов (аналог тела нейрона) и один выход, аналогом которого является аксон биологического нейрона. Синапсы представляют собой коэффициенты, на которые умножаются входы нейрона, а обучение искусственного нейрона производится путем подбора этих коэффициентов с помощью такого алгоритма математической оптимизации, как градиентный спуск, то есть подбирается сила синаптической связи с другими нейронами в сети. Проще говоря, поступает большое количество изображений, они анализируются, и делается вывод.
Похоже на процесс анализа данных человеком? Конечно, причем ИИ не знает усталости, у него не портится настроение, на его работу не влияет микроклимат в коллективе, не нужно ему платить зарплату. Получается, от его использования только одни преимущества? Есть и недостатки, вернее, сложности.
1. Принцип обучения ИИ строится на неких алгоритмах, которые в свою очередь составляются группой исследователей. Это значит, что некий человеческий субъективизм присутствует уже на этапе «зачатия» ИИ. Поэтому нельзя, с моей точки зрения, воспринять выводы машин как непогрешимую истину.
2. Часто алгоритмы ИИ функционируют по принципу «черного ящика» – механизм их работы до конца неизвестен, исследователь загружает данные на входе и получает определенный результат на выходе, называя это «обучением модели». При добавлении дополнительных данных программа может изменить процесс принятия решений, выдавая более точный ответ, без какого-либо объяснения для исследователя, как это получается.
3. Правовой статус использования ИИ в медицине все еще не определен. Например, неясно, наступает ли при ошибочных решениях (ошибки диагноза) вследствие использования алгоритма ИИ продуктовая ответственность (product liability), то есть ответственность производителя или продавца продукции в случае причинения ее потребителю имущественного ущерба или вреда здоровью из-за дефекта или фактического отказа изделия, или же ошибки ИИ следует относить к врачебным и руководствоваться соответствующими стандартами и рекомендациями поведения.
Нужен ли врач?
А действительно, нужен ли врач, если все может решить ИИ? Можно создать ИИ, построить алгоритм лечения и диагностики, но как он будет функционировать без человеческой эмпатии со стороны врача? Как ни крути, мы работаем с людьми. И вряд ли ИИ сможет успокоить ребенка и уговорить его посмотреть в «страшный» прибор, а также поддержать родителей. Недаром говорят, что слово лечит.
Тем не менее возможно ли использовать ИИ во благо наших пациентов? Думаю, да. В вопросах анализа видеоизображений, например, получаемых с фундус-камеры, ИИ гораздо качественнее заметит и проанализирует визуальные изменения глазного дна. На основе большого массива информации с его помощью можно тщательнее составить критерии нормы и отклонения, что очень упростит процесс профилактического осмотра. Алгоритмы ИИ – это еще один инструмент, появляющийся в арсенале врача и позволяющий ему получить «второе мнение» и снизить вероятность ошибки. Однако итоговое решение принимает врач, и ответственность за него несет тоже он.
С учетом сложной природы технологий ИИ и рисков, связанных с их бесконтрольным применением, общепринятый международный подход на сегодня состоит в том, что решения на основе ИИ не являются самодостаточными и требуют обязательной верификации со стороны медицинского специалиста. Врач не должен и не может полагаться в своем решении исключительно на результат, рекомендованный алгоритмом ИИ. В связи с этим особую важность в организации здравоохранения приобретает разработка стандартов, как регламентирующих применение технологий ИИ, так и позволяющих достоверно оценивать безопасность, точность и надежность функционирования систем на его основе.
Думаете, работа по созданию ИИ идет только за рубежом? В России в составе технического комитета «Искусственный интеллект», созданного на базе РАН, функционирует Центр диагностики и телемедицины при поддержке Министерства здравоохранения. В задачи этого центра входит координация экспертной деятельности по разработке стандартов ИИ в клинической медицине. Данный комитет является отражением международного подкомитета SC 42 – Artificial Intelligence, что позволяет эффективно гармонизировать подходы к стандартизации и нормативные документы.
Можно предположить, что по мере появления стандартов разработки и использования алгоритмов ИИ в здравоохранении область их применения будет стремительно расширяться. ИИ – перспективный инструмент, способный стать помощником в лечебно-диагностическом процессе, однако нельзя забывать об ограничениях данного инструмента и о том, что последнее слово остается за врачом.
Автор: А. В. Егорова,
канд. мед. наук, врач-офтальмолог (Ижевск)
© РА «Веко»
Печатная версия статьи опубликована в журнале «Современная оптометрия» [2022. № 5 (154)].
По вопросам приобретения журналов и оформления подписки обращайтесь в отдел продаж РА «Веко»:
- Тел.: (812) 634-43-34.
- E-mail: magazine@veko.ru
- veko.ru
Наши страницы в соцсетях:
