Блог DFCenter

Отсутствие клинического эффекта

Пока в главном Научно-исследовательском институте проблем Искусственного интеллекта aka OpenAI происходит какая-то корпоративно-психологическая чертовщина (в которой, к слову, придется разбираться юристам с интеллектом вполне себе естественным), сам этот ИИ без дела не сидит. И творит всякое, что ему только взбредет. Причем не где-то там, а прям тут, в Москве.

А случилось вот что. В недрах Сколкова есть компания Интеллоджик. А у нее есть «Искусственный интеллект для медицинских изображений», который может делать «качественный анализ, удаленное описание и маршрутизация любых объемов исследований в автоматическом режиме». Точнее это некая ИИ-система Botkin.AI, которая помогает врачам обнаружить на снимках компьютерной томографии патологии и просто разные странности, которые могут эти патологии предсказывать.

Может – не может что-то этот Botkin.AI в реале – мы не знаем. Но в слова разработчиков поверили несколько достаточно серьезных венчурных фондов, а также медицинская отрасль России. Они-то в этом разбираются наверное. Но потом что-то пошло не так.

Да настолько «не так», что аж целый Росздравнадзор приостановил применение Botkin.AI, который, к слову, еще с 2020 года имеет регистрационное удостоверение медизделия. Вот прямо так: «в связи с угрозой причинения вреда жизни и здоровью граждан, и на основании заключения ФГБУ «ВНИИИМТ» Роездравнадзора, сообщает о приостановлении применения медицинского изделия».

Вроде как все это из-за «отсутствия клинического эффекта и неоднократно выявленных дефектов функционирования». Но не насовсем, а до устранения производителем всех замечаний регулятора.

А вообще и для информации в какое время мы живем, «сегодня в рамках эксперимента работают свыше 50 ИИ-сервисов, выявляющих признаки патологий по 28 клиническим направлениям». Это мы к чему? К тому, что было бы не плохо как-то ДО внедрения узнавать, как реально работают эти ИТ-системы и какие у них технические ограничения. Мы надеемся, органы, отвечающие за здравоохранение и выдачу регудостоверений это делают. И что хотя бы минимально похожую экспертизу делают еще и венчурные фонды, когда сотни миллионов вкладывают в Medtech-стартапы. Хотя нет, не делает почти никто.

Потому как если, не дай бог, это штука реально реализует хотя бы малейшую угрозу «причинения вреда жизни и здоровью граждан» – экспертиз, в особенности компьютерно-технических, будет сделано не мало. Но уже не в интересах инвесторов или стартапа.