Модель Тулмина и доверие к диагностике искусственного интеллекта

Претензии моделей машинного обучения в области медицинской диагностики уже давно создают проблемы доверия с особенностью «черного ящика». Новое исследованиеДля решения этой проблемы прозрачности активируется модель аргументации Тулмина. Этот подход, который делает диагностику на основе изображений более понятной путем разделения компонентов, таких как утверждение, основание, заземление, может ускорить внедрение искусственного интеллекта в отрасли здравоохранения и предложить информированную поддержку принятия решений клиницистам.

Что такое модель Тулмина и как она работает с искусственным интеллектом?

Модель аргументации, разработанная профессором Стивеном Тулмином, состоит из шести основных компонентов, включая претензию (претензию), основание (основание), основание (гарантию), нитизер (калификатор), распад (опровержение) и поддержку (поддержка). Эта модель предназначена для анализа и оценки логической структуры любого аргумента. В медицинской диагностической специальности «иддия», которую модель ML сделала для диагностики на основе изображения, такой как сканирование сетчатки, четко раскрывает «олданалири» (например, конкретные результаты на изображении), «герестансини» (медицинская информация или ранее изученное ядро) и возможные «передачи» (ситуации).

В сочетании с моделями искусственного интеллекта модель Тулмина позволяет модели большого языка (Large Language Models - LLM) отражать клинические проблемы. Трехэтапные процессы обучения, такие как Curriculum Goal-Conditioned ( LearningCGCL), позволяют понять этапы принятия решений по искусственному интеллекту, привнося факты в LLM, тестируя гипотезы и синтезируя квалифицированные результаты в соответствии со структурой Тулмина.

Почему критический искусственный интеллект может быть открыт в индустрии здравоохранения?

Искусственный интеллект и системы машинного обучения, классификация заболеваний, диагностика рака и другие медицинские области достигли показателей точности из будущего. Однако в сфере здравоохранения недостаточно только точности и аккуратности. Поскольку каждое решение оказывает непосредственное влияние на жизнь человека, понимание логики решений моделей искусственного интеллекта имеет решающее значение. Традиционные «черные ящики» непрозрачных процессов принятия решений моделей искусственного интеллекта снижают доверие клиницистов к этим системам и тем самым блокируют принятие в реальном мире.

Открытый искусственный интеллект (Explainable AI - XAI) решает проблему доверия, объяснив, что модель пришла к определенному выводу. XAI позволяет медицинским работникам проверять процесс принятия решений, понимать потенциальные ошибки и принимать более обоснованные клинические решения. Эта прозрачность также важна с точки зрения юридической и этической ответственности, поскольку в случае ошибки может быть ясно, кто принадлежит к ответственности.

Ведущие исследования XAI от турецких ученых

Ученые из Турции отмечают важную работу в этой области. Медикана Международная Измирская Больница Женские Болезни и Роды Специалист Op. Команда под руководством доктора Гюльтекина Коча разработала открытую модель искусственного интеллекта, которая работает с точностью до 99% при ранней диагностике внешней беременности. Эта модель отличается от традиционных моделей «черного ящика», в то время как ставит диагноз, который дает врачу его основания (например, наличие внутриматочной сумки, толщина эндометрия, прогестерон и бета-ХГЧ).

Это исследование было опубликовано в международном престижном журнале IEEE Access и вошло в мировую литературу. Разработанная система направлена на повышение шансов нехирургического лечения, особенно на ранних стадиях наружной беременности. Такие локальные и конкретные примеры являются сильным показателем того, что технологии XAI могут работать только академически и обеспечивать конкретные преимущества в клиническом применении в реальном мире.

Способы построить доверие к ML-диагностике

Доверие к диагнозам машинного обучения не ограничивается только высокими показателями точности, но и требует понимания того, как достигаются эти показатели точности. Такие фреймы, как модель согласования Тулмина, повышают прозрачность, разделяя каждый прогноз модели на интерпретируемые человеком компоненты. Таким образом, клинисиенлер может оценить основу и основания модели, а не принимать выход искусственного интеллекта вслепую.

Некоторые модели искусственного интеллекта используют такие методы, как SHAP (SHapley Additive exPlanations) и LIME (Local Interpretable Model-agnostic Explanations). Эти методы предлагают углубленный взгляд на диагностический процесс, показывая, какие особенности наиболее эффективны при составлении определенной оценки модели. Это ИнтеграцияЭто повышает проверяемость как модели, так и позволяет врачам принимать более уверенные решения в сложных случаях.

Проблемы и будущее видение

Хотя потенциал искусственного интеллекта в диагностике здоровья и системах поддержки принятия решений велик, перед этой интеграцией все еще есть некоторые трудности. Одной из наиболее важных задач является установление правильного баланса между точностью и интерпретацией, поскольку чаще всего между этими двумя факторами существует компромисс. Кроме того, отсутствие верификации реального мира и стандартизированных метрик интерпретации ограничивает масштабное внедрение моделей.

Вариабельность (нестабильность) в отдельных прогнозах, вызванная случайными элементами, такими как оптимизация и запуск, влияющими на производительность модели, является еще одной проблемой, которая может вызвать клиническое доверие. В будущем будут разработаны персонализированные рамки вычислений, которые оценивают, могут ли модели искусственного интеллекта обеспечить надежную поддержку принятия решений даже при недостающей клинической информации, например, анализ достаточности функций (FSA). Ожидается, что методы искусственного интеллекта в здравоохранении будут намного быстрее в больницах, включая поддерживаемые врачом системы хирургической маршрутизации до 2030 года.

Что такое сообщество

Сторонники

Модель искусственного интеллекта считается создающей огромный рост доверия среди клиницистов. Понимание логики, лежащей в основе решений модели, облегчит принятие пациентом и поможет более четко определить юридические обязанности. В особо сложных случаях основания, которые предлагает искусственный интеллект, сделают врачей более осознанными и надежными решениями.

Новости

Некоторые эксперты считают, что создание идеального баланса между интерпретацией и точностью модели является сложной задачей. Отсутствие проверки реального мира и стандартизированных показателей для моделей XAI также является важным источником беспокойства. Кроме того, изменения в прогнозах, вызванные случайной оптимизацией модели, выражаются в том направлении, на которое может негативно повлиять клиническое доверие.

Часто задаваемые вопросы

Тольминовая модель используется только в медицине.

Модель аргументации Тулмина является улучшенной философской основой для изучения общей структуры аргументации. Он используется для анализа и оценки аргументов во многих областях, таких как право, философия, литература и наука. В области искусственного интеллекта он был адаптирован для обеспечения прозрачности процессов принятия решений.

Почему модели с открытым искусственным интеллектом (XAI) называются «черным ящиком»?

Традиционные модели ИИ и машинного обучения, особенно глубокое обучение Сети часто называют «черным ящиком», потому что процессы принятия решений не могут быть поняты непосредственно людьми. Модель делает сложные, нелинейные вычисления, которые показывают, как она выходит из ввода, но каждый шаг этих вычислений не может быть переведен на человеческий язык или легко интерпретирован. Методы XAI направлены на устранение этого недостатка прозрачности.

Модель Тулмина повышает точность диагностики искусственного интеллекта

Основной целью модели Тулмина является не прямое повышение точности диагнозов, а существующее машинное обучение. Обсуждение Bibility Home и Надежность дома увеличить. Четко раскрывая, почему модель делает оценку, эти прогнозы врачей позволяют им оценивать более критически и замечать потенциальные ошибки. Косвенно это может привести к более точным результатам за счет снижения риска неправильной диагностики.

Какие методы XAI популярны в медицинской диагностике?

Некоторые из наиболее широко используемых методов XAI в медицинских диагностических приложениях предполагают SHAP (SHapley Additive exPlanations) и LIME (Local Interpretable Model-agnostic Explanations). Эти методы делают процесс принятия решения более понятным, показывая, какие особенности (например, определенные области или лабораторные значения на медицинском изображении) при выполнении конкретной оценки модели.

Развитие искусственного интеллекта в здравоохранении — это не только технологический прогресс, но и правильная доля этой технологии, чтобы ее понимал и доверял человек. Такие фреймы, как модель аргументации Тулмина, приводят к более эффективной и ответственной роли в процессах поддержки клинических решений искусственного интеллекта, предлагая структурное решение проблемы прозрачности моделей «черного ящика». Такой подход может укрепить веру как в повышение безопасности пациентов, так и в технологии нового поколения врачей.