Основная проблема заключается в механизме работы больших языковых моделей, которые лишь подбирают наиболее вероятное продолжение текста на основе обучающей выборки. Хотя ИИ неплохо справляется с базовыми знаниями из учебников, он не учитывает индивидуальный контекст: возраст, сопутствующие заболевания, прием лекарств или даже рацион накануне сдачи биоматериала. В результате нейросеть может либо спровоцировать необоснованную панику, либо, что опаснее, убедить человека в отсутствии патологии, вынуждая его отложить визит к врачу.
Лопатухин выделяет три критических фактора риска. Во-первых, это галлюцинации: модель способна выдумать несуществующее исследование или исказить референсные значения, причем делает это настолько уверенно, что обычный пользователь не заметит подвоха. Во-вторых, возникает угроза утечки чувствительной информации, поэтому перед вводом данных в чат необходимо удалять персональные сведения. В-третьих, ИИ категорически не подходит для оценки онкомаркеров, анализов детей и беременных, а также ситуаций, сопровождающихся выраженными симптомами вроде боли, температуры или кровотечения.
Если вы все же используете нейросеть для первичного ознакомления, эксперт советует не просить ИИ ставить диагноз. Вместо этого лучше запросить список возможных причин отклонений или перечень вопросов для очной консультации с доктором. Обязательно указывайте референсные значения конкретной лаборатории и все сопутствующие факторы, чтобы минимизировать вероятность системной ошибки.
Комментарии (0)
Пока нет комментариев. Будьте первым!