ИИ может сократить объем бумажной работы, но способен приводить к ошибкам в медицинских картах пациентов

Инструменты искусственного интеллекта, автоматически создающие медицинские записи во время приема, становятся все более распространенными в здравоохранении. Однако эксперты предупреждают, что они могут не только облегчить работу врачей, но и стать источником ошибок в медицинской документации, а также вызвать вопросы о защите персональных данных.

Согласно докладу Off the Record, подготовленному организацией Digital Rights Watch, более 40% австралийских врачей уже используют ИИ-системы для ведения медицинских записей. Во время консультации такие программы прослушивают разговор врача с пациентом и с помощью больших языковых моделей, подобных ChatGPT или Claude, автоматически формируют клинические заметки.

Для врачей такие технологии позволяют существенно сократить административную нагрузку, уделять больше времени пациентам и снизить уровень профессионального выгорания. Кроме того, поскольку австралийская система Medicare оплачивает очный прием, а не оформление документации, использование ИИ также имеет экономические преимущества.

Вместе с тем специалисты отмечают, что подобные системы не просто расшифровывают речь, а интерпретируют и обобщают содержание разговора. Это может приводить к так называемым «галлюцинациям» искусственного интеллекта, когда в медицинской карте появляется информация, которая никогда не обсуждалась. Например, рекомендация отказаться от курения может быть ошибочно записана как совет избегать бытовых пожаров.

Кроме того, ИИ может воспроизводить предвзятость, связанную с расой, этническим происхождением, социальным положением или языком. Из-за этого повышается риск неточного оформления медицинских записей у пациентов из различных культурных и языковых сообществ, а также у людей, для которых английский язык не является родным.

Ранние исследования показывали, что до 90% медицинских записей, созданных искусственным интеллектом, требовали исправлений. Более поздние работы свидетельствуют, что примерно 20% таких записей содержат ошибки, способные повлиять на постановку диагноза.

Авторы отмечают, что врачам бывает сложно обнаружить подобные ошибки из-за высокой рабочей нагрузки и так называемой предвзятости автоматизации — склонности чрезмерно доверять информации, созданной компьютерной системой.

Отдельную обеспокоенность вызывают вопросы конфиденциальности. Многие разработчики ИИ-систем не раскрывают, как именно обрабатываются медицинские данные пациентов, кто имеет к ним доступ и какие модели искусственного интеллекта используются. В результате даже сами медицинские работники зачастую не могут дать пациентам исчерпывающие ответы о том, как защищается их личная информация.

Авторы публикации считают, что в Австралии такие системы следует регулировать как медицинские изделия и подвергать тем же проверкам безопасности, что и другое медицинское оборудование. Они также призывают усилить законодательную защиту персональных данных, обязать разработчиков ИИ раскрывать принципы обработки информации, проводить независимую оценку надежности подобных технологий и установить четкую ответственность за сохранность данных пациентов.

По мнению авторов, без подобных мер распространение искусственного интеллекта в здравоохранении может подорвать доверие общества к системе медицинской помощи.