Искусственный интеллект следует использовать с осторожностью в медицине, в том числе при постановке диагнозов, предупредили во Всемирной организации здравоохранения (ВОЗ). Там призвали тщательно изучать риски при работе с ChatGPT, Bard, Bert и подобными платформами.
Вот что вызывает опасения у организации:
- искусственный интеллект может обучиться на основе предвзятых данных и из-за этого генерировать неверную информацию, способную нанести «ущерб здоровью и инклюзивности»;
- иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными;
- не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, в том числе касающуюся его здоровья;
- чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.
ВОЗ одобряет «надлежащее использование технологий», но подчеркивает важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки» перед тем, как чат-боты начнут активно применять в здравоохранении.