Сполучні Штати — Пацієнткою була 39-річна жінка, яка звернулася до відділення невідкладної допомоги медичного центру Beth Israel Deaconess у Бостоні. У неї боліло ліве коліно вже кілька днів. Напередодні у неї піднялася температура до 102 градусів. Зараз вона спала, але у неї все ще був озноб. А коліно було червоним і набряклим.
Який був діагноз?
Нещодавньої спекотної п'ятниці доктор Меган Лендон, медичний ординатор, представила цей реальний випадок в аудиторії, повній студентів і ординаторів-медиків. Вони зібралися, щоб навчитися навичкам, які може бути диявольськи складно викладати - як мислити як лікар.
"Лікарі жахливо вміють навчати інших лікарів, як ми думаємо", - сказав доктор Адам Родман, терапевт, історик медицини та організатор заходу в Бет-Ісраель Дияконесс.
Але цього разу вони могли звернутися до експерта за допомогою в постановці діагнозу - GPT-4, останньої версії чат-бота, випущеного компанією OpenAI.
Штучний інтелект трансформує багато аспектів медичної практики, і деякі медичні працівники використовують ці інструменти для допомоги в діагностиці. Лікарі Beth Israel Deaconess, навчальної лікарні при Гарвардській медичній школі, вирішили дослідити, як чат-боти можуть бути використані - і зловживати ними - у навчанні майбутніх лікарів.
Викладачі, такі як доктор Родман, сподіваються, що студенти-медики зможуть звертатися до GPT-4 та інших чат-ботів за чимось подібним до того, що лікарі називають консультацією на узбіччі - коли вони відводять колегу вбік і запитують його думку про складний випадок. Ідея полягає в тому, щоб використовувати чат-бота так само, як лікарі звертаються один до одного за порадами та ідеями.
Понад століття лікарів зображували як детективів, які збирають докази і використовують їх, щоб знайти злочинця. Але досвідчені лікарі насправді використовують інший метод - розпізнавання образів - щоб з'ясувати, що не так. У медицині це називається сценарієм хвороби: ознаки, симптоми і результати аналізів, які лікарі збирають воєдино, щоб розповісти зв'язну історію, засновану на подібних випадках, про які вони знають або бачили самі.
Якщо сценарій хвороби не допомагає, каже доктор Родман, лікарі звертаються до інших стратегій, таких як визначення ймовірності різних діагнозів, які можуть підійти.
Понад півстоліття дослідники намагалися розробити комп'ютерні програми для постановки медичних діагнозів, але нічого з цього не вийшло.
Лікарі кажуть, що GPT-4 відрізняється від них. "Вона створить щось дуже схоже на сценарій хвороби", - сказав доктор Родман. Таким чином, додав він, "він принципово відрізняється від пошукової системи".
Доктор Родман та інші лікарі Бет Ісраель Дияконесс звернулися до GPT-4 з проханням поставити можливий діагноз у складних випадках. У дослідженні, опублікованому минулого місяця в медичному журналі JAMA, вони виявили, що вона краще за більшість лікарів справляється з щотижневими діагностичними завданнями, опублікованими в New England Journal of Medicine.
Але, як з'ясувалося, використання програми - це ціле мистецтво, і тут є свої підводні камені.
Доктор Крістофер Сміт, директор програми резидентури з внутрішньої медицини в медичному центрі, сказав, що студенти-медики і резиденти "безумовно використовують її". Але, додав він, "чи навчаються вони чомусь - питання відкрите".
Занепокоєння викликає те, що вони можуть покладатися на ШІ для постановки діагнозу так само, як вони покладаються на калькулятор на телефоні для розв'язання математичних задач. Це, за словами доктора Сміта, небезпечно.
Навчання, за його словами, передбачає намагання розібратися в чомусь: "Так ми запам'ятовуємо інформацію. Частиною навчання є боротьба. Якщо ви віддаєте навчання на аутсорсинг GPT, ця боротьба зникає".
На зустрічі студенти та ординатори розбилися на групи і намагалися з'ясувати, що не так з пацієнтом з опухлим коліном. Потім вони звернулися до GPT-4.
Групи спробували різні підходи.
Одна використовувала GPT-4 для пошуку в Інтернеті, подібно до того, як ми використовуємо Google. Чат-бот видав список можливих діагнозів, включаючи травму. Але коли члени групи попросили його пояснити свої міркування, бот розчарував, пояснивши свій вибір словами: "Травма - поширена причина пошкодження колінного суглоба".
Інша група подумала про можливі гіпотези і попросила GPT-4 перевірити їх. Список чат-бота збігся зі списком групи: інфекції, в тому числі хвороба Лайма; артрит, в тому числі подагра, тип артриту, який включає кристали в суглобах; і травма.
GPT-4 додала ревматоїдний артрит до списку можливих захворювань, хоча він не був першим у списку групи. Подагра, як пізніше сказали інструктори групі, була малоймовірною для цієї пацієнтки, оскільки вона була молодою і жіночої статі. А ревматоїдний артрит, ймовірно, можна було виключити, тому що запалився лише один суглоб, і то лише на пару днів.
Як консультація на узбіччі, GPT-4, здавалося, пройшла тест або, принаймні, була прийнята студентами та ординаторами. Але в цій вправі вона не дала жодних ідей і не запропонувала сценарію хвороби.
Однією з причин може бути те, що студенти та мешканці використовували бота більше як пошукову систему, ніж як консультанта.
За словами викладачів, щоб правильно використовувати бота, їм потрібно було почати з того, що сказати GPT-4 щось на кшталт: "Ви - лікар, до вас звернулася 39-річна жінка з болем у коліні". Потім вони мають перерахувати її симптоми перед тим, як поставити діагноз, і поставити запитання щодо міркувань бота, так само, як вони це робили б у випадку з колегою-медиком.
Це, за словами інструкторів, спосіб використання можливостей GPT-4. Але також важливо визнати, що чат-боти можуть помилятися і "галюцинувати" - давати відповіді, які не мають під собою жодного підґрунтя. Щоб користуватися ними, потрібно знати, коли вони помиляються.
"Немає нічого поганого у використанні цих інструментів, - каже доктор Байрон Кроу, лікар-терапевт у лікарні. "Ви просто повинні використовувати їх у правильний спосіб".
Він навів групі аналогію.
"Пілоти використовують GPS", - сказав д-р Кроу. Але, додав він, авіакомпанії "мають дуже високі стандарти надійності". У медицині, за його словами, використання чат-ботів "дуже спокусливе", але тут повинні застосовуватися такі ж високі стандарти.
"Це чудовий інтелектуальний партнер, але він не замінить глибокого розумового досвіду", - сказав він.
Наприкінці сесії інструктори з'ясували справжню причину розпухлого коліна пацієнта.
Виявилося, що це була можливість, яку розглядала кожна група, і яку запропонувала GPT-4.
У неї була хвороба Лайма.
