MedQA: клинический ИИ дообучен на AMD ROCm без CUDA
Hugging Face совместно с LabLab AI запустили MedQA – модель для медицинских вопросов, дообученную на AMD ROCm, полностью без CUDA.
В рамках хакатона LabLab AI, поддерживаемого AMD, Hugging Face представила MedQA – модель, адаптированную под клинические задачи и обученную на инфраструктуре AMD ROCm. По сравнению с традиционными решениями, требующими NVIDIA‑CUDA, MedQA использует открытый стек ROCm, позволяя запускать тяжёлые модели на процессорах AMD без потери производительности.
Команда начала с базовой модели Llama‑2‑7B‑Chat и провела дообучение на наборе вопросов‑ответов из медицинской литературы (MedQA dataset). В процессе использовались DeepSpeed и PEFT‑техники, что сократило время обучения до 4 часов на 8‑ми GPU AMD MI250X. Точность модели на тестовом наборе достигла 78,4 %, превзойдя аналогичный запуск на NVIDIA‑GPU (76,1 %).
Для упрощения репликации Hugging Face опубликовала готовый Docker‑образ и инструкцию по запуску на любой системе с ROCm 5.7+. Кроме того, в репозитории доступен скрипт для инференса через 🤗 Transformers и пример интеграции в чат‑боты для клинической поддержки.
Эта работа демонстрирует, что экосистема AMD ROCm готова к масштабным задачам в медицине, открывая путь к более доступным и энерго‑эффективным решениям без привязки к NVIDIA‑технологиям.
Для разработчиков медицинских ИИ это шанс использовать более дешёвое оборудование AMD без потери качества. Открытый стек ROCm упрощает масштабирование, а готовый Docker‑образ ускорит прототипирование. Однако стоит учитывать, что поддержка ROCm пока ограничена некоторыми фреймворками, поэтому проверяйте совместимость.
