Параметро-ефективне точне налаштування (PEFT)

Визначення

Параметро-ефективне точне налаштування (PEFT) – це метод адаптації великих попередньо навчених моделей до нових завдань шляхом оновлення лише невеликої підмножини параметрів, а не всієї моделі.

Мета

Мета полягає в зменшенні обчислювальних витрат і потреб у сховищі, зберігаючи при цьому високу продуктивність завдань.

Значення

• Робить точне налаштування можливим для організацій без значних ресурсів.
• Зменшує вуглецевий слід порівняно з повним навчанням моделі.
• Дозволяє ефективне перемикання завдань у виробництві.
• Пов'язано з такими методами, як LoRA та адаптери.

Як це працює

1. Виберіть велику попередньо навчену базову модель.
2. Визначте підмножини параметрів (наприклад, адаптери низького рангу).
3. Навчати лише ці підмножини на даних цільового завдання.
4. Залиште інші параметри замороженими.
5. Розгортання з мінімальними ресурсними витратами.

Приклади (реальний світ)

• LoRA (низькорангова адаптація): широко використовується для точного налаштування LLM.
• Бібліотека PEFT Hugging Face: ефективний набір інструментів для точного налаштування.
• Дослідження Google: адаптери для багатомовних завдань NLP.

Література / Додаткова література

• Ху та ін. «LoRA: Низькорангова адаптація моделей великих мов». arXiv.
• Хоулсбі та ін. «Параметрично ефективне трансферне навчання для НЛП». ACL.
• Документація PEFT для обіймання обличчя.