Людина в петлі

Визначення

Система «людина в циклі» (HITL) стосується систем, де людське судження інтегровано в робочі процеси штучного інтелекту для таких завдань, як навчання, оцінювання або прийняття рішень.

Мета

Мета полягає в поєднанні людського досвіду з ефективністю штучного інтелекту. Це забезпечує якість, етичний нагляд та безпеку в делікатних програмах.

Значення

• Зменшує кількість помилок у сферах високого ризику (наприклад, охорона здоров'я, оборона).
• Покращує навчання завдяки зворотному зв'язку від людини.
• Забезпечує підзвітність в автоматизованих системах.
• Повільніше та дорожче порівняно з повною автоматизацією.

Як це працює

1. Визначте сфери, де потрібен людський нагляд.
2. Збирайте результати або пропозиції ШІ.
3. Люди підтверджують, виправляють або надають зворотний зв'язок.
4. Зворотній зв'язок інтегровано для перенавчання або вдосконалення моделей.
5. Контролюйте продуктивність системи за допомогою постійної перевірки людиною.

Приклади (реальний світ)

• Модерація контенту: люди переглядають позначені штучним інтелектом публікації.
• Медичний ШІ: лікарі перевіряють діагнози, згенеровані ШІ.
• Навчання з підкріпленням на основі людського зворотного зв'язку (RLHF): навчає мовні моделі, такі як ChatGPT.

Література / Додаткова література

• Амерші та ін. «Влада для людей: роль людей в інтерактивному машинному навчанні». Журнал AI.
• Структура управління ризиками NIST для штучного інтелекту.
• Стандарти IEEE для систем «людина-в-циклі».
• Розуміння взаємодії людини з іншими системами