Розв’язувати проблеми було однією з вроджених здібностей людей. Починаючи з наших первісних днів, коли нашими головними труднощами в житті було не з’їсти хижого звіра, аж до сучасності, щоб швидко доставити щось додому, ми об’єднуємо нашу творчість, логічне мислення та інтелект, щоб знайти рішення для конфліктів. .
Зараз, коли ми спостерігаємо зародження розумових інтелектуальних інтелекту, ми стикаємося з новими проблемами щодо їхньої здатності приймати рішення. У той час як попереднє десятиліття було присвячене святкуванню можливостей і потенціалу моделей і програм штучного інтелекту, це десятиліття спрямоване на крок далі – поставити під сумнів легітимність рішень, прийнятих такими моделями, і вивести аргументи, що стоять за ними.
Оскільки пояснимий штучний інтелект (XAI) набуває дедалі більшої популярності, саме час обговорити ключову концепцію в розробці моделей ШІ, яку ми називаємо « ланцюжком думок» . У цій статті ми детально розшифруємо та демістифікуємо це значення та прості терміни.
Що таке спонукання за ланцюгом думок?
Коли людський розум стоїть перед викликом або складною проблемою, він природним чином намагається розбити її на фрагменти менших послідовних кроків. Керуючись логікою, розум встановлює зв’язки та моделює сценарії причинно-наслідкових зв’язків, щоб розробити стратегію найкращого вирішення проблеми.
Процес відтворення цього в моделі або системі штучного інтелекту називається ланцюгом думок.
Як випливає з назви, модель ШІ генерує серію або ланцюжок логічних думок (або кроків) для підходу до запиту або конфлікту. Уявіть це як надання покрокових інструкцій комусь, хто запитує маршрут до пункту призначення.
Це переважна техніка, яка використовується в моделях міркування OpenAI. Оскільки вони створені так, щоб думати, перш ніж генерувати відповідь або відповідь, вони змогли зламати конкурсні іспити, які складали люди.
[Читайте також: Все, що вам потрібно знати про LLM ]
Переваги спонукання за ланцюгом думок
Усе, що керується логікою, дає значну перевагу. Подібним чином моделі, навчені ланцюжку думок, пропонують не лише точність і релевантність, але й різноманітні переваги, зокрема:
Розширені можливості вирішення проблем , де їхня важливість є критично важливою в таких галузях, як охорона здоров'я та фінанси. Магістр права (LLM), що використовує метод ланцюжка думок, краще розуміє явні та основні проблеми та генерує відповіді після розгляду різних ймовірностей та найгірших сценаріїв.
Пом'якшення припущень та результатів, отриманих з припущень, оскільки моделі застосовують логічне та послідовне мислення та обробку для висновків, а не поспішні висновки.
Підвищена універсальність , оскільки моделі не потрібно ретельно навчати на новому випадку використання, оскільки вони керуються логікою, а не метою.
Оптимізована узгодженість у завданнях, що включають багатоскладові/багаточастинні відповіді.
Анатомія функціонування техніки спонукання ланцюга думок
Якщо ви знайомі з монолітною архітектурою програмного забезпечення, ви б знали, що вся програмна програма розроблена як єдиний узгоджений блок. Спрощення такого складного податку прийшло завдяки методу архітектури мікросервісів, який передбачав розбиття програмного забезпечення на незалежні сервіси. Це призвело до швидшої розробки продуктів і бездоганної функціональності.
Підказки CoT у ШІ схожі, де LLM проходять через серію послідовних процесів міркування для генерації відповіді. Це досягається за допомогою:
- Явні інструкції, коли моделям прямо наказують підходити до проблеми послідовно за допомогою простих команд.
- Неявні інструкції є більш витонченими та нюансованими у своєму підході. У цьому випадку модель розглядається через логіку подібного завдання та використовує свої можливості висновку та розуміння, щоб відтворити логіку представлених проблем.
- Демонстративні приклади, де модель викладає покрокові міркування та генерує поступову інформацію для вирішення проблеми.
3 реальні випадки, коли використовується підказка CoT
Моделі фінансових рішень
| Мультимодальний CoT In Bots
| Служба охорони здоров’я
|
|---|---|---|
| У цьому надзвичайно нестабільному секторі підказки CoT можна використовувати для розуміння потенційної фінансової траєкторії компанії, проведення оцінки ризиків тих, хто шукає кредит, тощо. | Чат-боти, які розробляються та розгортаються для підприємств, потребують нішевих функцій. Вони мають продемонструвати вміння розуміти різні формати вхідних даних. Підказки CoT найкраще працюють у таких випадках, коли роботам доводиться поєднувати текстові підказки та зображення, щоб створити відповіді на запити. | Від діагностики пацієнтів на основі медичних даних до створення індивідуальних планів лікування для пацієнтів, підказки CoT можуть доповнювати цілі охорони здоров’я для клінік і лікарень. |
Приклад
Запит клієнта: Я помітив транзакцію у своєму обліковому записі, яку не впізнаю, мою дебетову картку було загублено, і я хочу налаштувати сповіщення про транзакції у своєму обліковому записі. Чи можете ви допомогти мені з цими проблемами?
Крок 1: Визначте та класифікуйте проблеми
- Нерозпізнана транзакція.
- Загублена дебетова картка.
- Налаштування сповіщень про транзакції.
Крок 2. Вирішіть проблему з нерозпізнаною транзакцією
Запитайте деталі: Чи не могли б ви надати дату та суму транзакції?
- Відділення 1: Якщо надано деталі:
- Перегляньте транзакцію. Якщо це шахрайство, запитайте, чи хоче клієнт оскаржити це.
- Відділення 2: Якщо немає деталей:
- Запропонуйте надати список останніх операцій.
Крок 3. Зверніться до втраченої дебетової картки
Заморозити картку: Рекомендується негайне заморожування.
- Відділення 1: Якщо клієнт погоджується:
- Заморозьте картку та запитайте, чи хочуть вони заміну. Підтвердьте адресу доставки.
- Відділення 2: Якщо клієнт відмовляється:
- Порадьте стежити за несанкціонованими транзакціями в обліковому записі.
Крок 4: Налаштуйте сповіщення про транзакції
Виберіть спосіб сповіщення: SMS, електронна пошта чи обидва?
- Відділення 1: Якщо клієнт вибирає:
- Встановіть сповіщення для транзакцій, які перевищують вказану суму. Запитайте суму.
- Відділення 2: Якщо не впевнений:
- Запропонуйте суму за умовчанням (наприклад, $50) і підтвердьте.
Крок 5. Надайте підсумок і наступні кроки
- Розслідування нерозпізнаної транзакції.
- Заморозка дебетової картки та, можливо, видача заміни.
- Налаштування сповіщень про транзакції за запитом.
Обгрунтування:
Цей процес ефективно відповідає на численні запити клієнтів за допомогою чітких кроків і гілок прийняття рішень, забезпечуючи комплексні рішення.
Обмеження підказок CoT
Ланцюг думок справді ефективний, але він також залежить від конкретного випадку використання та кількох інших факторів. Існують специфічні проблеми, пов'язані з підказками CoT у ШІ , які заважають зацікавленим сторонам повністю використовувати його потенціал. Давайте розглянемо поширені вузькі місця:
Надмірно ускладнюйте прості завдання
Хоча підказка CoT найкраще працює для складних завдань, вона може ускладнювати прості завдання та генерувати неправильні відповіді. Для завдань, які не потребують міркувань, найкраще працюють моделі прямої відповіді.
Збільшене обчислювальне навантаження
Обробка підказок CoT вимагає значного обчислювального навантаження, і якщо цю техніку розгортати на менших моделях, які побудовані з обмеженими можливостями обробки, вона може перевантажити їх. Наслідки такого розгортання можуть включати менший час відгуку, низьку ефективність, неузгодженість тощо.
Якість швидкої розробки ШІ
Підказки CoT у ШІ працюють виходячи з припущення (або принципу), що конкретна підказка добре сформульована, структурована та зрозуміла. Якщо підказці бракує цих факторів, підказка CoT втрачає здатність зрозуміти вимогу, що призводить до генерації нерелевантних послідовних кроків і, зрештою, відповідей.
[Читайте також: Що таке моделі малої мови? Приклади з реального світу та навчальні дані ]
Зменшені масштабні можливості
Зацікавлені сторони можуть зіткнутися зі складнощами своїх моделей, якщо їм доведеться використовувати ланцюжок думок, які підказують величезні обсяги наборів даних або складні проблеми. Для завдань, що включають більші кроки міркування, техніка може сповільнити час відповіді, що робить її непридатною для програм або випадків використання, які вимагають генерації відповіді в реальному часі.
Підказки CoT – це феноменальний метод оптимізації продуктивності моделей великих мов . Якщо такі недоліки можна вирішити за допомогою методів оптимізації або обхідних шляхів, вони можуть дати неймовірні результати. З розвитком технологій буде цікаво спостерігати, як підказки ланцюга думок розвиватимуться та ставатимуть простішими, але водночас більш нішевими.
