Людський розум довгий-довгий час залишався незрозумілим і загадковим. І, схоже, вчені визнали нового претендента на цей список – штучний інтелект (ШІ). З самого початку, розуміння розуму штучного інтелекту звучить досить оксюморонно. Однак, оскільки штучний інтелект поступово стає більш розумним і наближається до імітації людей та їхніх емоцій, ми спостерігаємо явища, які є вродженими для людей і тварин – галюцинації.
Так, схоже, що ту саму подорож, у яку вирушає розум, покинутий у пустелі, викинутий на острів або замкнений на самоті в кімнаті без вікон і дверей, переживають і машини. Галюцинації штучного інтелекту реальні, і технічні експерти та ентузіасти зафіксували численні спостереження та висновки.
У сьогоднішній статті ми дослідимо цей загадковий, але водночас інтригуючий аспект моделей великих мов (LLM) і дізнаємося дивні факти про галюцинації штучного інтелекту.
Що таке AI галюцинації?
У світі штучного інтелекту галюцинації не є прямолінійним позначеннями візерунків, кольорів, форм чи людей, яких розум може чітко уявити. Натомість, галюцинації стосуються неправильних, недоречних або навіть оманливих фактів і відповідей. Інструменти генеративного штучного інтелекту генерують підказки.
Наприклад, уявіть, що ви запитуєте модель зі штучним інтелектом, що таке космічний телескоп Hubble, і вона починає відповідати такою відповіддю, як «Камера IMAX — це спеціальне відео з високою роздільною здатністю…».
Ця відповідь не має значення. Але що важливіше, чому модель генерувала відповідь, яка дотично відрізняється від представленої підказки? Експерти вважають, що галюцинації можуть бути викликані кількома факторами, такими як:
- Низька якість даних навчання ШІ
- Надто самовпевнені моделі ШІ
- Складність програм обробки природної мови (NLP).
- Помилки кодування та декодування
- Змагальні атаки або зломи моделей ШІ
- Розбіжність джерело-посилання
- Упередженість або неоднозначність вхідних даних тощо
Галюцинація штучного інтелекту надзвичайно небезпечна, і її інтенсивність тільки зростає з підвищенням специфікації її застосування.
Наприклад, галюцинаційний інструмент GenAI може призвести до втрати репутації підприємства, яке його розгортає. Однак коли подібна модель ШІ розгортається в такому секторі, як охорона здоров’я, це змінює рівняння між життям і смертю. Уявіть собі це: якщо модель штучного інтелекту галюцинує та генерує відповідь на аналіз даних звітів про медичну візуалізацію пацієнта, вона може ненавмисно повідомити про доброякісну пухлину як про злоякісну, що призведе до відхилення від індивідуального діагнозу та лікування.
Розуміння прикладів галюцинацій ШІ
ШІ галюцинації бувають різних типів. Давайте розберемося з деякими з найвидатніших.
Фактично некоректна реакція інформації
- Хибнопозитивні відповіді, як-от позначення правильної граматики в тексті як неправильної
- Помилкові негативні відповіді, як-от не помічають очевидних помилок і видають їх за справжні
- Вигадування неіснуючих фактів
- Неправильне джерело або фальсифікація цитат
- Надмірна впевненість у відповіді з неправильними відповідями. Приклад: Who sang Here Comes Sun? Металіка.
- Змішування понять, імен, місць або подій
- Дивні або страшні відповіді, як-от популярний демонічний автономний сміх Alexa тощо
Запобігання галюцинаціям ШІ
Дезінформацію будь-якого типу, згенеровану штучним інтелектом, можна виявити та виправити. У цьому особливість роботи зі штучним інтелектом. Ми це винайшли і можемо це виправити. Ось кілька способів, як ми можемо це зробити.
Обмеження відповідей
Кажуть, неважливо, якими мовами ми говоримо. Нам потрібно знати, коли припинити говорити в усіх них. Це також стосується моделей ШІ та їхніх відповідей. У цьому контексті ми можемо обмежити здатність моделі генерувати відповіді на певний обсяг і зменшити ймовірність отримання дивних результатів. Це називається регуляризацією, і воно також передбачає покарання моделей штучного інтелекту за створення екстремальних і розтягнутих результатів підказок.
Відповідні та герметичні джерела для цитування та отримання відповідей
Коли ми навчаємо модель штучного інтелекту, ми також можемо обмежити джерела, на які модель може посилатися та отримувати інформацію, лише законними та надійними. Наприклад, моделі штучного інтелекту в галузі охорони здоров’я, подібні до прикладу, який ми обговорювали раніше, можуть посилатися лише на джерела, які заслуговують на довіру інформації, завантаженої медичними зображеннями та технологіями візуалізації. Це заважає машинам знаходити та співвідносити шаблони з біполярних джерел і генерувати відповідь.
Визначення мети моделі ШІ
Моделі штучного інтелекту швидко навчаються, і їм просто потрібно точно сказати, що вони повинні робити. Точно визначаючи призначення моделей, ми можемо навчити моделі розуміти власні можливості та обмеження. Це дозволить їм автономно перевіряти свої відповіді, узгоджуючи згенеровані відповіді з підказками користувача та їхньою метою отримати чисті результати.
Людський нагляд у ШІ
Навчання систем штучного інтелекту таке ж важливе, як навчання дитини плаванню або їзді на велосипеді вперше. Це вимагає нагляду дорослих, поміркованості, втручання та тримання за руки. Більшість галюцинацій ШІ виникають через людську недбалість на різних стадіях розвитку ШІ. Можна досягти якісних результатів, залучивши відповідних експертів і забезпечивши робочий процес із залученням людини в цикл для перевірки та ретельного аналізу відповідей ШІ. Крім того, моделі можуть бути додатково вдосконалені для точності та точності.
Шайп і наша роль у запобіганні галюцинаціям ШІ
Одним із інших найбільших джерел галюцинацій є неякісні дані для навчання ШІ. Що ви надаєте, те й отримуєте. Саме тому Shaip вживає проактивних заходів, щоб забезпечити надання даних найвищої якості для ваших потреб у генеративному навчанні ШІ .
Наші суворі протоколи забезпечення якості та етично отримані набори даних ідеально підходять для ваших концепцій ШІ та забезпечення чітких результатів. Хоча технічні збої можна виправити, вкрай важливо, щоб проблеми щодо якості навчальних даних вирішувалися на низовому рівні, щоб запобігти переробці розробки моделі з нуля. Саме тому ваш етап навчання ШІ та LLM має починатися з наборів даних від Shaip.
