Якщо ви маєте намір відкрити успішний пончиковий бізнес, вам потрібно приготувати найкращий пончик на ринку. Хоча ваші технічні навички та досвід відіграють вирішальну роль у вашому бізнесі з виробництва пончиків, щоб ваші смаколики справді захопили вашу цільову аудиторію та залучали постійний бізнес, вам потрібно готувати свої пончики з найкращих інгредієнтів.
Якість ваших окремих інгредієнтів, місце, звідки ви їх берете, те, як вони поєднуються та доповнюють один одного, і багато іншого незмінно визначають смак, форму та консистенцію пончика. Те саме стосується розробки ваших моделей машинного навчання.
Хоча аналогія може здатися дивною, усвідомте, що найкращим інгредієнтом, який ви можете додати до своєї моделі машинного навчання, є якісні дані. За іронією долі, це також найскладніша частина розробки ШІ (штучного інтелекту). Підприємствам важко отримати та зібрати якісні дані для своїх процедур навчання штучному інтелекту, що в кінцевому підсумку або затримує час розробки, або запускає рішення з меншою ефективністю, ніж очікувалося.
Обмежені бюджетами та операційними обмеженнями, вони змушені вдаватися до нестандартних методів збору даних, таких як різні методи краудсорсингу. Тож чи працює це? Чи справді краудсорсинг високоякісних даних можливий? Як взагалі виміряти якість даних?
Давай дізнаємось.
Що таке якість даних і як її виміряти?
Якість даних визначається не лише тим, наскільки чистими та структурованими є ваші набори даних. Це естетичні показники. Що дійсно важливо, так це те, наскільки релевантні ваші дані для вашого рішення. Якщо ви розробляєте модель штучного інтелекту для рішення в галузі охорони здоров'я , і більшість ваших наборів даних – це просто життєво важливі статистичні дані з носимих пристроїв, у вас є погані дані.
При цьому немає жодного відчутного результату. Таким чином, якість даних зводиться до даних, які відповідають контексту ваших бізнес-прагнень, повні, анотовані та готові до машин. Гігієна даних є підмножиною всіх цих факторів.
Тепер, коли ми знаємо, що таке дані низької якості, ми також склали список із 5 факторів, які впливають на якість даних.
Як виміряти якість даних?
Співвідношення даних до помилок
Це відстежує кількість помилок, які має набір даних щодо його обсягу.
Порожні значення
Цей показник вказує на кількість неповних, відсутніх або порожніх значень у наборах даних.
Коефіцієнти помилок перетворення даних
Це відстежує кількість помилок, які виникають, коли набір даних трансформується або перетворюється в інший формат.
Темний том даних
Темні дані — це будь-які дані, які непридатні для використання, зайві або розпливчасті.
Час до значення даних
Це вимірює час, який ваші співробітники витрачають на отримання необхідної інформації з наборів даних.
Отже, як забезпечити якість даних під час краудсорсингу
Будуть випадки, коли вашу команду змушуватимуть збирати дані у стислі терміни. У таких випадках краудсорсингові методи суттєво допомагають . Однак, чи означає це, що краудсорсинг високоякісних даних завжди може бути правдоподібним результатом?
Якщо ви готові вжити цих заходів, якість ваших краудсорсингових даних підвищиться до певної міри, що ви зможете використовувати їх для швидкого навчання ШІ.
Чіткі та недвозначні вказівки
Краудсорсинг означає, що ви будете звертатися до краудсорсингових працівників через Інтернет, щоб вони внесли відповідну інформацію у відповідь на ваші потреби.
Бувають випадки, коли справжні люди не можуть надати правильні та відповідні дані, оскільки ваші вимоги були неоднозначними. Щоб цього уникнути, опублікуйте набір чітких вказівок щодо суті процесу, як їхні внески допоможуть, як вони можуть зробити внесок тощо. Щоб звести до мінімуму криву навчання, запропонуйте скріншоти того, як надсилати деталі, або створіть короткі відео про процедуру.
Різноманітність даних і усунення зміщень
Опублікуйте свою краудсорсингову кампанію серед різних сегментів ринку, аудиторії, етнічних груп, вікових груп, економічного походження тощо . Це допоможе вам зібрати багатий пул даних, який можна використовувати для отримання неупереджених результатів.
Кілька процесів контролю якості
В ідеалі ваша процедура контролю якості повинна включати два основні процеси:
- Процес, керований моделями машинного навчання
- І цей процес очолює команда професійних партнерів із забезпечення якості
Машинне навчання QA
Це може бути ваш попередній процес перевірки, де моделі машинного навчання оцінюють, чи заповнені всі обов'язкові поля, чи завантажено необхідні документи або деталі, чи відповідають записи опублікованим полям, чи різноманітність наборів даних тощо. Для складних типів даних, таких як аудіо, зображення чи відео, моделі машинного навчання також можна навчити перевіряти необхідні фактори, такі як тривалість, якість звуку, формат тощо.
Керівництво QA
Це був би ідеальний процес перевірки якості другого рівня, коли ваша команда професіоналів проводить швидкі аудити випадкових наборів даних, щоб перевірити відповідність необхідним показникам якості та стандартам.
Якщо в результатах є закономірність, модель можна оптимізувати для кращих результатів. Причина, чому ручна перевірка якості не була б ідеальним попереднім процесом, полягає в тому, що ви врешті-решт отримаєте обсяг наборів даних.
Отже, який у вас план?
Отже, це були найпрактичніші найкращі практики для оптимізації якості краудсорсингових даних. Процес трудомісткий, але такі заходи роблять його менш громіздким. Впроваджуйте їх та відстежуйте свої результати, щоб побачити, чи відповідають вони вашому баченню.
