Нещодавній звіт Mercor став корисним сигналом тривоги для корпоративних покупців штучного інтелекту. Mercor підтвердила інцидент безпеки, пов'язаний з атакою на ланцюг поставок LiteLLM, і, за повідомленнями, Meta призупинила роботу з компанією, поки тривають розслідування. Для лідерів у сфері безпеки, закупівель та штучного інтелекту урок простий: перевірка постачальників більше не може зупинятися на верхньому рівні.
1. Звідки беруться ваші дані та як вони регулюються?
Запитайте конкретику щодо джерел, згоди, ліцензування, походження, зберігання та видалення. Якщо відповідь нечітка, це тривожний знак.
Публічні рекомендації Шайпа щодо Збір даних AI наголошує на походженні, документації, гарантіях конфіденційності та структурованих практиках збору інформації.
2. Які сторонні інструменти та інструменти з відкритим кодом вбудовані у ваш робочий процес?
Це ще важливіше зараз, оскільки Mercor публічно пов'язала свій інцидент з LiteLLM і назвала себе однією з тисяч компаній, які постраждали від атаки на ланцюг поставок.
3. Як ви контролюєте доступ до конфіденційних наборів даних та ресурсів оцінки?
Обмеження доступу, шифрування, ведення журналу аудиту та сегрегація даних повинні бути базовими вимогами.
Потрібен постачальник, створений для довіри підприємства?
4. Як насправді виглядає ваш процес забезпечення якості?
Шукайте вимірювані практики, такі як багаторівневий огляд, золоті набори даних, судове розгляд та структуровані цикли корекції.
Публічне позиціонування Шайпа навколо якість, що базується на принципі «людина в циклі» та Сервіси з обробки даних для навчання LLM підтримує ідею про те, що якість має бути інтегрована в робочий процес, а не додаватися як остаточна перевірка.
5. Як ви розглядаєте крайні випадки та неоднозначні рішення?
У корпоративному штучному інтелекті не все можна безпечно автоматизувати. Деякі завдання все ще вимагають перевірки людиною з урахуванням особливостей домену.
У публічних рекомендаціях Shaip щодо HITL стверджується, що люди повинні бути розміщені у найважчих ланках робочого процесу, де судження та відповідальність мають найбільше значення.
6. Які у вас є докази відповідності вимогам та зрілості безпеки?
7. Що станеться, якщо зміниться структура вашої власності, партнерства або стратегічні пріоритети?
Саме тут важливі нейтралітет та захист клієнтів. Покупці повинні запитати, як їхні дані захищені, чи відповідають стимули постачальника потребам клієнта та як інтереси клієнтів захищаються з часом.
Публічна стаття Шайпа про нейтральність даних стверджує, що нейтралітет важливий, оскільки клієнтам потрібні постачальники, чиї стимули узгоджуються з довірою, а не з конкуруючими програмами продуктів.
Остаточний винос
Постачальників даних штучного інтелекту не слід розглядати як взаємозамінних постачальників послуг. Вони занадто близько займаються питаннями якості моделі, захисту інтелектуальної власності, безперервності операційної діяльності та довіри підприємства. Правильний партнер — це не просто той, хто може найшвидше виконати свою роботу. Це той, хто може показати, як керуються дані, як захищаються робочі процеси, як вимірюється якість і як захищаються інтереси клієнтів. Публічні повідомлення Shaip на своєму сайті тісно узгоджуються з цим позиціонуванням, що ставить довіру на перше місце.
Шукаєте партнера, який поєднує якість даних, оцінку людським фактором та корпоративне управління?
Ознайомтеся з Shaip's Сервіси даних штучного інтелекту, Рішення LLM та Безпека та відповідність.
Що таке належна перевірка постачальників штучного інтелекту (AI due diligence)?
Перевірка постачальника штучного інтелекту (AI due diligence) – це процес перевірки джерел даних постачальника, контролю якості, стану безпеки, готовності до відповідності вимогам, залежностей та моделі управління перед початком взаємодії.
Чому покупці ШІ повинні запитувати про залежності від відкритого коду?
Оскільки сучасний стек штучного інтелекту часто включає сторонні конектори, проміжне програмне забезпечення та інструменти з відкритим кодом, які можуть створювати ризики для подальшого використання. Інцидент з Mercor — нещодавній приклад того, чому це важливо.
Що робить постачальника даних про штучний інтелект сильним?
Сильний постачальник даних штучного інтелекту може пояснити походження, контроль якості людиною, можливість аудиту, контроль доступу, докази відповідності та те, як дані клієнтів захищаються з часом. Публічні матеріали Shaip підкреслюють ці принципи.
Чому важлива нейтральність даних?
Нейтральність даних допомагає зменшити ризик конфлікту інтересів, нечітких меж повторного використання та невідповідних стимулів у ланцюжку постачання даних штучного інтелекту.
