Компанія OpenAI анонсувала запуск технології Private Safety Processing, яка дозволить виявляти порушення в роботі штучного інтелекту без доступу розробників до конфіденційних даних користувачів. Новий інструмент запрацює у вересні 2026 року та забезпечить вищий рівень захисту при збереженні політики конфіденційності. Про це повідомляє OpenAI, інформує портал ПромПолітІнформ.
Розробка базується на принципах нульового збереження даних, що гарантує відсутність використання запитів корпоративних клієнтів для навчання моделей. Раніше системи безпеки аналізували кожен випадок окремо, однак ускладнення завдань штучного інтелекту потребує здатності розпізнавати небезпечні патерни через серію послідовних взаємодій.
Виявлення зловживань без порушення приватності
Система Private Safety Processing автоматично відстежуватиме потенційно шкідливу поведінку, навіть якщо дані зберігаються на інфраструктурі, яку контролює замовник. У разі виявлення ризиків OpenAI отримуватиме лише обмежений технічний сигнал, який не містить самого змісту запитів чи відповідей користувача.
Користувачі зможуть самостійно розслідувати інциденти за допомогою власних внутрішніх систем. Повний доступ до інформації для OpenAI надаватиметься лише у випадках, якщо клієнт самостійно вирішить розкрити дані для оскарження рішення або проведення розслідування щодо підтверджених порушень.
Захист чутливої корпоративної інформації
Новий підхід дозволяє організаціям працювати з високорівневими моделями, не порушуючи при цьому вимог безпеки чи конфіденційності. Компанія планує випустити технічний звіт та розпочати впровадження оновлень у вересні, забезпечуючи клієнтів підтримкою на кожному етапі інтеграції.
Ілюстративне фото: Dietmar Rabich / CC BY-SA 4.0
Читайте також: Провідні технологічні компанії домовились спільно боротися з онлайн-шахрайством
