Компания OpenAI анонсировала запуск технологии Private Safety Processing, которая позволит выявлять нарушения в работе искусственного интеллекта без доступа разработчиков к конфиденциальным данным пользователей. Новый инструмент заработает в сентябре 2026 года и обеспечит высокий уровень защиты при сохранении политики конфиденциальности. Об этом сообщает OpenAI, информирует портал ПромПолитИнформ.
Разработка базируется на принципах нулевого хранения данных, что гарантирует отсутствие использования запросов корпоративных клиентов для обучения моделей. Ранее системы безопасности анализировали каждый случай отдельно, однако усложнение задач искусственного интеллекта требует способности распознавать опасные паттерны через серию последовательных взаимодействий.
Выявление злоупотреблений без нарушения приватности
Система Private Safety Processing будет автоматически отслеживать потенциально вредоносное поведение, даже если данные хранятся на инфраструктуре, которую контролирует заказчик. В случае выявления рисков OpenAI будет получать только ограниченный технический сигнал, не содержащий самого содержания запросов или ответов пользователя.
Пользователи смогут самостоятельно расследовать инциденты с помощью собственных внутренних систем. Полный доступ к информации для OpenAI будет предоставляться только в тех случаях, если клиент самостоятельно решит раскрыть данные для обжалования решения или проведения расследования в отношении подтвержденных нарушений.
Защита чувствительной корпоративной информации
Новый подход позволяет организациям работать с высокоуровневыми моделями, не нарушая при этом требований безопасности или конфиденциальности. Компания планирует выпустить технический отчет и начать внедрение обновлений в сентябре, обеспечивая клиентов поддержкой на каждом этапе интеграции.
Иллюстративное фото: Dietmar Rabich / CC BY-SA 4.0
Читайте также: Ведущие технологические компании договорились совместно бороться с онлайн-мошенничеством
